Ramenez-moi au début, quand vous étiez encore en train de jeter les bases de ce qui allait devenir cette entreprise. Que se passait-il dans le monde et quel problème pensiez-vous qu'Anthropic était particulièrement apte à résoudre ?

C'est presque le cinquième anniversaire d'Anthropic plus tard cette semaine, et la façon dont nous avons commencé, c'est que mes six cofondateurs et moi travaillions tous ensemble chez OpenAI. Nous avions travaillé ensemble sur une gamme de projets différents, de la mise à l'échelle de certains des plus grands modèles, comme GPT-2 et GPT-3, à une grande partie des premiers travaux sur le langage qui ont fait partie de la révolution des LLM, aux travaux sur les lois de mise à l'échelle, et à beaucoup de travail sur l'aspect technique de la sécurité, spécifiquement l'interprétabilité et l'alignement. À un certain moment, nous avons eu l'impression d'avoir cette vision claire de l'entreprise que nous voulions construire.

Une entreprise technologique développant une IA transformative à la pointe, mais avec un accent très intense sur la sécurité et la fiabilité du système. À un moment donné, il nous a semblé plus logique de faire cela de notre côté, et c'est ainsi qu'Anthropic a été fondée. Pour situer le contexte, c'était l'hiver 2020 et le début de 2021. Nous étions tous enfermés chez nous au plus fort de la pandémie, et l'opportunité semblait à la fois effrayante et excitante à l'époque.

Il y a ce moment presque cinématographique que vous avez décrit en janvier 2021 dans le jardin de Dario. Tout le monde porte des masques, Eric Schmidt est là, et vous lui faites votre présentation sous une tente alors qu'il pleut à verse. Plongez-moi dans ce moment. Considérez-vous cela comme l'histoire d'origine de l'entreprise, ou à quel stade de la création de l'entreprise ce moment nous place-t-il ?

C'est incroyable. Je crois que c'était début janvier. Nous avons quitté OpenAI le 18 décembre et, début janvier, nous étions dans le jardin de Dario sous ce que nous appelions la tente de fête que nous avions installée parce qu'il pleuvait. Eric a fini par être l'un de nos investisseurs de série A. Nous avions pris la décision de lancer cette organisation, mais c'était encore le début et nous n'avions pas encore d'idée précise de ce à quoi cela allait ressembler. Nous avaient un grand rêve et de grandes idées. Autre fait amusant : j'étais enceinte de huit semaines de mon fils, et seul Dario le savait. Il se passait beaucoup de choses avec la pandémie, le port des masques et la distanciation sociale, mais nous avions ce grand rêve et beaucoup de choses en cours personnellement et professionnellement.

À ce moment-là, et non avec le recul, qu'est-ce que vous pensiez qu'OpenAI faisait de travers et qui justifiait de prendre le risque de partir ?

La façon dont je le dirais, c'est que nous avions plus l'impression de courir vers quelque chose que de fuir quelque chose. Les cofondateurs se connaissaient tous et travaillaient ensemble depuis plus longtemps que notre passage chez OpenAI. Dario, Chris Olah et Tom Brown avaient travaillé ensemble chez Google Brain. Jared était un boursier Hertz avec Dario. Dario et moi sommes frère et sœur, et je connaissais Chris depuis environ 13 ans. Nous avions une longue histoire commune en tant que groupe avec un ensemble de valeurs très similaires. Nous étions profondément convaincus que l'intelligence artificielle avait un potentiel incroyable, mais que pour le réaliser, nous devions prendre les risques au sérieux. Nous avons pensé à fonder une organisation où la sécurité et la fiabilité seraient au centre de tout ce que nous faisons. Nous pensions que cela apporterait une valeur économique et serait un argument de vente. À l'époque, l'idée que la sécurité et la fiabilité étaient corrélées au succès commercial semblait novatrice.

Et vous êtes la personne qui doit transformer le 'nous prenons la sécurité au sérieux' en stratégies concrètes. Qu'est-ce qui vous empêche de dormir la nuit ?

Il y a deux choses que je dirais sur le plan de la sécurité. La première est qu'il reste encore beaucoup de travaux techniques intéressants à découvrir sur la sécurité, et Anthropic a essayé d'être le leader de l'industrie dans ce domaine, de l'interprétabilité mécaniste à l'IA constitutionnelle. Nos équipes techniques passent du temps à trouver comment intégrer des garde-fous directement dans les modèles. Il y a toujours plus de travail à faire, et les modèles deviennent intelligents rapidement. La seconde concerne l'impact de la technologie sur la société de manière plus large. Anthropic est inhabituelle car nous publions des recherches sur les impacts sociétaux. Nous avons publié un rapport traitant des impacts économiques potentiels et des perturbations de l'emploi. Nous essayons d'être ouverts car il vaut mieux anticiper les problèmes potentiels. En tant qu'entreprise à mission (Public Benefit Corporation), il est de notre responsabilité d'en parler. Nous devons nous associer à la société civile et au gouvernement pour discuter de ce que cela signifie quand l'IA est capable d'effectuer de nombreuses tâches quotidiennes que les humains font aujourd'hui.

La transparence radicale est un élément central de votre philosophie. Vous avez mentionné ce rapport, mais vous avez également publié des données sur les capacités agentiques dans le contexte d'une campagne de cyberespionnage venant de Chine où Claude a été utilisé et essentiellement transformé en arme. Vous avez également publié des recherches portant sur un scénario fatal où Claude utilisait le chantage dans 96 % des scénarios. Vous l'avez rendu public comme un message d'intérêt général sur ce dont la technologie est capable. Lorsque vous rectifiiez le tir par rapport à ces exemples, quelle était la chose la plus urgente à résoudre dans votre agenda ?

Il est inhabituel pour une entreprise de parler aussi ouvertement à la fois des avantages positifs et des risques concrets. En tant qu'entreprise à mission, nous considérons cela comme faisant partie intégrante de notre mission. Nous pensons que Claude aura le pouvoir d'aider à guérir des maladies un jour, mais pour y parvenir, nous devons réussir les aspects difficiles. Il est avantageux pour tout le monde de parler des risques car notre objectif est d'empêcher que de mauvaises choses n'arrivent afin de réaliser les bénéfices positifs. Un dialogue plus éclairé mène à de meilleurs résultats. Nous avons accès aux informations pour parler des risques à mesure qu'ils apparaissent. Nous pouvons dire que Claude peut être utilisé comme une cyber-arme et que cela arrive probablement à d'autres développeurs de modèles de pointe. Dans les communautés de sécurité et de sûreté, une grande partie du travail peut transcender les entreprises individuelles. Nous publions des articles pour que les gens comprennent pourquoi certaines tendances apparaissent dans le domaine des abus. Si une entreprise de médias sociaux de l'ère précédente avait pu remonter le temps et savoir ce qui s'en venait, elle aurait peut-être fait les choses différemment. Anthropic fait de son mieux pour atténuer ces risques aujourd'hui.

Si l'on regarde les six derniers mois, le nombre de contrats de calcul signés dans toute l'industrie a été colossal. Gemini a comblé l'écart en termes de performance des modèles, et les analystes soulignent que Google possède l'intégralité de la pile, y compris les puces, le cloud et les interfaces. Anthropic se lance maintenant dans la construction de ses propres infrastructures, en engageant 50 milliards de dollars pour créer des centres de données à New York et au Texas. Est-ce une stratégie pour gagner la course à l'IA en devenant un constructeur d'infrastructures et en possédant davantage de la pile verticale ?

L'un des défis de l'exploitation dans le domaine de l'IA est que les besoins en calcul et en capital sont élevés si vous voulez entraîner un modèle de pointe. Nous avons toujours cherché à être judicieux avec nos ressources. Anthropic a disposé d'une fraction du calcul et du capital de ses concurrents, pourtant nous avons constamment eu les modèles les plus performants pendant la majeure partie des dernières années. Cela est dû à la qualité de notre équipe et à notre orientation consistant à faire plus avec moins. Les besoins en calcul pour l'avenir sont importants, nous aurons donc besoin de plus de calcul pour rester à la pointe à mesure que nous grandissons.

Environ 100 milliards d'engagements de calcul pour Anthropic, alors qu'OpenAI en est à 1,4 billion. De manière générale, dépensons-nous trop en calcul par rapport à ce que nous pouvons monétiser de manière fiable, ou ces chiffres sont-ils réalistes par rapport à ce qui est nécessaire pour servir l'utilisateur ?

Beaucoup de chiffres avancés ne sont pas exactement comparables en raison de la manière dont les transactions sont structurées. L'industrie mise sur la conviction qu'il faut investir dès maintenant pour avoir accès au matériel nécessaire à l'entraînement des modèles dans quelques années. Nous continuons d'être surpris par les lois de mise à l'échelle — l'idée que plus de calcul mène à de meilleurs résultats selon un graphique exponentiel. Dario a parlé de la performance des modèles et de l'échelle des revenus chaque année. Mes collègues disent que l'exponentielle continue jusqu'à ce qu'elle s'arrête. Chaque année, nous pensions qu'elle ne pourrait pas continuer, et chaque année, cela a été le cas. Historiquement, la performance d'une année sur l'autre semble raisonnablement exponentielle.

Nous avons parlé de contrats circulaires où les créateurs de modèles, les fournisseurs de matériel et les vendeurs de cloud échangent de l'argent ou des parts contre des puces. Quelle part de cela relève d'un mécanisme vertueux et où voyez-vous des signaux d'alarme ?

Je ne peux pas commenter les accords qui n'ont pas été conclus chez Anthropic ou les détails de nos propres accords, mais tous les accords ne se valent pas.

L'accord entre Microsoft et Nvidia est-il un bon exemple ?

Ils varient tous et, pour des raisons juridiques, nous ne pouvons pas entrer dans les détails. Différents acteurs ont des approches différentes en matière de calcul et de capital. Anthropic a constamment disposé d'une fraction des ressources de ses concurrents, et pourtant nous avons pu faire plus avec moins. À l'avenir, les fournisseurs de modèles feront partie de ce mécanisme. Nous sommes déjà le premier LLM proposé sur les trois principaux clouds : Microsoft, Amazon et Google. Je suppose qu'il continuera d'y avoir beaucoup de création de valeur, particulièrement dans le domaine des affaires. Anthropic se concentre d'abord sur les entreprises, et la demande pour nos modèles a été difficile à satisfaire. Au cours de l'année écoulée, nous avons eu plus de demande pour Claude que d'offre d'un point de vue du calcul.

Côté matériel, comment envisagez-vous l'amortissement de ces puces ? Prévoyez-vous un cycle de vie de trois ou quatre ans ou envisagez-vous d'exploiter les GPU jusqu'à 10 ans ?

Je ne suis pas une experte côté puces, mais ma compréhension globale est que, tout comme pour les LLM où chaque modèle de pointe est suffisamment meilleur pour qu'une entreprise préfère le nouveau modèle, c'est similaire dans le domaine du matériel. Les puces de nouvelle génération sont plus performantes, rentables et efficaces, il est donc souvent utile d'accéder aux nouvelles puces.

Je m'en voudrais de ne pas vous demander si nous sommes dans une bulle de l'IA. Je ne veux pas dire que la technologie n'est pas réelle, mais que la courbe des dépenses dépasse la courbe des revenus. Pensez-vous que nous soyons dans une bulle ?

Je ferais une distinction entre l'aspect technologique et l'aspect commercial ou économique. Côté technologique, Anthropic est convaincue que les progrès ne ralentissent pas. D'après tout ce que nous avons vu, les modèles continuent de s'améliorer à un rythme prévisible. Côté économique, il faut du temps pour que la technologie soit utilisée dans un contexte professionnel. La vraie question est de savoir à quelle vitesse les entreprises et les individus peuvent exploiter la technologie. Bien que Claude 5 ou 6 puisse être meilleur, le déploiement de cette technologie au sein d'une organisation pourrait se heurter à un mur pour des raisons humaines comme la gestion du changement et l'approvisionnement. C'est une question intéressante de savoir à quel rythme cela se diffusera dans l'économie et si cela correspondra au rythme d'accélération de la technologie.

Dans cette optique, pensez-vous que nous surinvestissons actuellement soit dans les fournisseurs de modèles, soit dans la chaîne d'approvisionnement matériel ?

Les montants en dollars sont élevés, mais le nombre d'acteurs est faible. Nous avons vu que les retours sur un meilleur matériel et le fait d'avoir un modèle même légèrement meilleur sont élevés. Nous l'avons constaté de manière fiable tout au long de notre histoire chez Anthropic. Je ne dirais pas nécessairement qu'il y a surinvestissement, mais avec un nombre limité d'acteurs, si quelque chose ne va pas dans un maillon de la chaîne, il serait intéressant de voir ce qui se passe.

Où en sommes-nous dans ce cycle ? Qu'on appelle cela l'éclatement d'une bulle ou une correction de base de l'effervescence que nous observons. Est-ce quelque chose qui pourrait se produire dans un délai de 6 à 12 mois et prenez-vous des décisions pour vous préparer à un ralentissement ?

Anthropic se considère comme un gestionnaire de capital réfléchi et respectueux. Chaque dollar de calcul représente la capacité d'entraîner de meilleurs modèles ou de servir plus de clients. Nous avons des prévisions pour la qualité de nos modèles, le calcul dont nous avons besoin pour l'entraînement et l'inférence, et la valeur que nous prévoyons de fournir. En tant qu'entreprise responsable, nous serions en bonne position quels que soient les changements du marché. Notre objectif est de toujours être des gestionnaires de capital responsables.

Parlons des prochaines étapes pour Anthropic. Une acquisition est probablement exclue en raison des lois antitrust et de votre taille. Une introduction en bourse est-elle envisagée pour 2026 ?

Nous n'avons rien de spécifique à partager. Anthropic a toujours essayé d'être responsable avec le capital dont elle dispose et nous évaluons toujours quel est le meilleur endroit pour accéder au capital dont nous avons besoin.

Amazon reste votre plus grand soutien stratégique, mais vous avez ajouté de nouveaux noms à votre capital, comme Google, Microsoft et Nvidia. Google est aussi un rival dans la course aux modèles. Comment gérez-vous ces relations avec les géants de la tech alors que vos partenaires ont des ambitions divergentes ?

Cela souligne le désir intense pour cette technologie sur le marché des entreprises. Le fait qu'Anthropic soit proposé sur les trois clouds est intéressant, même avec un concurrent. Les hyperscalers observent ce qui arrive à leurs utilisateurs d'un point de vue commercial. Chaque entreprise du Fortune 500 estime qu'elle doit avoir une solution d'IA. En raison de notre concentration sur les entreprises, nous sommes souvent le modèle que les clients veulent utiliser. Être disponible là où les clients ont besoin de nous a été une priorité majeure. De nombreux clients ont des relations existantes avec des fournisseurs de cloud, et c'est un moyen naturel pour eux d'accéder au marché des LLM.

Anthropic ne s'est pas autant soucié de capturer l'air du temps culturel qu'OpenAI avec ChatGPT. Ce pari unique sur le client d'entreprise s'est avéré être le plus judicieux. Comment avez-vous su dès le début que le marché des entreprises était celui qu'il fallait viser ?

Je ne dirais pas que nous le savions avec certitude, mais Anthropic, en tant qu'organisation, est bien adaptée pour être une entreprise B2B. Nous nous soucions de la fiabilité, de la sécurité et de la sûreté, ce qui est ancré dans notre ADN. Une partie de la raison pour laquelle nous avons fondé Anthropic était de capturer le potentiel positif et d'atténuer les risques, et les entreprises apprécient cela. Aucun client d'entreprise ne m'a jamais demandé que Claude hallucine davantage ou produise du contenu nuisible. Le niveau d'exigence plus élevé en matière de sécurité dans les entreprises convenait bien à Anthropic dès le premier jour. De plus, notre théorie économique était que, bien que ces modèles soient excellents pour le divertissement, ils ressembleraient finalement davantage à des outils pour aider aux tâches productives que les humains effectuent, comme écrire du code ou résumer des informations. Fin 2020, nous avons vu un avenir où Claude était capable de tâches professionnelles de haute intelligence, et nous pensions que c'était un marché important. Il était logique pour nous d'être une organisation orientée vers les entreprises.

Les entreprises mettent l'accent sur la sécurité, mais elles veulent toujours plus de fonctionnalités, comme des capacités agentiques. Y a-t-il quelque chose que vos clients demandent et que vous n'êtes pas encore à l'aise de leur donner en raison des garde-fous de sécurité ?

Nous n'avons pas encore rencontré de cas d'utilisation où la sécurité est entrée en tension avec une fonctionnalité. Il y a une complexité à s'assurer que les modèles sont à la pointe. Il y a eu des moments où nous avions un modèle prêt en interne mais devions faire plus de tests de sécurité avant de le publier. Notre priorité est de s'assurer que les modèles que nous mettons sur le marché sont aussi sûrs que possible.

Quand on pense au passage à l'échelle, certaines décisions ont dû évoluer. Au début, l'entreprise disait qu'elle n'accepterait pas de financement du Moyen-Orient, puis cela a changé. Comment gérez-vous les principes de départ tout en devant évoluer pour rester compétitifs ?

Anthropic a été assez constante dans le maintien de ses valeurs à mesure qu'elle grandissait. La structure de PBC et notre mission en tant qu'entreprise à mission ont été notre étoile polaire. Nous nous demandons si nous construisons pour le bien commun et si nous essayons de faire en sorte que la transition vers l'IA se passe bien. Nous sommes ouverts avec nos employés, nos recrues et nos investisseurs sur l'identité d'Anthropic et sur nos valeurs. Cela a facilité la gestion de la majorité des situations, même les plus délicates.

Une critique est que le fait de s'appuyer sur une mission de sécurité crée un avantage concurrentiel protégé pour les laboratoires originaux, leur permettant de rester compétitifs grâce à la réglementation au détriment des startups. Que répondez-vous à cela ?

Un pourcentage élevé de startups sont des utilisateurs de Claude. Le développement de modèles de pointe est davantage limité par les besoins en calcul et en capital. Anthropic a vu un écosystème florissant de startups nées de l'IA. Tout comme il y avait des entreprises nées du numérique il y a quelques années, il y a maintenant des entreprises nées de l'IA construites autour de l'intelligence artificielle, et la majorité d'entre elles sont construites sur Claude. Notre capacité à influencer cet écosystème repose sur la construction des meilleurs modèles et des plus sûrs de l'industrie.

La sécurité n'est pas une position populaire à Washington, D.C., en ce moment. Comment gérez-vous cette réalité politique sans la laisser déformer le travail ?

Anthropic a toujours cherché à se concentrer sur les politiques publiques plutôt que sur la politique. Nous avons trouvé un terrain d'entente de part et d'autre de l'échiquier politique sur des sujets tels que le maintien de la domination de l'IA et la garantie que les modèles soient bons pour les enfants et les adultes. L'intelligence artificielle est un domaine nouveau, et nous visons à être ouverts d'esprit et curieux sur les meilleures façons de développer la technologie de manière sûre et sécurisée. Nous cherchons toujours à apprendre, c'est pourquoi nous publions nos recherches.

Que pensez-vous de l'altruisme efficace aujourd'hui ? Cela faisait partie de l'histoire de votre création, de vos premiers recrutements et de votre financement. Cela fait-il toujours partie de la culture interne, ou est-ce quelque chose qui est projeté sur Anthropic en 2025 ?

Projection est le terme le plus proche. Au début des années 2010, peu de gens envisageaient que l'IA puisse être aussi puissante qu'elle l'est, et ceux qui le faisaient se recoupaient souvent avec les personnes préoccupées par les risques. Les premières équipes d'OpenAI et d'Anthropic étaient concentrées sur les risques, mais le plus grand différenciateur avec Anthropic est que nous nous concentrons également sur les aspects positifs. Il y a un potentiel incroyable pour l'IA en médecine, dans les soins de santé et les services financiers, mais les choses peuvent mal tourner si nous ne la construisons pas de manière sûre.

Il y a une certaine mystique qui entoure Anthropic. On dirait que les gens au sein de l'entreprise ressentent cela comme un système de croyances. Comment décririez-vous la culture d'un employé d'Anthropic ? Vous ne dévoilez pas votre jeu tant que quelque chose n'est pas prêt.

Je ne sais pas pour la mystique, mais c'est un sentiment agréable. L'une des choses dont nous discutons en interne est de ne pas croire au battage médiatique. Cela revient à l'économie. Pour nous, il n'a jamais été question de chercher l'attention ou de faire la une des journaux ; nous sommes ici pour faire le travail, de l'entraînement des modèles à l'accompagnement de nos clients. Le fait d'être une entreprise orientée B2B nous rend plus terre-à-terre. Nous sommes ici pour apporter de la valeur aux entreprises. Ce travail est extrêmement important et nous aide à ne pas céder au battage médiatique. Nous sommes une entreprise à mission concentrée sur nos clients, et il peut être facile de se laisser distraire si ce n'est pas votre étoile polaire.

Yann LeCun et d'autres disent que les LLM ne nous mèneront pas à l'AGI. Quelle est la percée nécessaire pour débloquer l'AGI ? Devrez-vous vous diversifier au-delà des LLM pour rester compétitifs ?

AGI est un terme amusant. Il y a des années, c'était un concept pour décrire quand l'IA serait aussi capable qu'un humain, et selon certaines définitions, nous avons déjà dépassé cela. Claude peut certainement écrire du code mieux que moi et aussi bien que de nombreux développeurs chez Anthropic. Beaucoup des meilleurs ingénieurs disent que Claude est capable de faire une grande partie de leur travail. Le concept d'AGI est compliqué. D'un autre côté, Claude ne peut toujours pas faire beaucoup de choses que les humains peuvent faire. Peut-être que la structure elle-même est dépassée. On ne sait pas si nous parviendrons à une IA plus puissante sans d'autres percées. Développer la technologie est un mélange de science et d'ingénierie. Il existe différentes approches pour atteindre cet objectif, mais les progrès ne semblent pas ralentir. Les choses vont continuer à devenir plus performantes avec le temps et nous devrions nous y préparer.

Vous et Dario avez des compétences très différentes. Dans quels domaines êtes-vous forte là où un fondateur technique ne l'est pas, et comment aidez-vous Dario à s'améliorer ?

C'est un privilège de diriger Anthropic avec mon frère. Nous avons une relation spéciale parce que nous nous connaissons depuis toujours. Dario a une capacité unique à voir l'avenir. D'un point de vue technique, il a historiquement eu de bons instincts sur l'évolution de la technologie et ce qu'elle signifiera pour les personnes et les organisations. Il a un style de leadership visionnaire. Je suis très pragmatique, j'adore donc diriger l'organisation. Je passe du temps avec l'équipe de direction, je recrute les personnes qui gèrent l'entreprise et je réfléchis à ce que signifie être un client d'Anthropic et à la manière dont nous construisons une entreprise durable. Dario et moi nous aidons mutuellement. Il me pousse à réfléchir à la vision d'ensemble, et je l'aide à réfléchir à la manière de construire une organisation pérenne, durable et composée de personnes formidables.

Parfait, nous en resterons là. Merci beaucoup.

Génial. Merci.