Très bien, bon après-midi à tous. Est-ce que vous passez tous un bon moment ?

Oh, fantastique, incroyable. Êtes-vous prêts pour Metallica ? Êtes-vous prêts pour Benson Boone ? Levez la main si vous allez voir Metallica. Génial. Qui a hâte de voir Benson Boone ? Très bien, nous avons donc un mélange. Veuillez accueillir Dario.

Salut, Marc. Merci de m'avoir invité.

Très bien, ravi de t'avoir, Dario. Bienvenue.

Merci.

Nous sommes ravis de vous accueillir, Dario, et de vous présenter au public. Nous avons eu un excellent partenariat, avec de nombreuses occasions de s'exprimer et de travailler avec les clients et de construire de la technologie ensemble. C'était excitant d'utiliser votre modèle à l'intérieur de Slack avec notre nouveau bot. Alors que je parlais de vous à des amis, nous avons appris à nous connaître, mais beaucoup de gens ne vous connaissent pas. Parlez-leur un peu de vous, de vos débuts et d'où vous venez. Je poserai quelques questions fondamentales en cours de route, mais commencez par le début.

J'ai grandi ici même à San Francisco. Je m'intéressais à l'origine à la science, pas à la technologie en soi. J'ai fait mes études de doctorat en neurosciences et j'ai été postdoctorant en biologie computationnelle à Stanford. En travaillant sur la résolution de problèmes biologiques comme le cancer, j'ai remarqué que la complexité dépassait l'échelle humaine. J'ai commencé à désespérer de pouvoir progresser rapidement ; les diagrammes du métabolisme humain dépassent tout simplement l'échelle humaine. Presque exactement au moment où je m'interrogeais à ce sujet, les premiers travaux sur les réseaux de neurones profonds sont sortis de Google et de l'Université de Toronto. J'ai reproduit certains résultats et j'ai vu que ce truc fonctionnait vraiment et allait aller loin. Je me suis lancé dans l'IA, j'ai travaillé chez Google, j'ai rejoint OpenAI au début et j'y ai dirigé la recherche pendant plusieurs années. J'étais l'une des personnes qui ont documenté la tendance de la mise à l'échelle exponentielle. Les cofondateurs d'Anthropic ont été parmi les premiers à étudier la mise à l'échelle. Vers 2019, j'ai eu deux prises de conscience. Un : l'IA va monter en flèche et remodeler l'économie. Nous y sommes presque maintenant. Deux : ces systèmes sont différents des logiciels ordinaires. On n'écrit pas chaque ligne de code. Construire un logiciel, c'est comme construire un gratte-ciel ; ceci est plus biologique et organique. On fait croître ces modèles en définissant une recette de haut niveau. Cette imprévisibilité, combinée à l'impact économique, signifie que la sécurité et la responsabilité sont importantes pour garantir que les modèles se comportent de manière prévisible. Nous devons nous assurer de les déployer de manière responsable. C'étaient les deux piliers sur lesquels les sept cofondateurs qui ont quitté OpenAI pour fonder Anthropic ont basé notre vision. Anthropic existe depuis quatre ans et demi et nous nous développons rapidement. Par les revenus, nous avons au moins une pluralité de clients d'entreprise alors que la plupart des autres acteurs se concentrent sur le côté grand public. Les valeurs de confiance et de responsabilité sont en synergie avec le service aux entreprises. Ces valeurs nous aident à servir l'entreprise, et avoir un modèle d'affaires qui sert l'entreprise nous aide à renforcer nos valeurs.

Une chose, et vous êtes allé vite sur la création de l'entreprise et votre départ fulgurant de Google et OpenAI vers Anthropic, mais vous n'avez pas mentionné votre sœur. C'est l'une des choses qui m'a d'abord choqué quand nous avons commencé à vous connaître : votre sœur et vous travaillez ensemble sur cette entreprise. Pouvez-vous nous raconter l'histoire de l'origine ?

Il y a sept cofondateurs et Daniela et moi en faisons partie. Comme je l'ai mentionné, nous avons tous les deux grandi à San Francisco et sommes allés au lycée Lowell. Très tôt, nous avons compris que nous voulions faire quelque chose.

Ma mère est allée à Lowell et elle est assise juste là, donc elle va être très heureuse d'entendre ça.

Incroyable. C'était un endroit génial. Daniela avait quatre ans de moins que moi, donc nous n'étions jamais là la même année, mais j'y suis resté quatre ans, puis elle y est restée les quatre suivantes. Très tôt, nous avons eu l'ambition de faire quelque chose de bien pour le monde, d'avoir un grand projet et de travailler ensemble. Beaucoup de frères et sœurs ont ces ambitions, mais d'une manière ou d'une autre, les choses se sont passées pour que nous puissions le faire. Elle m'a rejoint chez OpenAI en 2018. Ensuite, nous deux, ainsi que d'autres personnes avec qui nous travaillions, dont beaucoup étaient des amis de longue date, avons décidé de lancer Anthropic. Daniela et moi dirigeons essentiellement l'entreprise ensemble. Elle est responsable du fonctionnement quotidien de l'entreprise, de la manière dont l'entreprise est structurée, du fonctionnement de l'organisation, de ses processus, et elle s'occupe d'une bonne partie des affaires sur le plan structurel. Je ne pourrais pas diriger l'entreprise sans qu'elle s'occupe de ces choses. Je m'occupe du côté stratégique : l'orientation de la recherche, nos plans stratégiques, la manière dont nous envisageons la sécurité, ainsi que le rôle de l'entreprise dans le monde et sa vision. Je trouve que c'est une bonne répartition parce que nous pouvons tous les deux faire les deux parties, mais il est difficile de passer d'un mode opérationnel à un mode visionnaire. Les deux personnes peuvent être plus efficaces si vous séparez les rôles.

Merci de m'avoir permis de revenir là-dessus car c'est une partie tellement importante de l'entreprise et de la culture. L'année dernière, elle était ici et maintenant c'est vous. Nous vous connaissons depuis le début. Salesforce possède un petit pourcentage d'Anthropic, nous sommes donc heureux d'être un investisseur.

Investisseur de la toute première heure.

Investisseur de la toute première heure, nous croyons en vous. Je pense que nous avons investi quand la valorisation était de quatre milliards, est-ce exact ?

Je ne sais pas, mais quoi que ce soit, c'était trop élevé.

Avant de dire que c'est trop élevé, calculez combien de fois cela a augmenté depuis lors.

Nous avons gagné de l'argent jusqu'à présent. Je suis ravi que nous fassions partie de votre voyage ; nous adorons travailler avec vous et Daniela. Pour en revenir à l'histoire de vous, de votre sœur et de vos amis qui ont lancé cette entreprise à San Francisco : vous êtes venus nous voir quand nous consolidions l'immobilier et nous avons eu une conversation sur le fait que vous repreniez le bâtiment Slack après que nous venions d'acheter Slack.

Ce que nous avons fait.

Et maintenant vous êtes dans le bâtiment Slack, donc vous êtes juste sur le parc avec nous, regardant la tour de votre fenêtre.

Je crois que mon bureau était autrefois le bureau de Stewart.

Ancien bureau de Stewart, très bien. Il m'est apparu que vous voici, un San-Franciscain, juste sur le parc avec nous, juste dans la tour, et nous sommes un investisseur. C'est une partie critique de Slack aujourd'hui ; on ne pourrait pas utiliser Slack sans cela. Vous êtes à la pointe de ces modèles. C'est incroyable et vous avez été visionnaire dès le début. Je ne vous ai rencontré qu'après que vous ayez lancé l'entreprise. Dites-nous quelles étaient vos attentes. Quelle a été votre plus grande surprise depuis seulement quatre ans et demi ou cinq ans que vous avez franchi la porte et dit au revoir à Sam ? Vous avez dit : « Daniela, on va lancer ça ». Quel a été votre plus grand choc ?

Il y a eu tellement de moments parce que les quatre dernières années et demie ont été surprenantes dans l'ensemble. À un haut niveau, il y a une dichotomie où tout ce que nous avons vu était prédit par ces lignes droites sur les graphiques que j'ai faits avec les lois de mise à l'échelle : des constructions de centres de données énormes, la façon dont les revenus augmentent de 10 fois par an, et l'utilisation à travers l'économie. On pouvait tout voir dans des gribouillis sur la page. Mais voir cela se réaliser est fou. Beaucoup de choses individuelles que je vois se produire, je ne m'y serais jamais attendu. Une chose surprenante est que nous avons quitté une entreprise et en avons lancé une autre. Au fur et à mesure que vous construisez une entreprise, vous voyez les chemins diverger et vous voyez une différenciation à travers les personnes que vous embauchez et les choix que vous faites. OpenAI est allé dans la direction grand public ; nous sommes allés dans la direction entreprise. La façon dont nous abordons les choses est très différente. Vous avez cette structure de marché où deux entreprises sont comme une expérience naturelle, adoptant des approches très différentes. Les deux existent dans l'écosystème, mais les approches sont très différentes.

Et réfléchissez à votre passage chez Google ; ils sont aussi là avec Gemini, un modèle de premier plan. Comment les voyez-vous ? Les voyez-vous comme un mélange ?

Google est un partenaire et un investisseur. Évidemment, leurs modèles nous concurrencent. Cette dynamique de coopétition devient de plus en plus courante. Comme nous avons des couches comme la couche de puces, la couche de cloud, la couche de modèle et la couche de mise sur le marché, diverses entreprises sont impliquées dans plus d'une. Il n'est pas rare que des entreprises coopèrent dans un domaine et se concurrencent dans un autre. Je suis ami avec Demis Hassabis depuis 15 ans ; il a été l'un des seuls à voir avant moi le potentiel de la technologie. Il a aussi une formation en neurosciences. Cela nous aide à nous entendre même s'il y a des aspects compétitifs entre les entreprises.

Quelle a été votre réaction lorsqu'il a remporté le prix Nobel cette année ?

J'étais très heureux pour Demis. J'écrivais un essai sur le potentiel de l'IA en biologie intitulé « Machines of Loving Grace ». Deux jours avant de publier, Demis et ses collègues ont remporté le prix Nobel pour AlphaFold. J'ai fini par dédier l'essai aux lauréats 2024 du prix Nobel de chimie parce que c'était un exemple du futur dont je parlais.

Très excitant. Pour en revenir à votre croissance et celle de Daniela avec l'entreprise à San Francisco : quelles sont les caractéristiques des modèles que vous examinez actuellement qui sont les plus surprenantes ? Qu'est-ce qui est excitant alors que vous voyez les prochaines générations se déployer ?

De manière générale, c'est le saut vers les capacités agentiques.

C'était quoi ? Je n'ai pas entendu le mot.

Capacités agentiques. Transformer les modèles en agents.

J'ai l'oreille droite un peu faible, c'est tout.

Je pensais sincèrement que vous n'aviez pas entendu. Je comprends.

C'était très drôle, n'est-ce pas ? D'accord.

C'est un mot à la mode et vous avez contribué à en faire un, mais c'est une chose réelle : être capable d'effectuer des tâches de bout en bout d'une manière qui n'était pas possible auparavant. Nous le voyons davantage dans le code, mais le code n'est qu'un indicateur avancé. Dans des tâches comme les services financiers, la santé, l'assurance ou la fabrication — les industries réglementées dans notre partenariat — les agents sont tout aussi précieux. On veut faire les choses de bout en bout. Dans les flux de travail de vente et de gestion client, on veut enchaîner les choses et faire en sorte que les modèles intègrent le contexte, apprennent et accèdent aux informations. Les codeurs sont des adoptants précoces et nous ont donné un aperçu de l'avenir. Nous allons voir un pic similaire dans d'autres domaines.

J'ai quelques questions dans ce domaine. D'abord, quand nous avons commencé, nous avons surtout parlé de l'AGI. L'AGI était définie comme le modèle étant récursif, se construisant lui-même et évoluant. Nous avons eu Brett Adcock sur scène plus tôt qui expliquait comment le robot avait décollé et s'auto-répliquait. C'était convaincant. Il y a quelques années, nous parlions du modèle qui se construisait lui-même. Ça ne s'est pas passé exactement comme ça, n'est-ce pas ? Nous n'en sommes pas encore là, n'est-ce pas ?

Je séparerais deux choses. Quand nous parlons d'IA, il y a un vernis de science-fiction qui est utile comme métaphore mais qui peut être distrayant. Certaines choses sont réelles. Tous les trois mois, nous créons un modèle plus intelligent que le précédent ; les modèles deviennent lentement meilleurs que la plupart des humains dans la plupart des domaines, et finiront par être meilleurs que tous les humains dans tout. Le modèle ne se construit pas lui-même au sens où une copie du modèle fabrique la copie suivante. Nous n'avons pas de robots auto-réplicants. Mais au sein d'Anthropic et ailleurs, nous utilisons Claude pour aider à construire des produits par-dessus Claude, entraîner le prochain Claude et servir Claude plus rapidement. Il y a six mois, j'avais prédit que dans six mois, 90 % du code serait écrit par des modèles d'IA. Au sein d'Anthropic et de plusieurs entreprises avec lesquelles nous travaillons, c'est tout à fait vrai.

Vous dites donc que 90 % de tout le code chez Anthropic est écrit par le modèle aujourd'hui ?

Dans de nombreuses équipes, pas uniformément partout.

Est-ce quelque chose sur lequel vous avez fourni des éléments vérifiables ou montré comment cela s'est produit ?

Les équipes jouent un rôle d'édition et de supervision. Claude peut écrire une fonctionnalité et l'humain examine le code ou demande l'aide d'un autre modèle. Parfois, nous avons des bogues persistants. Lorsque nous entraînions le Claude récemment sorti, le cluster était en panne et les ingénieurs ont passé des jours dessus. Nous avons demandé à Claude de regarder le cluster, et Claude a trouvé un bogue super obscur que les ingénieurs avaient manqué. Claude est comme un coéquipier très talentueux.

Si Claude écrit 90 % du code, avez-vous besoin de moins d'ingénieurs ? Quand est-ce que ce sera 95 % ou 99 % ?

Si Claude écrit 90 % du code, cela ne signifie pas que nous licencions 90 % des ingénieurs. Si vous connaissez le principe de l'avantage comparatif...

Vous avez fait des commentaires agressifs sur le licenciement de cadres.

Je veux faire le lien.

Une chose que j'ai apprise en vous connaissant, c'est que je dois revenir vers vous pour cette question de précision parce que vous allez vite. J'essaie de suivre, mais je veux m'assurer de bien comprendre ce que vous voulez dire.

Absolument. Selon l'avantage comparatif, si Claude écrit 90 % du code, vous avez besoin d'autant d'ingénieurs logiciels — vous en aurez peut-être besoin de plus car ils peuvent avoir un effet de levier plus important. Ils peuvent se concentrer sur l'édition du code, l'écriture des 10 % les plus difficiles ou la supervision des modèles d'IA. On finit par être dix fois plus productif parce que les 10 % restants complètent le système d'IA. C'est un rééquilibrage du travail, pas un remplacement. Au fur et à mesure que ces 90 % passent à 95 ou 99 et sont totalement automatisés, il se peut qu'il y ait un moment où tout devienne imprévisible.

Quel est votre horizon temporel pour cela ? C'est un grand saut.

C'est difficile à dire. Nous cherchons des moyens d'encourager la complémentarité.

Voyez-vous cela à court ou à long terme ? Est-ce un objectif à cinq ans ou à dix ans ?

Je suis optimiste quant à la complémentarité à court terme. Je m'inquiète toutefois à mesure que nous arrivons à un horizon de deux à cinq ans qu'il y ait des perturbations du travail dans toute l'économie. Ce n'est pas fondamentalement différent des technologies précédentes, mais cela opère plus vite et c'est plus large parce que cela concerne toute la cognition.

Vous pensez que c'est dans les deux à cinq prochaines années ?

Deux à cinq ans.

À quel moment le modèle écrira-t-100 % du code ?

C'est une question délicate car même si le modèle écrit 100 %, les humains continuent de superviser ou de donner des instructions. Il y a toujours quelque chose à faire pour nous. L'avantage comparatif est astucieux. Je m'inquiète de la capacité des gens à s'adapter alors que les emplois changent si vite.

Vous avez mentionné les soins de santé, mais nous avons vu des études contradictoires récemment concernant la précision. Comme ce sont des modèles de langage, la précision n'est pas de 100 %. En radiologie, nous avons vu des études où nous ne voyions pas la précision d'un radiologue reflétée dans le modèle. Est-ce ainsi que vous voyez les choses pour l'avenir ?

Là où nous en sommes maintenant, les gens voient les modèles comme un second avis. On ne leur fait pas confiance aveuglément, tout comme si un médecin me dit quelque chose, je ne le prends pas nécessairement pour argent comptant. Ce sont des experts et ils ont souvent raison, mais pas toujours.

Surtout en radiologie, il semble que l'IA ne parvienne pas à maîtriser le sujet. Est-ce un manque de données ou est-ce trop nuancé ? Qu'est-ce que c'est ?

Laissez-moi vous raconter une histoire sur un cas où cela a fonctionné. Ma sœur a récemment eu son deuxième enfant. Pendant sa grossesse, elle a contracté une infection grave. Plusieurs médecins pensaient que c'était viral. Pour une raison quelconque, aucun n'a pensé à une infection bactérienne. Elle a téléchargé ses données sur Claude, et Claude a listé systématiquement des possibilités que les médecins avaient manquées.

C'est incroyable. Combien d'entre nous ont utilisé des modèles pour la santé ? Levez la main. C'est incroyable là où on peut dire — combien d'entre vous, les hypocondriaques, font ça ? Levez la main.

Claude a listé des possibilités. Si elle avait suivi aveuglément les conseils, cela ne se serait pas bien passé. Claude était bon pour dire : « Avez-vous envisagé cela ? ». Il a une capacité d'assistance et d'augmentation.

Surtout en ce qui concerne les mots, n'est-ce pas ?

La lecture d'images relève davantage de modèles spécialisés. Si vous n'avez pas les bonnes données, il ne réussit pas bien.

Est-ce le cœur du problème en radiologie ? On dit que cela améliorera les soins de santé, mais on a vu des études où des médecins se fiant trop aux modèles avaient de mauvais résultats, ou des modèles lisant la radiologie n'étaient pas précis. Il y a une étrange bifurcation.

Il reste beaucoup à faire concernant le rôle de l'humain et le rôle du modèle. Cela change à mesure que les modèles s'améliorent. On voit souvent dans les nouvelles technologies que les questions pratiques sur la façon de les utiliser prennent du temps à être résolues.

Vous pensez donc qu'il s'agira d'humains et d'agents travaillant ensemble ?

Exactement. Le modèle de collaboration doit être mis au point dans ces domaines pratiques. Le code est un bon exemple ; les développeurs sont des adoptants précoces, et ce cycle s'est produit en quelques mois. Les gens parlent dans des articles de blog de la meilleure façon d'utiliser Claude : est-ce que je veux qu'il suggère et que je fasse des modifications ? En quelques mois, ils trouvent la meilleure façon de l'utiliser. La même chose se produit dans les soins de santé et la radiologie, mais parce qu'il y a des barrières dans ces industries, le processus est beaucoup plus lent.

C'est donc une chose collaborative. Claude écrit du code, mais il y a une meilleure façon pour un développeur de travailler avec lui. Ce n'est pas du 100 %, il écrit du code, puis vérifie et maintient l'infrastructure. Est-ce la bonne façon d'y penser ?

C'est la bonne façon d'y penser maintenant. À mesure que les modèles deviennent plus forts, la collaboration peut évoluer vers une supervision plus distante. Il est difficile de dire ce qui se passera dans six mois, mais ce que vous avez dit est une description précise de l'endroit où nous en sommes avec Sonnet 4.5.

Qui est l'un des meilleurs codeurs que nous ayons vus, n'est-ce pas ?

Nous avons des tests de référence pour la fraction de PR GitHub que cela peut écrire. Au cours de l'année et demie écoulée, c'est passé de 5 % — ce qui signifie qu'il ne pouvait pas coder du tout — à 77 %.

Et cela donne naissance à un écosystème comme Agentforce ou Lovable. Est-ce une surprise de voir un écosystème par-dessus le modèle ?

C'est génial de voir ça. Il existe de nombreux modèles : GitHub Copilot, Cursor, Lovable, Replit. Il y a tout un écosystème, y compris des outils de ligne de commande comme Claude Code. Il est trop tôt pour dire s'il y aura un seul gagnant ; différentes choses fonctionnent pour différentes personnes.

C'est toute une civilisation de capacités. C'est impressionnant. Lequel de ceux-là n'aviez-vous pas prévu ?

Permettre aux non-codeurs d'écrire du code. Cela semble logique maintenant et fonctionne comme un modèle d'affaires, mais quand je conceptualisais...

Quel produit préférez-vous ?

Vos clients sont comme vos enfants ; vous ne devriez pas donner de réponse. Je ne vais donc pas le faire.

Commencez-vous à cerner Dario ? J'essaie de vous aider à comprendre comment il réfléchit. Vous avez quitté OpenAI, ça décolle, vous êtes dans le bâtiment Slack. Où en serez-vous dans cinq ans ? Quel est votre rêve pour Anthropic en 2030 ?

J'ai écrit un essai intitulé « Machines of Loving Grace » sur les aspects positifs de l'IA. Je crois incroyablement aux bénéfices. Je suis surtout enthousiasmé par ce qu'elle peut faire pour guérir les maladies. Pour en revenir à mon expérience en biologie, l'IA est le bon outil pour guérir le cancer ou Alzheimer. Je pense au travail que nous pouvons accomplir avec les sociétés pharmaceutiques et les systèmes de santé. Notre partenariat concerne les industries réglementées, en particulier la santé. Je suis également enthousiasmé par les services financiers et l'assurance. Ma vision est celle d'une entreprise qui transforme chaque entreprise en plaçant l'IA au centre. Une entreprise est une superintelligence ; elle agit dans le monde avec une stratégie et des connaissances qui dépassent tout être humain individuel. Même si les modèles deviennent plus intelligents que n'importe quel humain, il y a un plafond plus élevé que cela en termes de ce qu'une entreprise essaie de faire. Nous voulons être connus comme l'entreprise digne de confiance qui se comporte de manière responsable. Si vous construisez sur nous, vous n'aurez aucune surprise.

Y a-t-il certaines entreprises que vous essayez d'insinuer ?

Aucune. Il y a un entrepreneur à Palo Alto, mais je ne vois pas de quoi vous parlez.

Je vois. C'est une certaine lettre de l'alphabet. Je n'ai aucune idée de ce dont vous parlez.

Eh bien, c'est avant la lettre Y. Je ne sais toujours pas ce que vous voulez dire.

Une dernière chose. Nous voyons une fièvre monumentale autour de la construction de centres de données — puces, financement, échelle et énergie. Parlez-en par rapport à Anthropic. Amazon a été un partenaire important pour votre croissance. Quelle est la vision pour ces centres de données dans les prochaines années ? Quel est votre plan ?

Il va y avoir un besoin énorme de puissance de calcul. Les lois de mise à l'échelle suggèrent que nous aurons besoin de plus de calcul pour entraîner des modèles plus intelligents. À mesure que les revenus augmentent, nous devrons servir plus de modèles. Quand les revenus seront de 100 milliards ou plus et que l'entraînement nécessitera des millions de puces, nous aurons besoin de nombreux gigawatts de puissance. Nous essayons de sécuriser cette puissance partout où nous le pouvons. J'ai confiance en notre capacité à le faire. Je m'inquiète quand la presse se concentre trop sur la construction de centres de données ; certains accords semblent louches et il pourrait y avoir des doubles comptages.

De quels accords parlez-vous ?

Je n'en ai aucune idée.

Qui compte deux fois ? Ce sont des entreprises publiques. Nous allons vouloir savoir qui compte deux fois.

Je n'en sais pas plus que vous. Il y a peut-être même des triples comptages.

En fin de compte, ces histoires de centres de données consistent à dépenser de l'argent. Le plus important est d'en gagner. C'est pourquoi je me concentre sur les revenus et le travail que nous faisons avec les entreprises. Anthropic croît plus vite que n'importe quelle autre entreprise dans ce domaine. Si la demande est là et que les clients sont prêts à payer, alors vous êtes prêt à payer les fournisseurs de calcul et vous obtiendrez le calcul dont vous avez besoin.

Dario, nous ne pourrions pas vous être plus reconnaissants d'être ici à San Francisco et pour tout ce que vous faites avec Anthropic. Félicitations. Veuillez applaudir Dario.