elle sera plus intelligente que tous les humains. Je crois qu'elle atteindra ce niveau, qu'elle sera plus intelligente que la plupart ou la totalité des humains de la plupart ou de toutes les manières.

Est-ce que vous vous inquiétez des inconnues ici ?

Je m'inquiète beaucoup des inconnues. Je ne pense pas que nous puissions tout prédire avec certitude, mais c'est précisément pour cela que nous essayons de prédire tout ce que nous pouvons. Nous réfléchissons aux impacts économiques de l'IA. Nous réfléchissons aux abus. Nous réfléchissons à la perte de contrôle du modèle. Mais si vous essayez de répondre à ces menaces inconnues avec une technologie qui évolue très rapidement, vous devez dire les choses telles qu'elles sont et vous devez être prêt à vous tromper parfois.

Dans son siège social bien gardé de San Francisco, Anthropic dispose d'environ 60 équipes de recherche qui tentent d'identifier ces menaces inconnues et de mettre en place des garde-fous pour les atténuer. Elles étudient également la manière dont les clients utilisent Claude, leur intelligence artificielle. Anthropic a découvert que Claude ne se contente pas d'aider les utilisateurs dans leurs tâches, il les accomplit de plus en plus. Les modèles d'IA, capables de raisonner et de prendre des décisions, alimentent le service client, analysent des recherches médicales complexes et aident désormais à écrire 90 % du code informatique d'Anthropic.

Vous avez dit que l'IA pourrait supprimer la moitié de tous les emplois de bureau débutants et faire grimper le chômage de 10 à 20 % au cours des une à cinq prochaines années.

Oui, c'est l'avenir que nous pourrions voir si nous ne prenons pas conscience de ce problème dès maintenant.

La moitié de tous les emplois de bureau débutants ?

Eh bien, si nous regardons les consultants débutants, les avocats, les professionnels de la finance, vous savez, beaucoup de secteurs de services de bureau, les modèles d'IA sont déjà très performants dans une grande partie de ce qu'ils font. Et sans intervention, il est difficile d'imaginer qu'il n'y aura pas d'impact significatif sur l'emploi. Et ma crainte est que cela soit vaste et plus rapide que ce que nous avons vu avec les technologies précédentes.

Je m'intéressais aux chiffres depuis le tout début.

Dario Amodei a 42 ans et supervisait auparavant la recherche chez ce qui est aujourd'hui un concurrent, OpenAI, travaillant sous la direction de son PDG, Sam Altman. Il est parti avec six autres employés, dont sa sœur Daniela, pour fonder Anthropic en 2021. Ils disent avoir voulu adopter une approche différente pour développer une intelligence artificielle plus sûre.

C'est une expérience. Je veux dire, personne ne sait quel sera l'impact total.

Je pense que c'est une expérience et une façon de voir Anthropic est que c'est un peu comme essayer de mettre des pare-chocs ou des garde-fous à cette expérience, n'est-ce pas ?

Nous savons que cela arrive incroyablement vite. Et je pense que la pire version des résultats serait que nous sachions qu'il y allait avoir cette transformation incroyable et que les gens n'auraient pas assez d'occasions de s'adapter. Et il est inhabituel pour une entreprise technologique de parler autant de tout ce qui pourrait mal tourner.

Mais c'est tellement essentiel car si nous ne le faisons pas, nous pourrions nous retrouver dans le monde des fabricants de cigarettes ou des entreprises d'opioïdes qui savaient qu'il y avait des dangers, n'en parlaient pas et n'essayaient certainement pas de les prévenir.

Amodei a de nombreux détracteurs dans la Silicon Valley qui le qualifient d'alarmiste de l'IA.

Certaines personnes disent d'Anthropic qu'il s'agit d'un théâtre de la sécurité, que c'est une bonne image de marque, que c'est bon pour les affaires. Pourquoi les gens devraient-ils vous faire confiance ?

Certaines choses peuvent donc être vérifiées dès maintenant. Ce n'est pas du théâtre de la sécurité, ce sont des choses que le modèle peut réellement faire. Pour une partie, vous savez, cela dépendra de l'avenir et nous n'aurons pas toujours raison, mais nous l'annonçons du mieux que nous pouvons.