Bonjour, je suis Tess Hatch, passionnée de deep tech et associée chez Bessemer Venture Partners.

Aujourd'hui, nous sommes à San Francisco, en Californie, pour explorer un domaine de l'innovation scientifique qui fait l'objet de recherches depuis les années 1950, mais qui a récemment pris le monde d'assaut. Et il s'agit de l'intelligence artificielle.

Les startups d'intelligence artificielle sont nombreuses et se développent rapidement. Parmi les leaders émergents de l'intelligence artificielle figurent des percées telles qu'OpenAI, Inflection AI, Character.ai et Anthropic.

Aujourd'hui, je vais m'entretenir avec Dario, PDG, et Daniela, présidente d'Anthropic, l'entreprise de recherche et de sécurité en IA.

Cette startup de pointe se spécialise dans le développement de systèmes d'IA et de modèles de langage, avec pour philosophie d'entreprise de construire des systèmes utiles, inoffensifs et honnêtes.

Ils vont me dire ce qui les a inspirés à fonder l'entreprise et comment ils pensent que l'IA va changer le monde.

Pouvez-vous nous raconter l'histoire de ce qui vous a inspirés à lancer Anthropic ?

Nous avons lancé Anthropic parce que nous voulions vraiment avoir l'opportunité de faire ce pari de recherche ciblée sur le fait que la sécurité pourrait être à la frontière.

Pour nous, au cours de nos premières années, cela a consisté à développer ces systèmes d'IA de pointe où la sécurité était réellement intégrée à la façon dont nous les formions.

Et plus récemment, we've lancé Claude, qui est notre nouvel assistant utile, honnête et inoffensif, auquel les gens peuvent accéder via Claude dans Slack ou via notre API.

Où en sommes-nous dans le cycle de l'engouement pour l'IA ? Des attentes irréalistes ou encore de la marge de progression ?

Nous nous trouvons dans une situation très intéressante où, d'un côté, on voit toutes sortes de choses folles sur Twitter de la part de personnes essayant de faire des choses insensées avec les derniers modèles, y compris les nôtres, et une grande partie de cela est absurde ou surmédiatisée.

Derrière cela, il y a cette exponentielle régulière de puissance de calcul accrue menant à de meilleures performances sur toutes ces tâches d'IA et de langage, et cela va simplement continuer.

Si quoi que ce soit, nous le sous-estimons. Malgré toute l'excitation et le buzz, je dirais qu'à un niveau fondamental, la technologie est sous-médiatisée.

Anthropic construit un produit Claude honnête, inoffensif et humble. Comment allez-vous pouvoir convaincre le reste du marché d'adopter cette approche ?

Premièrement, dans une certaine mesure, le marché est déjà convaincu ou comprend déjà qu'il en a besoin.

Tout le monde veut un modèle utile, qui suit l'intention humaine. Tout le monde veut un modèle qui dit la vérité, qui ne vous induit pas en erreur.

Et certainement, tout le monde veut un modèle qui ne permet pas d'être mal utilisé ou que des actes nuisibles soient commis avec lui.

Le marché accorde déjà une valeur substantielle à la sécurité. Nous essayons souvent de les convaincre de lui accorder encore plus de valeur, mais c'est un aspect positif.

Deuxièmement, parce que la technologie évolue si vite, un intérêt réglementaire tout à fait mérité commence à se manifester pour s'assurer qu'elle reste sûre.

Nous y sommes généralement favorables et l'encourageons, mais si c'est bien fait, cela poussera l'écosystème vers un point où, pour s'y conformer, la sécurité sera primordiale.

Nous pensons que cela pourrait être deux forces qui aideront les systèmes sûrs à surpasser les systèmes non sûrs.

Quelle est la chose que vous aimeriez que la plupart des gens sachent sur l'IA ?

Je dirais simplement à quel point nous n'en sommes qu'au début, à bien des égards, du développement de cette technologie.

Comme corollaire de cela, combien il y a d'opportunités pour les personnes intéressées par ce domaine de vraiment s'impliquer, de faire une grande différence et de contribuer.

Je pense que l'une des choses qui rend Anthropic si unique et si spéciale est justement notre interdisciplinarité.

Nous avons un grand nombre de profils différents de personnes qui ont travaillé ici : d'anciens scientifiques, des gens issus de la physique, des neurosciences et de la biologie, mais aussi des chefs de produit, des experts en affaires et des talents opérationnels.

Une grande partie de cette diversité d'expériences nous aide réellement à prendre de meilleures décisions et à aborder cette technologie avec un regard neuf.

Si vous êtes quelqu'un qui regarde cela et qui est enthousiasmé par l'intelligence artificielle, ma réponse principale est qu'il reste encore beaucoup à faire et que nous serions ravis de vous voir vous impliquer.

La technologie profonde se concentre sur l'innovation scientifique qui profitera à l'humanité. Imaginez un monde où Anthropic réalise son rêve le plus fou. Comment cela changera-t-il le monde ?

Mon esprit se tourne toujours vers la médecine et la biologie. J'étais autrefois biologiste computationnel.

L'une des choses auxquelles nous sommes confrontés en biologie est qu'on a presque l'impression d'avoir résolu toutes les maladies faciles et que celles qui restent, comme le cancer, Alzheimer et le processus de vieillissement lui-même, sont des maladies de la complexité.

Bien que les modèles de langage ne soient généralement pas encore aussi performants que les humains pour le raisonnement, une chose que nous voyons déjà en eux est une étendue remarquable de connaissances et une capacité à comprendre les choses.

Je peux imaginer un monde, si nous parvenons à rendre ces modèles fiables et à résoudre tous les problèmes de sécurité pertinents, où nous pourrions créer des systèmes d'IA qui aident les humains à s'attaquer à la complexité de ces maladies et à accélérer considérablement le rythme auquel nous les résolvons.