Il est tout à fait raisonnable de penser qu'au cours des 10 à 20 prochaines années, ce sera le plus grand bond en avant de la productivité que notre espèce ait jamais connu, probablement plus encore que la révolution industrielle.

Pi est vraiment conçu pour vous poser des questions de clarification, essayer de refléter ce que vous avez dit à Pi pour s'assurer que vous vous sentez écouté et compris. Pi s'intéresse à la façon dont vous voyez le monde et à ce que vous souhaitez apprendre.

Je suis un humaniste. Je pense que notre objectif devrait être de maintenir les humains au sommet de la chaîne alimentaire. Cela signifie que nous devons empêcher la prolifération et veiller à ce que ces outils restent totalement responsables.

Bonjour et bienvenue sur Washington Post Live. Je suis Christina Passariello, rédactrice adjointe de la section économie du Washington Post. Aujourd'hui, dans notre série Path Forward, nous sommes rejoints par le PDG d'Inflection AI, Mustafa Suleyman. Bienvenue sur Washington Post Live, Mustafa.

Ravi d'être avec vous. Merci de m'avoir invité.

Et félicitations pour la sortie de votre livre cette semaine, 'The Coming Wave'. Commençons. Dans votre livre, vous soutenez essentiellement qu'avec l'IA, nous ne pouvons pas vivre avec et nous ne pouvons pas vivre sans. Expliquez le paradoxe dans lequel nous nous trouvons, en nous précipitant vers l'IA partout malgré la dystopie potentielle que vous entrevoyez.

Eh bien, je pense que la première chose à essayer d'accepter est qu'il s'agit d'une continuation du processus fondamental de la science et de la technologie sur de nombreux siècles. Et cela signifie que ces modèles auront tendance à devenir plus faciles à utiliser, moins chers et donc à se répandre beaucoup plus largement, tout comme toutes les autres technologies de l'histoire de notre espèce ont suivi exactement le même schéma. Les gens la demandent et veulent donc y avoir accès partout dans le monde. Et si vous partez de cette base factuelle, alors vous pouvez commencer à réfléchir aux ramifications d'une prolifération généralisée de systèmes d'IA très performants.

Dites-nous donc un peu comment vous voyez l'IA être utilisée dans le monde en ce moment. Expliquez comment vous la voyez transformer notre société sous l'angle de l'utilité.

D'accord. Eh bien, ma façon de voir les choses est que tout ce que nous avons produit en tant qu'espèce est le produit de l'intelligence. L'intelligence est la capacité de traiter l'information et d'utiliser cette information pour faire des prédictions sur la façon dont le monde pourrait évoluer autour de vous. Et une fois que vous avez fait une prédiction, qu'il s'agisse de se lever pour aller ouvrir une porte ou d'imaginer comment le marché boursier pourrait évoluer, vous pouvez utiliser cette prédiction pour intervenir. Vous pouvez inventer quelque chose, créer quelque chose, agir physiquement, dire quelque chose à quelqu'un d'autre. C'est ce que font ces modèles à un haut niveau. Ils apprennent à partir de quantités massives de données passées pour prédire l'avenir et, en fin de compte, pour prendre des mesures basées sur ces prédictions, afin d'ajuster le cours d'un environnement. On peut l'imaginer avec une voiture autonome, mais aussi avec un médecin IA capable de lire des millions de scans radiologiques, par exemple, pour améliorer la précision de ses diagnostics. Dans tous les domaines de notre vie, les IA vont radicalement nous rendre plus efficaces, beaucoup plus productifs, nous faire gagner un temps fou et, de manière générale, offrir une valeur phénoménale.

C'est fascinant parce que nous avons maintenant accès à ces chatbots qui peuvent converser avec nous, fournir des informations, produire des images ou des voix. Tout cela est arrivé si vite auprès du public en moins d'un an. Je veux revenir en 2010 un instant car vous avez cofondé DeepMind cette année-là pour, je cite, 'reproduire la chose même qui nous rend uniques en tant qu'espèce, notre intelligence'. Pouvez-vous nous ramener à cette époque et nous rappeler quel était le contexte de l'IA alors ? À quoi ressemblait l'idée de créer une intelligence et pouviez-vous déjà entrevoir où nous en sommes aujourd'hui ?

Eh bien, l'IA était un domaine très obscur. Seul un minuscule groupe d'universitaires réfléchissait à ces idées, et encore moins travaillait dessus. En fait, il n'y avait aucune entreprise à l'époque qui concevait réellement de l'IA. Aujourd'hui, c'est une industrie technologique majeure pleine de développeurs open source. Ma motivation personnelle pour lancer DeepMind était la réalisation que si les logiciels pouvaient apprendre plus efficacement et faire de bonnes prédictions, nous pourrions rendre le monde meilleur. Venant de la politique locale et du militantisme, j'ai toujours cru qu'une vie valait la peine d'être vécue si l'on avait un impact positif. J'ai vu les IA comme un moyen d'accélérer cet objectif pour inventer de nouvelles connaissances. La connaissance est le socle de notre civilisation. Nous découvrons, inventons et partageons l'information. Nous sommes maintenant à l'aube d'avoir des outils intelligents capables d'aider à créer de nouvelles connaissances, de nous donner accès à l'information et d'organiser nos vies. Je pense vraiment que ce sera l'une des périodes les plus productives de notre histoire.

Et pourtant, vous identifiez également des risques existentiels massifs liés à cette productivité. Aidez-nous à définir ce que c'est et quand avez-vous commencé à concevoir les risques qui accompagnent cette IA ?

Toute nouvelle technologie comporte des inconvénients sérieux. La société doit toujours s'adapter à de nouveaux risques, qu'il s'agisse du nucléaire, de la vapeur, de l'électricité ou des avions. J'ai une anecdote dans mon livre : à la fin des années 1800, lors du lancement d'un train, des spectateurs dont un député local n'ont pas réalisé que le train avançait vers eux et qu'ils devaient s'écarter. Ils ont été tués le jour du lancement. C'est une métaphore intéressante : au début, une technologie semble menaçante et déroutante, mais avec le temps, nous comprenons ses limites et apprenons à la contrôler pour en tirer les bénéfices. Prenez l'aviation : c'est incroyable de voler à 40 000 pieds de façon sûre. C'est parce que l'industrie et les régulateurs ont passé des décennies à instaurer des règles et des boîtes noires pour corriger chaque erreur. Il y a un précédent pour une bonne régulation et je pense que nous devons calmer un peu la panique actuelle tout en nous concentrant sur les avantages potentiels.

Mais revenons à cette idée des précédents. Y a-t-il eu un moment spécifique avec l'IA où vous avez vu ces risques ? Était-ce un lancement ou un incident particulier ?

J'étais conscient des risques et de l'éthique dès le premier jour. Notre plan d'affaires visait à 'construire une intelligence artificielle générale de manière sûre et éthique au profit de l'humanité'. Nous savions que si une IA s'auto-améliorait de façon récursive et incontrôlée sans humain dans la boucle, cela pourrait causer des torts graves à long terme. Nous avons expérimenté divers conseils de gouvernance et mécanismes de surveillance. Je n'ai pas eu un moment 'déclic', mais j'ai vu les progrès devenir exponentiels. La puissance de calcul pour entraîner ces modèles décuple chaque année depuis une décennie. Cette trajectoire va apporter d'énormes bénéfices mais aussi augmenter les risques.

Parlons de cette augmentation décuplée. Tout en signalant les risques, vous avez fondé Inflection qui a lancé Pi. Comment pouvez-vous sonner l'alarme tout en participant à cette course aux armements pour créer et diffuser l'IA ?

Je ne vois pas cela comme une course aux armements, mais comme le développement naturel des sciences. Nous inventons des outils qui comportent des risques qu'il faut atténuer, mais cela ne signifie pas qu'il faille arrêter le progrès. Ces techniques sont disponibles en open source peu de temps après avoir été développées dans les grands laboratoires comme le mien. Les grands modèles s'améliorent, mais de petits modèles prolifèrent aussi en open source. Les deux doivent être tenus responsables. Par exemple, une IA pourrait apprendre à quelqu'un à fabriquer une bombe. Nous avons signalé cela et créé un groupe de travail pour tester ces modèles par 'red teaming' et partager les meilleures pratiques afin de combler les failles. Ma crainte est que l'open source ne soit pas aussi réactif pour atténuer ces dangers.

Parlez-moi de votre approche avec Pi. En quoi diffère-t-il de ChatGPT, que près d'un quart des Américains ont déjà testé selon Pew ? Quelle est votre valeur ajoutée ?

Nous pensons que tout le monde finira par avoir une intelligence personnelle. Vous voudrez une IA qui soit de votre côté, contrôlée par vous. Elle vous connaîtra intimement, vos projets, vos repas, votre travail. Considérez-la comme un chef de cabinet. Au lieu de chercher sur Google, vous demanderez directement à votre IA. Elle n'est pas encore totalement prête, mais dans deux ou trois ans, elle excellera dans ces tâches pratiques. Nous l'avons conçue avec une haute intelligence émotionnelle. Contrairement aux réponses sèches de type Wikipédia, Pi est fluide, pose des questions de suivi et vous fait vous sentir compris. Il est aussi très factuel ; notre rapport technique montre que nous égalons ChatGPT 3.5 en précision. En tant que petite startup, nous boxons au-dessus de notre catégorie pour bâtir une IA sûre.

C'est fascinant. Un sujet majeur actuel est l'entraînement de ces modèles. Des médias commencent à restreindre l'accès à leurs données pour ChatGPT car...

Oui, concernant l'entraînement, nous utilisons de vastes quantités de données du web ouvert. C'est un processus en deux étapes. D'abord, le modèle parcourt des centaines de milliards de mots pour apprendre les connexions entre eux. Il devient capable de prédire le mot suivant dans une séquence. Il n'est pas programmé de façon structurée, il apprend juste la probabilité d'apparition des mots, ce qui produit des modèles étonnamment précis et utiles.

Merci Mustafa. Pour faire suite, les industries du film et de l'édition deviennent agressives pour limiter l'accès à leur contenu. Est-ce un 'usage loyal' ou ces créateurs devraient-ils être rémunérés ?

Si c'est sur le web ouvert, la règle par défaut d'Internet est que c'est utilisable par tous. S'il s'agit de matériel sous copyright comme un film ou un livre, c'est différent. Les régulations existantes devraient suffire. Certains médias verrouillent leurs API et c'est tout à fait correct ; ils devraient pouvoir signaler s'ils refusent de faire partie du corpus d'entraînement.

Passons à une question du public de David Ceci de New York : 'Certains voient l'IA comme un logiciel de plagiat. Comment répondez-vous aux inquiétudes des membres de la WGA et de la SAG-AFTRA concernant l'usage de l'IA pour remplacer les auteurs et les acteurs ?'

Dans l'histoire, les idées évoluent car on les copie et on les adapte. Si l'IA produit du contenu mot pour mot, c'est un problème de monétisation de copyright. Mais si elle capture l'essence d'un style, ce n'est pas si différent de ce que font les réalisateurs, musiciens ou investisseurs qui s'inspirent constamment des autres. C'est la nature de notre évolution. Il y a une distinction à faire entre la copie intégrale et la capture d'une essence.

Il y a un grand effort de régulation aux USA. Vous étiez à la réunion de l'administration Biden, et Chuck Schumer en organise une autre avec Elon Musk et Sam Altman. Si vous y étiez, sur quoi les législateurs devraient-ils se concentrer ?

Les législateurs avancent plus vite que jamais, ce qui est positif. Il faut se concentrer sur la transparence et la responsabilité des IA. On doit comprendre sur quoi un modèle est entraîné et auditer ses sorties pour détecter les erreurs ou les incitations à la violence. L'incitation commerciale pousse vers la sécurité : aucune entreprise ne veut d'une expérience nuisible. Notre IA Pi est très sûre ; aucun 'jailbreak' ou piratage de prompt ne fonctionne sur elle car nous avons privilégié la sécurité dès la conception. Si vous essayez de rendre Pi raciste ou sexiste, il résistera poliment en vous demandant d'où viennent ces pensées, encourageant ainsi l'empathie. Les modèles plus grands deviennent plus contrôlables, mais cela ne suffira jamais seul : nous avons besoin de régulateurs techniques, proactifs et compétents.

C'est intéressant, mais les entreprises avancent si vite. Vous avez quitté Google car le lancement des produits était trop lent. Pensez-vous que Google prend les mesures de sécurité appropriées aujourd'hui, sachant que des lanceurs d'alerte comme Timnit Gebru n'ont pas été écoutés par le passé ?

Je précise que je ne dirigeais pas la sécurité de l'IA chez Google, mais je travaillais sur la politique et l'éthique. Google avançait lentement par bureaucratie, ne se sentant pas menacé. Ces nouveaux modèles sapent le cœur de métier de Google (la recherche). Le modèle actuel où l'on clique sur des liens inondés de pub est inefficace pour l'utilisateur. Les chatbots comme Pi montrent qu'il existe une façon bien plus performante d'accéder aux réponses et de prendre des décisions. Nous allons voir une adoption massive de ces modèles très bientôt.

Mustafa, c'est tout le temps que nous avons. Merci beaucoup de nous avoir rejoints aujourd'hui.

Merci beaucoup, c'était un plaisir d'être ici.

Merci à tous. Retrouvez nos prochaines interviews sur washingtonpostlive.com. Je suis Christina Passariello. Merci encore.