Je veux vous dire ce que je vois venir. J'ai eu la chance de travailler sur l'IA depuis presque 15 ans maintenant. À mes débuts, dire que c'était marginal serait un euphémisme. Les chercheurs disaient : "Non, nous travaillons seulement sur l'apprentissage automatique", car travailler sur l'IA était perçu comme bien trop excentrique. En 2010, la simple évocation de l'expression IAG, l'intelligence artificielle générale, vous valait des regards vraiment étranges et même de l'indifférence. "Vous construisez vraiment une IAG ?" disait-on. "N'est-ce pas quelque chose qui sort de la science-fiction ?" Les gens pensaient que c'était pour dans 50 ou 100 ans, si tant est que ce soit possible. Parler d'IA était embarrassant. On nous prenait généralement pour des gens bizarres, et d'une certaine manière, nous l'étions. Il n'a pourtant pas fallu longtemps avant que l'IA ne commence à battre les humains dans toute une gamme de tâches que l'on pensait auparavant hors de portée : comprendre des images, traduire des langues, transcrire la parole, jouer au go et aux échecs, et même diagnostiquer des maladies. Les gens ont commencé à réaliser que l'IA allait avoir un impact énorme, et ils posaient à juste titre à des technologues comme moi des questions assez difficiles. Est-il vrai que l'IA va résoudre la crise climatique ? Rendrait-elle l'éducation personnalisée accessible à tous ? Cela signifie-t-il que nous bénéficierons tous d'un revenu universel de base et que nous n'aurons plus à travailler ? Dois-je avoir peur ? Qu'est-ce que cela signifie pour les armes et la guerre ? Et bien sûr, la Chine va-t-elle gagner ? Sommes-nous dans une course ? Courons-nous vers une apocalypse de désinformation massive ?

Toutes ces questions sont bonnes, mais c'est en fait une question plus simple et bien plus fondamentale qui m'a laissé perplexe, une question qui touche au cœur même de mon travail quotidien. Un matin, au petit-déjeuner, mon neveu de six ans, Caspian, jouait avec Pi, l'IA que j'ai créée dans ma dernière entreprise, Inflection. La bouche pleine d'œufs brouillés, il m'a regardé droit dans les yeux et a dit : "Mais Mustafa, c'est quoi une IA au juste ?" C'est un petit garçon tellement sincère, curieux et optimiste. Il parlait à Pi de la chance qu'il aurait si, un jour, il pouvait rendre visite à des dinosaures au zoo, de la façon dont il pourrait fabriquer des quantités infinies de chocolat à la maison, et de pourquoi Pi ne pouvait pas encore jouer à "Je vois avec mon petit œil". "Eh bien," ai-je dit, "c'est un logiciel intelligent qui a lu la majeure partie des textes sur l'internet ouvert, et qui peut te parler de tout ce que tu veux." "D'accord. Donc comme une personne, alors ?" J'étais déconcerté, je me grattaisais sincèrement la tête. Toutes mes réponses classiques et ennuyeuses me sont venues à l'esprit. "Non, mais l'IA n'est qu'une autre technologie à usage général comme l'imprimerie ou la vapeur. Ce sera un outil qui nous augmentera et nous rendra plus intelligents et plus productifs. Et quand elle s'améliorera avec le temps, ce sera comme un oracle omniscient qui nous aidera à résoudre de grands défis scientifiques." Toutes ces réponses commençaient à sembler un peu défensives et en fait mieux adaptées à un séminaire politique qu'à un petit-déjeuner avec un enfant de six ans pragmatique.

"Pourquoi est-ce que j'hésite ?" me suis-je demandé. Soyons honnêtes. Mon neveu me posait une question simple que ceux d'entre nous qui travaillent dans l'IA n'affrontent pas assez souvent. Qu'est-ce que nous créons réellement ? Que signifie fabriquer quelque chose de totalement nouveau, fondamentalement différent de toute invention que nous avons connue auparavant ? Il est clair que nous sommes à un point d'inflexion dans l'histoire de l'humanité. Sur notre trajectoire actuelle, nous nous dirigeons vers l'émergence de quelque chose que nous avons tous du mal à décrire. Et pourtant, nous ne pouvons pas contrôler ce que nous ne comprenons pas. Ainsi, les métaphores, les modèles mentaux, les noms, tout cela compte si nous voulons tirer le meilleur parti de l'IA tout en limitant ses inconvénients potentiels. En tant que personne qui accueille les possibilités de cette technologie, mais qui s'est aussi toujours souciée profondément de son éthique, nous devrions être capables de décrire facilement ce que nous construisons, y compris à des enfants de six ans. C'est donc dans cet esprit que je propose aujourd'hui la métaphore suivante pour nous aider à essayer de saisir ce que ce moment représente réellement. Je pense que l'IA devrait être mieux comprise comme quelque chose ressemblant à une nouvelle espèce numérique. Ne prenez pas cela trop au pied de la lettre, mais je prédis que nous en viendrons à les voir comme des compagnons numériques, de nouveaux partenaires dans le voyage de nos vies. Que vous pensiez que nous sommes sur une voie de 10, 20 ou 30 ans, c'est, à mon avis, la manière la plus précise et la plus fondamentalement honnête de décrire ce qui arrive réellement. Et surtout, cela permet à chacun de se préparer et de façonner la suite.

Je comprends tout à fait que ce soit une affirmation forte, et je vais expliquer à tout le monde du mieux que je peux pourquoi je la fais. Mais d'abord, laissez-moi essayer de situer le contexte. Depuis les tout premiers organismes microscopiques, la vie sur Terre remonte à des milliards d'années. Au fil du temps, la vie a évolué et s'est diversifiée. Puis, il y a quelques millions d'années, quelque chose a commencé à changer. Après d'innombrables cycles de croissance et d'adaptation, l'une des branches de la vie a commencé à utiliser des outils. Et cette branche est devenue nous. Nous avons ensuite produit une variété fascinante d'outils. D'abord lentement, puis à une vitesse étonnante, nous sommes passés des haches de pierre et du feu au langage, à l'écriture et finalement aux technologies industrielles. Une invention en a déclenché mille autres, et avec le temps, nous sommes devenus Homo technologicus. Il y a environ 80 ans, une autre nouvelle branche de la technologie a vu le jour. Avec l'invention des ordinateurs, nous sommes rapidement passés des premiers mainframes et transistors aux smartphones et casques de réalité virtuelle d'aujourd'hui. Information, connaissance, communication, calcul. Dans cette révolution, la création a explosé comme jamais auparavant. Et maintenant, une nouvelle vague arrive : l'intelligence artificielle. Ces vagues de l'histoire s'accélèrent clairement car chacune est amplifiée et accélérée par la précédente. Et si vous regardez en arrière, il est clair que nous sommes dans la vague la plus rapide et la plus conséquente de tous les temps. Les parcours de l'humanité et de la technologie sont désormais profondément entrelacés. En seulement 18 mois, plus d'un milliard de personnes ont utilisé des grands modèles de langage. Nous avons été témoins d'événements marquants les uns après les autres. Il y a quelques années à peine, les gens disaient que l'IA ne serait jamais créative. Et pourtant, l'IA ressemble maintenant à un fleuve infini de créativité, produisant de la poésie, des images, de la musique et de la vidéo qui stimulent l'imagination. On disait qu'elle ne serait jamais empathique. Et pourtant, aujourd'hui, des millions de personnes apprécient des conversations significatives avec des IA, parlant de leurs espoirs et de leurs rêves et les aidant à surmonter des défis émotionnels difficiles. Les IA peuvent désormais conduire des voitures, gérer des réseaux énergétiques et même inventer de nouvelles molécules. Il y a quelques années à peine, chacune de ces choses était impossible. Et tout cela est dopé par des spirales exponentielles de données et de calcul. L'année dernière, Inflection 2.5, notre dernier modèle, a utilisé cinq milliards de fois plus de puissance de calcul que l'IA de DeepMind qui a battu les jeux Atari à l'ancienne il y a un peu plus de 10 ans. C'est neuf ordres de grandeur de calcul supplémentaire, 10 fois plus par an, chaque année, pendant presque une décennie. Au cours de la même période, la taille de ces modèles est passée de quelques dizaines de millions de paramètres à des milliards de paramètres, et très bientôt des dizaines de billions de paramètres. Si quelqu'un ne faisait que lire 24 heures sur 24 toute sa vie, il consommerait huit milliards de mots. Et bien sûr, c'est beaucoup de mots. Mais aujourd'hui, les IA les plus avancées consomment plus de huit billions de mots en un seul mois d'entraînement. Et tout cela va continuer. Le long arc de l'histoire technologique est maintenant dans une nouvelle phase extraordinaire.

Alors, qu'est-ce que cela signifie en pratique ? Eh bien, tout comme Internet nous a donné le navigateur et le smartphone nous a donné les applications, le supercalculateur basé sur le cloud inaugure une nouvelle ère d'IA ubiquitaires. Tout sera bientôt représenté par une interface conversationnelle. Ou pour le dire autrement, une IA personnelle. Et ces IA auront une connaissance infinie, et bientôt elles seront factuellement précises et fiables. Elles auront un QI quasi parfait. Elles auront aussi un QE exceptionnel. Elles seront gentilles, bienveillantes, empathiques. Ces éléments à eux seuls seraient transformationnels. Imaginez si tout le monde had un tuteur personnalisé dans sa poche et accès à des conseils médicaux à bas prix, un avocat et un médecin, un stratège d'entreprise et un coach, le tout dans sa poche 24 heures sur 24. Mais les choses commencent vraiment à changer lorsqu'elles développent ce que j'appelle le QA, leur quotient d'action. C'est leur capacité à accomplir réellement des tâches dans le monde numérique et physique. Et d'ici peu, il n'y aura pas que les gens qui auront des IA. Aussi étrange que cela puisse paraître, chaque organisation, de la petite entreprise à l'organisation à but non lucratif en passant par le gouvernement national, aura la sienne. Chaque ville, bâtiment et objet sera représenté par un personnage interactif unique. Et ce ne seront pas seulement des assistants mécanistes. Ce seront des compagnons, des confidents, des collègues, des amis et des partenaires aussi variés et uniques que nous le sommes tous. À ce stade, les IA imiteront de manière convaincante les humains dans la plupart des tâches. Et nous le ressentirons à l'échelle la plus intime : une IA organisant une rencontre communautaire pour un voisin âgé, un expert compatissant vous aidant à donner un sens à un diagnostic difficile. Mais nous le ressentirons aussi aux plus grandes échelles : accélération des découvertes scientifiques, voitures autonomes sur la route, drones dans le ciel. Elles commanderont à la fois le plat à emporter et géreront la centrale électrique. Elles interagiront avec nous et, bien sûr, entre elles. Elles parleront toutes les langues, assimileront chaque type de données de capteurs, d'images, de sons, des flux et des flux d'informations, dépassant de loin ce que n'importe lequel d'entre nous pourrait consommer en mille vies.

Alors, qu'est-ce que c'est ? Que sont ces IA ? Si nous voulons donner la priorité à la sécurité avant tout, pour s'assurer que cette nouvelle vague serve et amplifie toujours l'humanité, alors nous devons trouver les bonnes métaphores pour ce que cela pourrait devenir. Pendant des années, nous, dans la communauté de l'IA, et moi spécifiquement, avons eu tendance à appeler cela simplement des outils. Mais cela ne saisit pas vraiment ce qui se passe ici. Les IA sont clairement plus dynamiques, plus ambiguës, plus intégrées et plus émergentes que de simples outils, qui sont entièrement soumis au contrôle humain. Donc, pour contenir cette vague, pour placer l'agence humaine en son centre et pour atténuer les conséquences imprévues inévitables qui sont susceptibles de survenir, nous devrions commencer à les considérer comme nous pourrions le faire pour une nouvelle sorte d'espèce numérique. Ce n'est qu'une analogie. Ce n'est pas une description littérale, et ce n'est pas parfait. Pour commencer, elles ne sont clairement pas biologiques au sens traditionnel. Mais arrêtez-vous un instant et réfléchissez vraiment à ce qu'elles font déjà. Elles communiquent dans nos langues. Elles voient ce que nous voyons. Elles consomment des quantités d'informations inimaginablement vastes. Elles ont une mémoire. Elles ont une personnalité. Elles ont une créativité. Elles peuvent même raisonner dans une certaine mesure et formuler des plans rudimentaires. Elles peuvent agir de manière autonome si nous le leur permettons. Et elles font tout cela à des niveaux de sophistication qui vont bien au-delà de tout ce que nous avons connu avec un simple outil. Ainsi, dire que l'IA concerne principalement les mathématiques ou le code revient à dire que nous, les humains, sommes principalement composés de carbone et d'eau. C'est vrai, mais cela passe complètement à côté du sujet. Et oui, je comprends, c'est une pensée très frappante. Mais je pense honnêtement que ce cadre aide à affiner notre attention sur les questions critiques. Quels sont les risques ? Quelles sont les limites que nous devons imposer ? Quel genre d'IA voulons-nous construire ou autoriser à être construite ? C'est une histoire qui est encore en train de s'écrire. Rien ne doit être accepté comme acquis. Nous devons tous choisir ce que nous créons, quelles IA nous apportons au monde, ou non. Ce sont les questions qui se posent à nous tous ici aujourd'hui, et à nous tous vivants en ce moment.

Pour moi, les avantages de cette technologie sont incroyablement évidents, et ils inspirent le travail de ma vie chaque jour. Mais franchement, ils parleront d'eux-mêmes. Au fil des ans, je n'ai jamais hésité à souligner les risques et à parler des inconvénients. Penser de cette façon nous aide à nous concentrer sur les défis immenses qui nous attendent tous. Mais soyons clairs : il n'y a pas de chemin vers le progrès si nous laissons la technologie de côté. Le prix pour toute la civilisation est immense. Nous avons besoin de solutions dans le domaine de la santé, dans l'éducation, pour notre crise climatique. Et si l'IA tient ne serait-ce qu'une fraction de son potentiel, la prochaine décennie sera la plus productive de l'histoire de l'humanité. Voici une autre façon d'y penser. Dans le passé, débloquer la croissance économique s'accompagnait souvent d'énormes inconvénients. L'économie s'est développée à mesure que les gens découvraient de nouveaux continents et ouvraient de nouvelles frontières, mais ils ont colonisé des populations en même temps. Nous avons construit des usines, mais c'étaient des endroits sombres et dangereux pour travailler. Nous avons foré du pétrole, mais nous avons pollué la planète. Maintenant, parce que nous concevons et construisons encore l'IA, nous avons le potentiel et l'opportunité de le faire mieux, radicalement mieux. Et aujourd'hui, nous ne découvrons pas un nouveau continent pour piller ses ressources ; nous en construisons un de toutes pièces. Parfois, les gens disent que les données ou les puces sont le nouveau pétrole du XXIe siècle. Mais c'est une image totalement fausse. L'IA est à l'esprit ce que la fusion nucléaire est à l'énergie : illimitée, abondante, capable de changer le monde. Et l'IA est vraiment différente. Cela signifie que nous devons y réfléchir de manière créative et honnête. Nous devons pousser nos analogies et nos métaphores jusqu'à leurs limites pour être capables de faire face à ce qui arrive. Parce que ce n'est pas juste une autre invention. L'IA est elle-même un inventeur infini. Et oui, c'est passionnant, prometteur, inquiétant et intrigant à la fois. Pour être tout à fait honnête, c'est assez surréel. Mais prenez du recul, voyez-le sous l'angle du temps géologique, et ce sont vraiment les métaphores les plus appropriées que nous ayons aujourd'hui.

Depuis le début de la vie sur Terre, nous avons évolué, changé, puis créé tout ce qui nous entoure dans notre monde humain d'aujourd'hui. Et l'IA n'est pas quelque chose en dehors de cette histoire. En fait, c'est tout le contraire. C'est l'ensemble de tout ce que nous avons créé, distillé en quelque chose avec lequel nous pouvons tous interagir et dont nous pouvons bénéficier. C'est un reflet de l'humanité à travers le temps. Et en ce sens, ce n'est pas du tout une nouvelle espèce. C'est là que les métaphores s'arrêtent. Voici ce que je dirai à Caspian la prochaine fois qu'il me posera la question. L'IA n'est pas séparée. L'IA n'est même pas, dans un certain sens, nouvelle. L'IA, c'est nous. C'est nous tous. Et c'est peut-être la chose la plus prometteuse et la plus vitale de toutes, que même un enfant de six ans peut pressentir. À mesure que nous développons l'IA, nous pouvons et devons refléter tout ce qui est bon, tout ce que nous aimons, tout ce qui est spécial dans l'humanité : notre empathie, notre gentillesse, notre curiosité et notre créativité. C'est, je dirais, le plus grand défi du XXIe siècle, mais aussi l'opportunité la plus merveilleuse, inspirante et pleine d'espoir pour nous tous. Merci.

Merci. Merci, Mustafa. C'est une vision incroyable et une métaphore super puissante. Vous êtes dans une position incroyable en ce moment. Vous étiez étroitement lié au travail incroyable accompli chez OpenAI. Vous allez avoir des ressources à disposition. Des rapports font état de ces nouveaux centres de données géants, de 100 milliards de dollars investis et ainsi de suite. Et une nouvelle espèce peut en émerger. Dans votre livre, en plus de peindre une vision incroyablement optimiste, vous avez été très éloquent sur les dangers de l'IA. Et je suis juste curieux, de votre point de vue actuel, qu'est-ce qui vous empêche le plus de dormir la nuit ?

Je pense que le grand risque est que nous restions bloqués dans ce que j'appelle le piège de l'aversion au pessimisme. Nous devons avoir le courage d'affronter le potentiel des scénarios sombres afin de tirer le meilleur parti de tous les avantages que nous voyons. La bonne nouvelle est que si vous regardez les deux ou trois dernières années, il y a eu très, très peu d'inconvénients. Il est très difficile de dire explicitement quel mal un LLM a causé. Mais cela ne signifie pas que ce sera la trajectoire des 10 prochaines années. Donc, je pense que si vous prêtez attention à quelques capacités spécifiques, prenez par exemple l'autonomie. L'autonomie est très évidemment un seuil au-delà duquel nous augmentons les risques dans notre société, et c'est quelque chose dont nous devrions nous approcher très, très prudemment. L'autre serait quelque chose comme l'auto-amélioration récursive. Si vous permettez au modèle de s'améliorer de manière indépendante, de mettre à jour son propre code, d'explorer un environnement sans surveillance et sans qu'un humain n'ait le contrôle pour changer son fonctionnement, cela serait évidemment plus dangereux. Mais je pense que nous en sommes encore loin. Je pense qu'il faudra encore 5 à 10 ans avant de devoir vraiment y faire face, mais il est temps de commencer à en parler dès maintenant.

Une espèce numérique, contrairement à toute espèce biologique, peut se répliquer non pas en neuf mois mais en neuf nanosecondes et produire un nombre indéfini de copies d'elle-même, qui ont toutes plus de pouvoir que nous à bien des égards. La possibilité de conséquences imprévues semble assez immense. Et n'est-il pas vrai que si un problème survient, cela pourrait arriver en une heure ?

Non. Ce n'est vraiment pas vrai. Je pense qu'il n'y a aucune preuve le suggérant. Et je pense que l'on appelle souvent cela l'explosion d'intelligence, et je pense que c'est une possibilité théorique et hypothétique que nous sommes tous curieux d'explorer, mais il n'y a aucune preuve que nous soyons proches de quoi que ce soit de ce genre. Et je pense qu'il est très important que nous choisissions nos mots avec une extrême prudence parce que c'est l'une des faiblesses du cadre de l'espèce. Nous concevrons la capacité d'auto-réplication si les gens choisissent de le faire. Et je soutiendrais en fait que nous ne devrions pas le faire. Ce serait l'une des capacités dangereuses dont nous devrions nous éloigner. Il n'y a donc aucune chance que cela émerge accidentellement. Je pense vraiment que c'est une probabilité très faible. Cela arrivera si les ingénieurs conçoivent délibérément ces capacités, et s'ils ne font pas assez d'efforts pour les exclure délibérément. C'est donc tout l'intérêt d'être explicite et transparent en essayant d'introduire la sécurité dès la conception très tôt.

Merci. Votre vision de l'humanité injectant dans cette nouvelle chose les meilleures parties de nous-mêmes, en évitant toutes ces tendances biologiques bizarres, effrayantes et horribles que nous pouvons avoir dans certaines circonstances. C'est une vision très inspirante, et merci beaucoup d'être venu ici et de l'avoir partagée chez TED. Merci. Bonne chance. Merci beaucoup. J'apprécie.