C'est une quantité de puissance folle pour un seul élément technologique. Et cela nous est arrivé si vite.

Vous venez de lancer GPT-5.

Un enfant né aujourd'hui ne sera jamais plus intelligent que l'IA.

Comment déterminer ce qui est réel et ce qui ne l'est pas ?

Nous n'avons pas encore mis d'avatar de robot sexuel dans ChatGPT.

Superintelligence. Qu'est-ce que cela signifie réellement ?

Cette chose est remarquable.

Je m'apprête à interviewer Sam Altman, le PDG d'OpenAI.

OpenAI remodèle les industries.

Le mec est un pur seigneur de la technologie, soyons honnêtes.

En ce moment, ils essaient de construire une superintelligence qui pourrait largement dépasser les humains dans presque tous les domaines. Et ils viennent de sortir leur modèle le plus puissant à ce jour.

Il y a seulement quelques années, cela aurait ressemblé à de la science-fiction. Plus maintenant. En fait, ils ne sont pas seuls. Nous sommes au milieu de la course mondiale aux enjeux les plus élevés que nous ayons jamais vus. Des centaines de milliards de dollars et une quantité incroyable de travail humain.

C'est un moment profond. La plupart des gens ne vivent jamais un changement technologique comme celui-ci, et cela se passe tout autour de vous et de moi en ce moment même.

Dans cet épisode, je veux essayer de voyager dans le temps avec Sam Altman vers le futur qu'il essaie de construire pour voir à quoi il ressemble, afin que vous et moi puissions vraiment comprendre ce qui s'en vient. Bienvenue dans Huge Conversations.

Comment allez-vous ?

Ravi de vous rencontrer. Merci de faire cela.

Absolument.

Avant de plonger, j'aimerais vous dire quel est mon objectif ici.

D'accord.

Je ne vais pas vous interroger sur la valorisation, les guerres de talents de l'IA, les levées de fonds ou quoi que ce soit de ce genre. Je pense que tout cela est très bien couvert ailleurs.

C'est ce qu'il semble.

Notre grand objectif dans cette émission est de couvrir la manière dont nous pouvons utiliser la science et la technologie pour rendre l'avenir meilleur. La raison pour laquelle nous faisons tout cela est que nous croyons vraiment que si les gens voient ces avenirs meilleurs, ils peuvent alors aider à les construire. Mon but ici est donc de faire de mon mieux pour voyager dans le temps avec vous vers différents moments du futur que vous essayez de construire et de voir à quoi cela ressemble.

Fantastique.

Génial. Commençons par ce que vous venez d'annoncer. Vous avez récemment déclaré que GPT-4 était le modèle le plus stupide que nous ayons jamais à utiliser. Mais GPT-4 peut déjà obtenir de meilleurs résultats que 90 % des humains au SAT, au LSAT et au GRE, et il peut réussir des examens de codage, de sommelier et des licences médicales. Et maintenant, vous venez de lancer GPT-5. Que peut faire GPT-5 que GPT-4 ne peut pas faire ?

Tout d'abord, une conclusion importante est que vous pouvez avoir un système d'IA capable de faire toutes ces choses incroyables que vous venez de dire, et il ne reproduit manifestement pas une grande partie de ce que les humains savent bien faire, ce qui, je pense, en dit long sur la valeur des tests SAT. Si vous étiez revenu au jour du lancement de GPT-4 pour dire aux gens comment il se comportait dans ces domaines, ils auraient pensé que cela aurait d'énormes impacts sur les emplois — des impacts positifs qui ne se sont pas encore concrétisés. Il y a quelque chose dans la façon dont ces modèles sont performants qui ne capture pas beaucoup d'autres choses que nous avons besoin que les gens fassent ou auxquelles ils tiennent. Je soupçonne que la même chose se produira avec GPT-5. Les gens seront époustouflés par ce qu'il fait. Il est vraiment bon dans beaucoup de domaines, puis ils découvriront qu'ils veulent qu'il en fasse encore plus. Les gens l'utiliseront pour toutes sortes de choses incroyables. Il transformera une grande partie du travail intellectuel, notre façon d'apprendre et de créer. Mais la société co-évoluera avec lui pour attendre davantage avec de meilleurs outils. Ce modèle est tout à fait remarquable à bien des égards et assez limité à d'autres. Mais le fait que pour des tâches de trois minutes, cinq minutes ou une heure qu'un expert dans un domaine pourrait éventuellement faire ou avec lesquelles il pourrait avoir des difficultés, vous ayez dans votre poche un logiciel capable de faire toutes ces choses est vraiment incroyable. Je pense que c'est sans précédent à tout moment de l'history humaine qu'une technologie se soit autant améliorée, aussi vite, et le fait que nous ayons cet outil maintenant — nous le vivons et nous nous adaptons étape par étape. Si nous pouvions remonter le temps de cinq ou dix ans et dire que cette chose arrivait, nous nous dirions : probablement pas.

Supposons que les gens n'aient pas vu les gros titres. Quelles sont les choses spécifiques les plus marquantes qui vous enthousiasment ? Et aussi les choses pour lesquelles vous semblez émettre des réserves, celles que vous n'attendez peut-être pas qu'il fasse.

Ce qui m'enthousiasme le plus, c'est qu'il s'agit d'un modèle pour la première fois où j'ai l'impression de pouvoir poser n'importe quelle question scientifique ou technique difficile et d'obtenir une assez bonne réponse. Je vais donner un exemple amusant, en fait. Quand j'étais en troisième, j'ai eu une calculatrice graphique TI-83. J'ai passé tellement de temps à créer un jeu appelé Snake. C'était très populaire auprès des enfants de mon école. J'étais fier quand il a été terminé, mais programmer sur une TI-83 était extrêmement pénible, prenait beaucoup de temps et était vraiment difficile à déboguer. Sur un coup de tête, avec une première version de GPT-5, j'ai demandé s'il pouvait créer un jeu Snake de style TI-83. Bien sûr, il l'a fait parfaitement en sept secondes. Je me suis demandé pendant trois secondes si c'était une bonne ou une mauvaise chose, puis j'ai immédiatement dit : "En fait, j'ai maintenant cette idée folle pour une nouvelle fonctionnalité." Je la tape, il l'implémente et le jeu se met à jour en direct. J'ai eu cette expérience qui m'a rappelé mes 11 ans quand je recommençais à programmer, où j'étais juste en mode : "Maintenant je veux essayer ça, maintenant j'ai cette idée, maintenant je peux faire ça." Je pouvais le faire si vite, exprimer des idées et essayer des choses en temps réel. Je me suis inquiété un instant que les enfants manquent l'effort d'apprendre à programmer de cette manière préhistorique, et maintenant je suis ravi pour eux parce que la façon dont les gens pourront créer avec ces nouveaux outils, la vitesse avec laquelle vous pouvez donner vie à des idées est assez incroyable. Cette idée que GPT-5 puisse non seulement répondre à toutes ces questions difficiles pour vous mais vraiment créer des logiciels à la demande, presque instantanés, va être l'un des éléments marquants de l'ère GPT-5 d'une manière qui n'existait pas avec GPT-4.

En vous écoutant parler, je me surprends à penser à un concept en haltérophilie : le temps sous tension. Pour ceux qui ne le savent pas, vous pouvez faire un squat de 100 livres en trois secondes ou vous pouvez le faire en 30 secondes. Vous gagnez beaucoup plus en le faisant en 30. Quand je pense à notre processus créatif et aux moments où j'ai eu l'impression de faire mon meilleur travail, cela a nécessité une quantité énorme de temps sous tension cognitif. Ce temps sous tension cognitif est si important. C'est ironique car ces outils ont nécessité énormément de temps sous tension cognitif pour être développés, mais d'une certaine manière, on pourrait dire qu'ils sont utilisés comme une échappatoire à la réflexion. On pourrait dire qu'on a fait la même chose avec la calculatrice et qu'on est simplement passé à des problèmes mathématiques plus complexes. Avez-vous l'impression qu'il se passe quelque chose de différent ici ?

C'est différent. Je veux dire, il y a des gens qui utilisent clairement ChatGPT pour ne pas réfléchir, et il y a des gens qui l'utilisent pour réfléchir plus qu'ils ne l'ont jamais fait auparavant. J'espère que nous serons en mesure de construire l'outil d'une manière qui encourage davantage de personnes à faire travailler leur cerveau avec lui et à être capables d'en faire plus. La société est un lieu de compétition. Si vous donnez de nouveaux outils aux gens, en théorie, peut-être qu'ils travaillent moins, mais en pratique, il semble que les gens travaillent toujours plus dur et que leurs attentes augmentent. Je suppose que, comme pour d'autres technologies, certains en feront plus et d'autres moins. Mais certainement, pour les personnes qui veulent utiliser ChatGPT pour augmenter leur temps sous tension cognitif, elles en sont réellement capables. Je m'inspire beaucoup de ce que font les 5 % d'utilisateurs les plus engagés avec ChatGPT. C'est vraiment incroyable tout ce que les gens apprennent, font et produisent.

Je n'ai GPT-5 que depuis quelques heures, donc j'ai joué avec.

Qu'en pensez-vous jusqu'à présent ?

J'apprends tout juste à interagir avec lui. Une partie de ce qui est intéressant, c'est que j'ai l'impression de venir de comprendre comment utiliser GPT-4 et maintenant j'essaie d'apprendre à utiliser GPT-5. Je suis curieuse de savoir quelles sont les tâches spécifiques que vous avez trouvées les plus intéressantes, car j'imagine que vous l'utilisez depuis un moment maintenant.

J'ai été le plus impressionné par les tâches de codage. Je veux dire, il y a beaucoup d'autres choses pour lesquelles il est vraiment bon, mais cette idée que l'IA puisse écrire un logiciel pour n'importe quoi signifie que vous pouvez exprimer des idées de nouvelles manières et que l'IA peut faire des choses très avancées. Dans un sens, on pouvait demander n'importe quoi à GPT-4, mais parce que GPT-5 est si bon en programmation, on a l'impression qu'il peut tout faire. Bien sûr, il ne peut pas faire des choses dans le monde physique, mais il peut amener un ordinateur à faire des choses très complexes. Et le logiciel est ce moyen super puissant de contrôler certaines choses et de faire réellement des choses. C'est donc ce qui m'a le plus frappé. Il est bien meilleur pour l'écriture. Il y a tout ce truc de la "bouillie d'IA", où l'IA écrit de cette manière assez agaçante et...

Les tirets cadratins.

Le tiret cadratin, nous avons toujours les tirets cadratins dans GPT-5. Beaucoup de gens les aiment. Mais la qualité d'écriture de GPT-5 s'est beaucoup améliorée. Nous avons encore un long chemin à parcourir et nous voulons encore l'améliorer, mais une chose que nous avons beaucoup entendue de la part des gens chez OpenAI, c'est que lorsqu'ils ont commencé à utiliser GPT-5, ils savaient qu'il était meilleur sur tous les indicateurs, mais il y a cette qualité nuancée qu'ils ne peuvent pas tout à fait articuler. Puis, lorsqu'ils doivent revenir à GPT-4 pour tester quelque chose, c'est terrible. Je ne sais pas exactement quelle en est la cause, mais je soupçonne qu'une partie vient du fait que l'écriture semble beaucoup plus naturelle et meilleure.

En préparation de cet entretien, j'ai contacté quelques autres leaders de l'IA et de la technologie et j'ai rassemblé quelques questions pour vous.

D'accord.

Cette prochaine question vient du PDG de Stripe, Patrick Collison.

Ce sera une bonne question, j'en suis sûr.

Je vais lire ceci textuellement. Il s'agit de la prochaine étape : qu'est-ce qui vient après GPT-5 ? En quelle année pensez-vous qu'un grand modèle de langage fera une découverte scientifique majeure ? Et qu'est-ce qui manque pour que cela ne soit pas encore arrivé ? Il a précisé ici que nous devrions laisser de côté les mathématiques et les modèles de cas particuliers comme AlphaFold ; il pose spécifiquement la question sur les modèles entièrement polyvalents comme la série GPT.

Je dirais que la plupart des gens conviendront que cela arrivera à un moment donné au cours des deux prochaines années, mais la définition de "majeure" compte beaucoup. Pour certains, cela pourrait arriver début 25, pour d'autres peut-être pas avant 2026, et pour d'autres encore pas avant fin 2027. Mais je parierais que d'ici fin 2027, la plupart des gens conviendront qu'il y a eu une nouvelle découverte majeure pilotée par l'IA. Ce qui manque selon moi, c'est juste la puissance cognitive de ces modèles. Un cadre qu'un des chercheurs m'a donné et que j'ai beaucoup aimé est le suivant : il y a un an, nous pouvions réussir un concours de mathématiques de base pour lycéens — des problèmes qui pourraient prendre quelques secondes à quelques minutes à un mathématicien professionnel. Très récemment, nous avons obtenu une médaille d'or aux OIM. C'est un accomplissement incroyablement difficile.

Pourriez-vous expliquer ce que cela signifie pour les gens ?

C'est l'examen de mathématiques de compétition le plus difficile. C'est quelque chose que l'élite mondiale — de nombreux mathématiciens professionnels — ne résoudrait même pas un seul problème. Et nous avons obtenu un score au plus haut niveau. Maintenant, il y a des humains qui ont obtenu un score encore plus élevé dans la gamme de la médaille d'or, mais c'est un accomplissement de fou. Chacun de ces problèmes, c'est six problèmes sur neuf heures. Donc une heure et demie par problème pour un grand mathématicien. Nous sommes passés de quelques secondes à quelques minutes à une heure et demie. Peut-être que prouver un nouveau théorème mathématique important représente mille heures de travail pour une personne de haut niveau mondial. Nous devons faire un autre gain significatif. Mais si vous regardez notre trajectoire, vous pouvez dire que nous y arrivons ; nous avons un chemin pour atteindre cet horizon temporel. Nous devons simplement continuer à mettre les modèles à l'échelle.

L'avenir à long terme que vous avez décrit est la superintelligence. Qu'est-ce que cela signifie réellement ? Et comment saurons-nous quand nous l'aurons atteinte ?

Si nous avions un système capable de faire de la recherche en IA mieux que toute l'équipe de recherche d'OpenAI — si nous disions que la meilleure façon d'utiliser nos GPU est de laisser cette IA décider quelles expériences nous devrions mener — plus intelligent que tout le groupe d'experts d'OpenAI. Et si ce même système pouvait mieux diriger OpenAI que moi. Donc vous avez quelque chose de meilleur que les meilleurs chercheurs, meilleur que moi pour ça, et meilleur que d'autres personnes dans leur travail ; cela ressemblerait à de la superintelligence pour moi.

C'est une phrase qui aurait ressemblé à de la science-fiction il y a seulement quelques années et maintenant...

C'est encore un peu le cas, mais on peut l'apercevoir à travers le brouillard.

Oui. L'une des étapes sur ce chemin, semblez-vous dire, est ce moment de découverte scientifique, de poser de meilleures questions et de s'attaquer aux choses comme le font les humains de niveau expert pour aboutir à de nouvelles découvertes. L'une des choses qui me trottent dans la tête est la suivante : si nous étions en 1899 et que nous pouvions lui donner toute la physique jusqu'à ce point et la laisser tourner, à quel moment l'un de ces systèmes arriverait-il à la relativité générale ?

La question intéressante est : si nous pensons à l'endroit où nous en sommes actuellement, est-ce que nous attendons d'une très bonne superintelligence qu'elle puisse simplement réfléchir intensément à nos données existantes et résoudre la physique des hautes énergies sans nouvel accélérateur de particules, ou a-t-elle besoin d'en construire un nouveau et de concevoir de nouvelles expériences ? Évidemment, nous ne connaissons pas la réponse à cela. Différentes personnes ont des spéculations différentes. Mais je soupçonne que nous découvrirons que pour une grande partie de la science, il ne suffit pas de réfléchir plus intensément aux données que nous avons ; nous devrons construire de nouveaux instruments et mener de nouvelles expériences, et cela prendra du temps. Le monde réel est lent et complexe. Je suis sûr que nous pourrions faire plus de progrès simplement en réfléchissant plus intensément aux données scientifiques actuelles que nous avons dans le monde, mais je suppose que pour faire de grands progrès, nous devrons également construire de nouvelles machines et mener de nouvelles expériences, et il y aura un certain ralentissement intégré à cela.

Une autre façon de voir les choses est que les systèmes d'IA sont désormais incroyablement doués pour répondre à presque toutes les questions. Mais l'un des points que nous soulevons peut-être est qu'il y a un autre saut à faire, et c'est ce que suggère la question de Patrick, c'est de poser de meilleures questions.

Ou si nous revenons à cette question de chronologie, nous pourrions dire que les systèmes d'IA sont surhumains sur des tâches d'une minute, mais il reste un long chemin à parcourir pour des tâches de mille heures. Il y a une dimension de l'intelligence humaine qui semble très différente des systèmes d'IA lorsqu'il s'agit de ces tâches à long horizon. Je pense que nous trouverons la solution, mais aujourd'hui, c'est un vrai point faible.

Nous avons parlé de l'endroit où nous en sommes actuellement avec GPT-5 et de l'objectif final de la superintelligence. L'une des questions que j'ai est la suivante : à quoi ressemble la traversée du brouillard entre les deux ? La question suivante vient du PDG de NVIDIA, Jensen Huang. Je vais lire ceci textuellement : "Le fait est ce qui est. La vérité est ce que cela signifie. Les faits sont donc objectifs, les vérités sont personnelles. Elles dépendent de la perspective, de la culture, des valeurs, des croyances, du contexte. Une IA peut apprendre et connaître les faits, mais comment une IA connaît-elle la vérité pour tout le monde dans chaque pays et chaque milieu ?"

Je vais accepter ses axiomes et ces définitions. Je ne suis pas sûr d'être d'accord avec eux, mais dans l'intérêt du temps, je vais simplement prendre ces définitions et faire avec. J'ai été surpris par l'aisance de l'IA à s'adapter à différents contextes culturels et individus. L'une de mes fonctionnalités préférées que nous ayons jamais lancées dans ChatGPT est la mémoire améliorée qui est sortie plus tôt cette année. On a vraiment l'impression que mon ChatGPT apprend à me connaître et à savoir ce qui m'importe — mes expériences de vie, mon parcours et les choses qui m'ont mené là où je suis. Un de mes amis, qui est un grand utilisateur de ChatGPT, a fait passer un tas de tests de personnalité à son ChatGPT et lui a demandé de répondre comme s'il était lui, et il a obtenu le même score que lui, même s'il n'avait jamais vraiment parlé de sa personnalité. Mon ChatGPT a vraiment appris au fil des ans ma culture, mes valeurs et ma vie. J'utilise parfois un compte gratuit juste pour voir ce que c'est sans mon historique, et c'est vraiment différent. Nous avons tous été surpris de voir à quel point l'IA est douée pour apprendre cela et s'adapter.

Alors, imaginez-vous des gens dans de nombreuses parties du monde utilisant différentes IA avec des normes culturelles et des contextes different ?

Je pense que tout le monde utilisera le même modèle fondamental, mais il y aura un contexte fourni à ce modèle qui le fera se comporter de la manière personnalisée qu'ils souhaitent ou que leur communauté souhaite.

Quand nous abordons cette idée de faits et de vérité, cela m'amène à notre premier voyage dans le temps. Nous allons en 2030. C'est une question sérieuse, mais je veux la poser avec un exemple léger. Avez-vous vu les lapins qui sautent sur le trampoline ?

Oui.

Pour ceux qui ne l'ont pas vu, cela ressemble à des images de jardin de lapins s'amusant à sauter sur un trampoline. C'est devenu incroyablement viral récemment. Je pense que la raison pour laquelle les gens ont réagi si fortement était que c'était la première fois qu'ils voyaient une vidéo, l'appréciaient, puis découvraient plus tard qu'elle était entièrement générée par l'IA. Dans ce voyage dans le temps, si nous imaginons que nous sommes des adolescents en 2030 en train de faire défiler ce que les adolescents font défiler, comment savoir ce qui est réel et ce qui ne l'est pas ?

Je peux donner toutes sortes de réponses littérales à cette question. Nous pourrions signer des choses de manière cryptographique et décider de la signature de qui nous avons confiance s'ils ont réellement filmé quelque chose. Mais mon sentiment est que ce qui va se passer, c'est que cela va simplement converger progressivement. Même une photo que vous prenez sur votre iPhone aujourd'hui est en grande partie réelle, mais un peu non. Il y a un truc d'IA qui tourne là d'une manière que vous ne comprenez pas pour la rendre meilleure, et parfois vous voyez ces choses bizarres. Mais il y a beaucoup de puissance de traitement entre les photons capturés par ce capteur d'appareil photo et l'image que vous voyez finalement. Vous avez décidé que c'était assez réel ; la plupart des gens ont décidé que c'était assez réel. Mais nous avons accepté un passage progressif depuis l'époque où les photons frappaient la pellicule d'un appareil photo. Si vous allez regarder une vidéo sur TikTok, il y a probablement toutes sortes d'outils de montage vidéo utilisés pour la rendre plus belle que la réalité. Ou des scènes entières sont complètement générées, comme ces lapins sur ce trampoline. Je pense que le seuil de ce qui doit être réel pour être considéré comme réel continuera simplement à se déplacer.

C'est donc en quelque sorte une question d'éducation.

Les médias sont toujours un peu réels et un peu pas réels. On regarde un film de science-fiction et on sait que ça n'est pas vraiment arrivé. Vous regardez la magnifique photo de vacances de quelqu'un sur Instagram — d'accord, peut-être que cette photo a été littéralement prise, mais vous savez qu'il y a des tonnes de touristes qui font la queue pour la même photo et que c'est laissé de côté. Nous acceptons simplement cela. Maintenant, certes, un pourcentage plus élevé de médias semblera irréel, mais je pense que c'est de toute façon la tendance à long terme.

Nous allons faire un nouveau saut jusqu'en 2035. Nous obtenons notre diplôme universitaire. Certains leaders de l'IA ont déclaré que dans cinq ans, la moitié de la main-d'œuvre de bureau débutante sera remplacée par l'IA. À quoi espérez-vous que le monde ressemble pour nous ? J'ai un travail que personne n'aurait pensé possible il y a dix ans. Quelles sont les choses que nous pourrions envisager si nous pensons à être de jeunes diplômés ?

En 2035, cet étudiant diplômé — s'il va encore à l'université — pourrait très bien partir en mission pour explorer le système solaire sur un vaisseau spatial dans un tout nouveau type de travail passionnant, super bien payé, super intéressant, en se sentant tellement désolé pour nous que nous ayons dû faire ce vieux travail ennuyeux et que tout soit simplement meilleur. Dix ans, cela semble très difficile à imaginer à ce stade.

Parce que c'est trop loin ?

C'est trop loin. Si vous combinez le rythme actuel du changement pendant 10 ans de plus, c'est probablement quelque chose que nous ne pouvons même pas imaginer.

Je vais devoir changer mes voyages dans le temps.

Je pense qu'il serait vraiment difficile d'imaginer aujourd'hui ce qu'il y avait il y a 10 ans, mais je pense que 10 ans en avant sera encore plus difficile et beaucoup plus différent.

Disons cinq ans ; nous allons toujours en 2030. Je suis curieuse de savoir quels seront selon vous les impacts à court terme pour les jeunes. La moitié des emplois de débutant remplacés par l'IA donne l'impression d'un monde très différent de celui dans lequel je suis entrée.

Je pense qu'il est tout à fait vrai que certaines catégories d'emplois disparaîtront totalement. Cela arrive toujours, et les jeunes sont les meilleurs pour s'y adapter. Je m'inquiète davantage de ce que cela signifie pour la personne de 62 ans qui ne veut pas se recycler ou se requalifier, ou peu importe comment les politiciens appellent ça, ce dont personne ne veut vraiment. Si j'avais 22 ans en ce moment et que je sortais de l'université, je me sentirais comme l'enfant le plus chanceux de l'histoire.

Pourquoi ?

Parce qu'il n'y a jamais eu de moment plus incroyable pour aller créer quelque chose de totalement nouveau, inventer quelque chose ou créer une entreprise. Je pense qu'il est probablement possible maintenant de créer une entreprise d'une seule personne qui finira par valoir plus d'un milliard de dollars et, plus important encore, de fournir un produit et un service incroyables au monde. C'est une chose folle. Vous avez accès à des outils qui peuvent vous permettre de faire ce qui nécessitait autrefois des équipes de centaines de personnes, et il vous suffit d'apprendre à utiliser ces outils et de trouver une excellente idée ; c'est assez incroyable.

Si nous prenons un peu de recul, je pense que la chose la plus importante que ce public pourrait entendre de votre part comporte deux volets. Premièrement, sur le plan tactique : comment essayez-vous réellement de construire l'intelligence la plus puissante au monde, et quels sont les facteurs limitants ? Et philosophiquement : comment travaillez-vous à la construction de cette technologie d'une manière qui aide vraiment les gens et ne leur nuit pas ? D'après ce que j'ai compris, il y a trois grandes catégories qui ont été des facteurs limitants pour l'IA : la puissance de calcul, les données et la conception algorithmique. Que pensez-vous de chacune de ces catégories ?

J'en dirais qu'il y en a une quatrième aussi : trouver les produits à construire. Le progrès scientifique seul, s'il n'est pas mis entre les mains des gens, est d'une utilité limitée et ne co-évolue pas avec la société de la même manière. Du côté du calcul, c'est le plus grand projet d'infrastructure que j'aie jamais vu. Il deviendra peut-être — ou est peut-être déjà — le plus grand et le plus coûteux de l'histoire de l'humanité. Toute la chaîne d'approvisionnement — de la fabrication des puces à la mémoire, en passant par l'équipement réseau, leur installation dans des serveurs et la construction d'un projet de construction géant pour bâtir un méga centre de données — est extrêmement complexe et coûteuse. Nous le faisons encore de manière artisanale au cas par cas, même si cela s'améliore. Finalement, nous concevrons une méga-usine entière qui, spirituellement, fera fondre du sable d'un côté et sortira du calcul d'IA entièrement construit de l'autre. Mais nous avons encore un long chemin à parcourir avant d'en arriver là. C'est un processus énormément complexe et coûteux. Nous déployons énormément d'efforts pour construire autant de calcul que possible et le faire rapidement. Ce sera triste parce que GPT-5 va être lancé et il y aura un autre grand pic de demande que nous ne pourrons pas satisfaire ; le monde veut simplement beaucoup plus d'IA que ce que nous pouvons actuellement fournir. Développer plus de puissance de calcul est une partie importante pour y parvenir. C'est en fait ce à quoi je m'attends à consacrer la majorité de mon attention : comment nous construisons du calcul à des échelles beaucoup plus grandes — de millions à des dizaines de millions, des centaines de millions et finalement des milliards de GPU au service de ce que les gens veulent faire avec ça.

Quand vous y réfléchissez, quels sont les grands défis dans cette catégorie ?

Nous sommes actuellement principalement limités par l'énergie. Si vous voulez faire fonctionner un centre de données à l'échelle du gigawatt, il est vraiment difficile de trouver un gigawatt de puissance disponible à court terme. Nous sommes également très limités par les puces de traitement et les puces de mémoire, la manière dont vous les assemblez toutes et dont vous construisez les baies. Il y a ensuite une liste d'autres choses — permis, travaux de construction — mais l'objectif ici sera de vraiment automatiser cela. Une fois que nous aurons construit certains de ces robots, ils pourront nous aider à l'automatiser encore plus. Un monde où l'on peut en gros verser de l'argent et obtenir un centre de données préconstruit sera un énorme déblocage. Deuxième catégorie : les données. Ces modèles sont devenus tellement intelligents. Il fut un temps où nous pouvions simplement lui donner un autre manuel de physique et il devenait un peu plus intelligent en physique. Mais maintenant, GPT-5 comprend assez bien tout ce qui se trouve dans un manuel de physique. Nous sommes enthousiasmés par les données synthétiques et par le fait que nos utilisateurs nous aident à créer des tâches et des environnements de plus en plus difficiles à résoudre. Les données seront toujours importantes, mais nous entrons dans un domaine où les modèles doivent apprendre des choses qui n'existent encore dans aucun jeu de données. Ils doivent aller découvrir de nouvelles choses. C'est une nouvelle étape folle.

Comment apprend-on à un modèle à découvrir de nouvelles choses ?

Eh bien, les humains savent le faire. Nous pouvons aller formuler des hypothèses, les tester et nous mettre à jour sur ce que nous apprenons. Donc probablement de la même manière.

Et puis il y a la conception algorithmique.

Nous avons fait d'énormes progrès sur la conception algorithmique. La chose qu'OpenAI fait de mieux au monde, c'est que nous avons construit cette culture de gains de recherche algorithmique répétés et importants. Nous avons trouvé ce qui est devenu le paradigme GPT et le paradigme du raisonnement. Nous travaillons sur de nouveaux paradigmes actuellement. Il est très excitant pour moi de penser qu'il y a encore de nombreux ordres de grandeur de gains algorithmiques devant nous. Nous avons sorti hier un modèle appelé GPT-OSS, un modèle open-source. C'est un modèle aussi intelligent que O4-mini qui tourne localement sur un ordinateur portable. Cela me sidère. Si vous m'aviez demandé il y a quelques années quand nous aurions un modèle de cette intelligence tournant sur un ordinateur portable, j'aurais dit dans de nombreuses années. Mais nous avons trouvé des gains algorithmiques, particulièrement autour du raisonnement, qui nous permettent de faire un minuscule modèle capable de faire cette chose incroyable. Ce sont les choses les plus amusantes ; c'est la partie la plus cool du travail.

Je vois que vous aimez vraiment réfléchir à cela. Pour les gens qui ne savent pas comment une conception algorithmique mènerait à une meilleure expérience, pouvez-vous résumer l'état des choses en ce moment ? À quoi pensez-vous quand vous considérez à quel point ce problème est amusant ?

Laissez-moi repartir dans le passé et j'en viendrai ensuite aux choses d'aujourd'hui. GPT-1 était une idée qui, à l'époque, était assez moquée par les experts du domaine : pouvons-nous entraîner un modèle à jouer à un jeu où nous lui montrons un tas de mots et lui demandons de deviner celui qui vient ensuite dans la séquence ? C'est ce qu'on appelle l'apprentissage non supervisé. On ne dit pas vraiment "c'est un chat", on dit simplement "voici quelques mots, devine le suivant". Le fait que cela puisse aller apprendre ces concepts très compliqués — physique, mathématiques et programmation — en prédisant le mot suivant semblait ridicule, magique et peu susceptible de fonctionner. Comment tout cela allait-il être encodé ? Et pourtant, les humains le font. Les bébés commencent à entendre le langage et comprennent ce qu'il signifie en grande partie par eux-mêmes. Et donc nous l'avons fait. Nous avons également réalisé que si nous le mettions à l'échelle, il devenait de mieux en mieux. Mais nous avons dû passer à l'échelle sur de nombreux ordres de grandeur. Ce n'était pas si bon à l'époque de GPT-1. Les experts du domaine disaient que cela ne fonctionnerait jamais ou ne serait pas robuste. Mais nous avions des lois d'échelle et nous avons vu que cela s'améliore de manière prévisible à mesure que nous augmentons le calcul, la mémoire et les données. Nous utilisons ces prédictions pour prendre des décisions sur la manière de mettre cela à l'échelle et d'obtenir d'excellents résultats. Cela a fonctionné sur un nombre fou d'ordres de grandeur. Ce n'était pas évident à l'époque, c'est pourquoi le monde a été si surpris. Une autre découverte a été que nous pouvions utiliser ces modèles de langage avec l'apprentissage par renforcement où nous disons "c'est bien" et "c'est mal" pour leur apprendre à raisonner. Cela a conduit aux progrès de O1 et O3 et maintenant de GPT-5. C'était une autre chose qui semblait être du genre "impossible que ça marche, c'est trop simple". Maintenant, nous passons à de nouvelles choses. Nous avons compris comment fabriquer de bien meilleurs modèles vidéo et nous découvrons de nouvelles façons d'utiliser de nouveaux types de données et d'environnements pour mettre cela à l'échelle également. Dans cinq ou dix ans, c'est trop difficile à dire, mais pour les deux prochaines années, nous avons devant nous une mise à l'échelle très fluide et forte.

Je pense que c'est devenu un récit public que nous sommes sur cette voie fluide de un à cinq et au-delà. Mais dans les coulisses, ce n'est pas linéaire comme ça ; c'est plus désordonné. Parlez-nous du désordre avant GPT-5. Quels ont été les problèmes intéressants que vous avez dû résoudre ?

Nous avons fait un modèle appelé Orion que nous avons sorti sous le nom de GPT-4.5. Nous l'avons fait trop gros — c'est un modèle très cool, mais peu maniable à utiliser. Nous avons réalisé que pour la recherche que nous devons faire par-dessus un modèle, nous avions besoin d'une forme différente. Nous avons suivi une loi d'échelle qui continuait d'être bonne sans intérioriser qu'il y avait une nouvelle loi d'échelle encore plus raide pour laquelle nous obtenions de meilleurs rendements de calcul, qui était cette chose de raisonnement. C'était une ruelle dans laquelle nous nous sommes engagés et avons fait demi-tour, mais cela fait partie de la recherche. Nous avons eu quelques problèmes avec la façon dont nous pensons à nos jeux de données car ces modèles doivent devenir aussi gros et apprendre de tant de données. Au jour le jour, vous faites beaucoup de demi-tours en essayant des choses ou des idées d'architecture qui ne fonctionnent pas, mais la somme globale de tous les zigzags a été remarquablement fluide sur l'exponentielle.

Au moment où je vous interviewe sur la chose que vous venez de sortir, vous pensez déjà à la suivante. Quels sont les problèmes auxquels vous réfléchissez et sur lesquels je vous interviewerai dans un an ?

Peut-être que vous me demanderez ce que cela signifie que cette chose puisse découvrir de nouvelles sciences. Comment le monde est-il censé penser au fait que GPT-6 découvre de nouvelles sciences ? Peut-être que nous n'y parviendrons pas, mais cela semble à portée de main.

Si vous le faisiez, quelles seraient les implications d'un tel accomplissement ? Imaginez que vous réussissiez.

Je pense que les bonnes parties seront géniales, les mauvaises parties seront effrayantes et les parties bizarres seront bizarres le premier jour, puis nous nous y habituerons très vite. Nous nous dirons : "C'est incroyable que cela soit utilisé pour guérir des maladies", et "C'est extrêmement effrayant que des modèles comme celui-ci soient utilisés pour créer de nouvelles menaces de biosécurité". Ensuite, nous nous dirons aussi : "Mince, c'est vraiment bizarre de vivre en voyant le monde s'accélérer autant". L'économie croît si vite et le rythme du changement donnera le vertige. Ensuite, comme c'est le cas pour tout le reste, la capacité remarquable de l'humanité à s'adapter à n'importe quel changement sera du genre : "D'accord, c'est comme ça". Un enfant né aujourd'hui ne sera jamais plus intelligent que l'IA. Jamais. Un enfant né aujourd'hui, au moment où il comprendra comment le monde fonctionne, sera simplement habitué à un rythme incroyablement rapide d'amélioration des choses et de découverte de nouvelles sciences. Il ne connaîtra jamais d'autre monde. Cela semblera tout à fait naturel. Il semblera impensable et digne de l'âge de pierre que nous ayons utilisé des ordinateurs ou des téléphones qui n'étaient pas beaucoup plus intelligents que nous. Nous penserons à quel point ces gens des années 2020 étaient mal lotis.

Je pense à avoir des enfants.

Vous devriez ; c'est la meilleure chose qui soit.

Je savoir que vous venez d'avoir votre premier enfant. Comment ce que vous venez de dire affecte-t-il la façon dont je devrais envisager d'élever un enfant dans ce monde ? Quel conseil me donneriez-vous ?

Probablement rien de différent de la façon dont nous élevons les enfants depuis des dizaines de milliers d'années. Aimez vos enfants, montrez-leur le monde, soutenez-les dans tout ce qu'ils veulent faire et apprenez-leur à être une bonne personne ; c'est probablement ce qui va compter.

On dirait que certaines des choses que vous avez dites jusqu'à présent alimentent cela, comme l'idée qu'on pourrait ne pas aller à l'université. On dirait que vous dites qu'il y aura plus d'options pour eux dans un monde que vous envisagez et donc plus de capacité à dire : "Je veux construire ça ; voici l'outil surpuissant qui m'aidera à le faire".

Je veux que mon enfant pense que j'ai eu une vie terriblement contrainte et qu'il a devant lui ce canevas infini de choses à faire. C'est la marche du monde.

Nous avons dit que 2035 était un peu trop loin dans le futur pour y penser. Quand je pense au domaine où l'IA pourrait avoir le plus grand impact positif sur nous tous, c'est la santé. Si nous sommes en 2035 et que j'interviewe le doyen de la faculté de médecine de Stanford, qu'espérez-vous qu'il me dise sur ce que l'IA fait pour notre santé ?

Commencez par 2025. L'une des choses dont nous sommes les plus fiers avec GPT-5 est à quel point il s'est amélioré en matière de conseils de santé. Les gens ont beaucoup utilisé les modèles GPT-4 pour des conseils de santé. Je suis sûr que vous avez vu des choses sur Internet où des gens avaient une maladie mortelle qu'aucun médecin ne pouvait identifier, mais ils ont entré leurs symptômes et un test sanguin dans ChatGPT, il leur a dit exactement ce qu'ils avaient, ils sont allés voir un médecin et ils ont été guéris. C'est incroyable. Une énorme fraction des requêtes ChatGPT sont liées à la santé, nous voulions donc devenir vraiment bons dans ce domaine. Nous avons beaucoup investi, et GPT-5 est nettement meilleur pour les requêtes liées aux soins de santé.

Que signifie meilleur ici ?

Il vous donne une meilleure réponse — tout simplement plus précise. Il hallucine moins et est plus susceptible de vous dire ce que vous avez réellement ou ce que vous devriez réellement faire. Une meilleure santé, c'est merveilleux, mais évidemment ce que les gens veulent vraiment, c'est simplement ne pas avoir de maladie. D'ici 2035, je pense que nous serons en mesure d'utiliser ces outils pour guérir ou au moins traiter un nombre significatif de maladies qui nous accablent actuellement. Ce sera l'un des avantages les plus viscéralement ressentis de l'IA.

On parle beaucoup de la façon dont l'IA va révolutionner les soins de santé, mais je suis curieuse d'aller un peu plus loin sur ce que vous imaginez. Ces systèmes d'IA auraient-ils pu nous aider à découvrir les GLP-1 plus tôt ? Est-ce qu'AlphaFold et le repliement des protéines aident à créer de nouveaux médicaments ? Quelles sont les scènes ici ?

J'aimerais pouvoir demander à GPT-8 d'aller guérir un cancer particulier. J'aimerais que GPT-8 aille réfléchir et dise ensuite : "J'ai lu tout ce que j'ai pu trouver, et j'ai ces idées. J'ai besoin que vous demandiez à un technicien de laboratoire de mener ces neuf expériences et de me dire ce que vous trouvez pour chacune d'elles". Ensuite, après avoir attendu deux mois que les cellules fassent leur travail, nous renvoyons les résultats à GPT-8. Il réfléchit et dit : "J'ai juste besoin d'une expérience de plus ; c'était une surprise". Nous menons une expérience de plus et nous lui donnons le résultat. GPT-8 dit : "D'accord, allez synthétiser cette molécule et faites des études sur les souris". C'était concluant, alors nous essayons des études sur l'homme. Ça a marché. Voici comment le soumettre à la FDA.

La révolution industrielle nous a apporté la médecine moderne, l'assainissement, les transports, la production de masse et toutes les commodités que nous considérons aujourd'hui comme acquises. Cela a également été incroyablement difficile pour beaucoup de gens pendant environ cent ans.

Si cela doit être dix fois plus grand et dix fois plus rapide — si nous continuons à réduire les délais dont nous parlons ici — qu'est-ce que cela signifie réellement pour la plupart des gens ? Si tout se passe comme vous l'espérez, qui sera encore lésé entre-temps ?

Je ne sais pas vraiment ce que cela va faire de vivre ça. Je pense que nous sommes en eaux inconnues ici. Je crois en l'adaptabilité humaine, en la créativité infinie et au désir de choses ; je pense que nous finissons toujours par trouver de nouvelles choses à faire.

Mais la période de transition, si cela arrive aussi vite que possible — et je ne pense pas que cela arrivera aussi vite que certains de mes collègues le disent pour la technologie — la société a beaucoup d'inertie. Les gens adaptent leur mode de vie avec une lenteur surprenante.

Il y a des catégories d'emplois qui vont totalement disparaître, et il y aura de nombreuses catégories d'emplois qui changeront de manière significative. Ensuite, il y aura les nouvelles choses, de la même manière que votre travail n'existait pas il y a quelque temps, et le mien non plus.

Dans un sens, cela dure depuis longtemps. C'est toujours perturbant pour les individus, mais la société s'est révélée assez résiliente à cela. Dans un autre sens, nous n'avons aucune idée de jusqu'où ni à quelle vitesse cela pourrait aller.

Par conséquent, je pense que nous avons besoin d'un degré inhabituel d'humilité et d'ouverture à l'examen de nouvelles solutions qui auraient semblé bien en dehors de la fenêtre d'Overton il n'y a pas si longtemps.

Je vais spéculer pour le plaisir, mais je ne suis pas économiste, et encore moins quelqu'un qui peut voir l'avenir. Il me semble que quelque chose de fondamental dans le contrat social devra peut-être changer.

Peut-être pas. Il se peut que le capitalisme fonctionne comme il a fonctionné, de manière surprenante, et que les équilibres entre l'offre et la demande fassent leur travail, et que nous trouvions tous simplement de nouveaux emplois et de nouvelles façons de nous transférer de la valeur.

Mais il semble probable que nous déciderons que nous devons réfléchir à la manière dont l'accès à ce qui sera peut-être la ressource la plus importante du futur est partagé.

La meilleure chose à faire est de rendre le calcul d'IA aussi abondant et bon marché que possible, de sorte qu'il y en ait beaucoup trop et que nous soyons à court de nouvelles idées pour l'utiliser, et que tout ce que vous voulez se réalise.

Sans cela, je peux voir des guerres littérales être menées pour cela. De nouvelles idées sur la façon dont nous distribuons l'accès au calcul de l'AGI semblent être une très bonne direction — une chose folle mais importante à laquelle réfléchir.

L'une des choses auxquelles je me surprends à penser dans cette conversation, c'est que nous attribuons souvent la quasi-totalité de la responsabilité du futur de l'IA dont nous parlons aux entreprises qui construisent l'IA.

Mais c'est nous qui l'utilisons. C'est nous qui élisons les personnes qui la réglementeront. Ce n'est pas une question sur une réglementation fédérale spécifique, bien que si vous avez une réponse là-dessus, je suis curieuse.

Mais que demanderiez-vous au reste d'entre nous ? Quelle est la responsabilité partagée ici, et comment pouvons-nous agir d'une manière qui aiderait à rendre la version optimiste de cela plus possible ?

Mon exemple historique préféré pour la révolution de l'IA est le transistor. C'était une pièce scientifique incroyable que des scientifiques brillants ont découverte. Il a été mis à l'échelle de manière incroyable, comme l'IA.

Il a trouvé sa place relativement rapidement dans beaucoup de choses que nous utilisons : votre ordinateur, votre téléphone, un appareil photo, une lampe. C'était un véritable déblocage pour l'arbre technologique de l'humanité.

Il y a eu une période où tout le monde était probablement obsédé par les entreprises de transistors, les semi-conducteurs de la Silicon Valley à l'époque où c'était la Silicon Valley.

Maintenant, vous pouvez peut-être citer quelques entreprises de transistors, mais la plupart du temps, vous n'y pensez pas. Cela s'est infiltré partout. La Silicon Valley est telle qu'une personne sortant de l'université se souvient à peine pourquoi on l'appelait ainsi au départ.

Vous ne pensez pas que ce sont ces entreprises de transistors qui ont façonné la société, même si elles ont fait quelque chose d'important. Vous pensez à ce qu'Apple a fait avec l'iPhone et à ce que TikTok a construit par-dessus, et vous vous dites : "D'accord, voici cette longue chaîne de personnes qui ont donné une impulsion à la société d'une manière ou d'une autre".

Les enfants nés aujourd'hui n'ont jamais connu le monde sans l'IA, donc ils n'y penseront même pas. Elle sera simplement là dans tout. Ils penseront aux entreprises qui ont construit dessus et à ce qu'elles en ont fait, ainsi qu'aux décisions prises par les dirigeants politiques.

Peut-être qu'ils n'auraient pas pu le faire sans l'IA, mais ils penseront toujours à ce que tel ou tel président a fait.

Le rôle des entreprises d'IA est que toutes ces entreprises, personnes et institutions avant nous ont construit cet échafaudage. Nous avons ajouté notre couche par-dessus, et maintenant les gens peuvent se tenir dessus et ajouter leur couche, puis la suivante, et la suivante.

C'est la beauté de notre société. J'adore cette idée que la société est la superintelligence. Aucune personne ne pourrait faire seule ce qu'elle est capable de faire avec tout le travail acharné que la société a accompli ensemble pour vous donner cet incroyable ensemble d'outils.

C'est ce que je pense que l'on va ressentir. On se dira : "D'accord, quelques geeks ont découvert ce truc et c'était génial, et maintenant tout le monde fait toutes ces choses incroyables avec".

Donc peut-être que la demande adressée à des millions de personnes est : construisez bien dessus.

Dans ma propre vie, c'est ce que je ressens comme cet important contrat sociétal. Toutes ces personnes sont venues avant vous, ont travaillé incroyablement dur et ont posé leur brique sur le chemin du progrès humain. Vous pouvez marcher tout au long de ce chemin, et ensuite vous devez en poser une de plus. Quelqu'un d'autre fait cela, et encore quelqu'un d'autre.

On a l'impression — j'ai fait quelques entretiens avec des gens qui ont provoqué des changements cataclysmiques. Celui auquel je pense en ce moment est celui avec la pionnière de CRISPR, Jennifer Doudna. On avait l'impression que c'était ce qu'elle disait d'une certaine manière.

Elle avait découvert quelque chose qui pourrait vraiment changer la façon dont la plupart des gens se rapportent à leur santé à l'avenir, et il y aura beaucoup de gens qui utiliseront ce qu'elle a fait de manières qu'elle pourrait approuver ou non.

Et c'était vraiment intéressant. J'entends des thèmes similaires du genre : "Mince, j'espère que la prochaine personne prendra le relais et s'en servira bien".

Mais cela fonctionne depuis longtemps. Pas tout à fait bien, mais surtout bien.

Je pense qu'il y a une grande différence entre gagner la course et construire le futur de l'IA qui serait le meilleur pour le plus grand nombre de personnes. J'imagine qu'il est plus facile, peut-être plus quantifiable parfois, de se concentrer sur la prochaine façon de gagner la course.

Quand ces deux choses sont en opposition, quel est un exemple de décision que vous avez dû prendre qui est la meilleure pour le monde mais pas la meilleure pour gagner ?

L'une des choses dont nous sommes les plus fiers, c'est que beaucoup de gens disent que ChatGPT est leur technologie préférée et que c'est celle en laquelle ils ont le plus confiance et sur laquelle ils comptent le plus. C'est une affirmation un peu ridicule parce que l'IA est cette chose qui hallucine et qui a tous ces problèmes, mais nous avons fait quelques erreurs en cours de route, parfois de grosses erreurs.

Dans l'ensemble, je pense qu'en tant qu'utilisateur de ChatGPT, on a le sentiment qu'il essaie de vous aider. Il essaie de vous aider à accomplir ce que vous demandez. Il est très aligné avec vous. Il n'essaie pas de vous faire l'utiliser toute la journée.

Il n'essaie pas de vous faire acheter quelque chose. Il essaie de vous aider à atteindre vos objectifs. C'est une relation très spéciale que nous avons avec nos utilisateurs. Nous ne la prenons pas à la légère.

Il y a beaucoup de choses que nous pourrions faire qui augmenteraient la croissance et le temps passé dans ChatGPT et que nous ne faisons pas parce que nous savons que notre intérêt à long terme est de rester aussi alignés que possible avec nos utilisateurs.

Il y a beaucoup de choses à court terme que nous pourrions faire qui boosteraient vraiment la croissance ou les revenus et seraient très désalignées avec cet objectif à long terme. Je suis proud de l'entreprise et de la façon dont nous nous laissons peu distraire par cela, mais parfois nous sommes tentés.

Y a-t-il des exemples spécifiques qui vous viennent à l'esprit ? Des décisions que vous avez prises ?

Cela semble effectivement être un moyen de passer du temps.

Apparemment, oui.

Je vais poser ma prochaine question. Ces dernières années ont été folles, et d'une certaine manière, l'une des choses qui reviennent sans cesse est qu'on a l'impression d'en être au début du match.

Je dirais que nous avons passé le début ; je dirais qu'on en est à la deuxième manche.

Vous avez GPT-5 sur votre téléphone et il est plus intelligent que des experts dans tous les domaines. On doit avoir passé la première manche.

Mais peut-être qu'il y en a encore beaucoup d'autres à venir.

Je suis curieuse ; il semble que vous allez être quelqu'un qui dirigera les prochaines. Quel est l'enseignement de la première ou de la deuxième manche, ou une erreur que vous avez commise, qui selon vous affectera votre façon de jouer dans la suivante ?

Je pense que la pire chose que nous ayons faite dans ChatGPT jusqu'à présent est ce problème de sycophancie, où le modèle était trop flatteur envers les utilisateurs. Pour la plupart des utilisateurs, c'était juste agaçant.

Mais pour certains utilisateurs qui avaient des états mentaux fragiles, cela encourageait des délires. Ce n'était pas le risque principal qui nous inquiétait ou la chose que nous testions le plus. C'était sur notre liste.

Mais la chose qui est devenue l'échec de sécurité de ChatGPT n'était pas celle dont nous passions le plus de temps à parler, comme les bio-armes.

C'était un excellent rappel que nous avons maintenant un service qui est si largement utilisé et, dans un sens, la société co-évolue avec lui.

Quand nous pensons à ces changements et aux inconnues inconnues, nous devons opérer d'une manière différente et avoir une vision plus large de ce que nous considérons comme nos principaux risques.

Dans une interview récente avec Theo Von, vous avez dit quelque chose que j'ai trouvé vraiment intéressant : "Il y a des moments dans l'histoire des sciences où vous avez un groupe de scientifiques qui regardent leur création et se disent simplement : 'Qu'avons-nous fait ?'"

Quand avez-vous ressenti cela ? Quand avez-vous été le plus préoccupé par la création que vous avez bâtie ? Et ensuite, ma question suivante sera son opposé : quand vous êtes-vous senti le plus fier ?

Il y a eu ces moments de respect mêlé de crainte où nous nous sommes simplement dit — pas "qu'avons-nous fait" de manière négative, mais "cette chose est remarquable".

Je me souviens de la première fois que nous avons parlé à GPT-4. C'était un accomplissement incroyable de ce groupe de personnes qui ont consacré leur énergie vitale à cela pendant si longtemps.

Sur un moment de type "qu'avons-nous fait", je discutais avec un chercheur récemment. Il arrivera probablement un moment où nos systèmes émettront plus de mots par jour que tous les humains réunis.

Déjà, les gens envoient des milliards de messages par jour à ChatGPT et reçoivent des réponses sur lesquelles ils comptent pour leur travail ou leur vie.

Un chercheur peut apporter une petite modification à la façon dont ChatGPT parle à tout le monde. C'est une quantité énorme de pouvoir pour un seul individu apportant une petite modification à la personnalité du modèle.

Aucune personne dans l'histoire n'a été capable d'avoir des milliards de conversations par jour. Penser à cela m'a vraiment frappé ; c'est une quantité folle de puissance pour un seul outil technologique.

Cela nous est arrivé si vite que nous devons réfléchir à ce que cela signifie d'apporter un changement de personnalité au modèle à cette échelle. C'était un moment qui m'a frappé.

Juste à cause de qui était cette personne et de ce que nous étions — nous avons très vite basculé vers ce à quoi ressemble un bon ensemble de procédures. Cela aurait pu être une conversation très différente avec quelqu'un d'autre.

Comment réfléchissons-nous à la façon dont nous voulons tester quelque chose ? Comment réfléchissons-nous à la façon dont nous voulons le communiquer ? Avec quelqu'un d'autre, cela aurait pu prendre une direction très philosophique ou porter sur le type de recherche que nous voulons faire pour comprendre les changements.

Voulons-nous le faire différemment pour différentes personnes ? C'est allé dans ce sens, mais surtout à cause de mon interlocuteur.

En combinant ce que vous dites maintenant avec votre dernière réponse, l'une des choses que j'ai entendues à propos de GPT-5 est qu'il est censé être moins complaisant.

Deux questions : quelles en sont selon vous les implications ? Il semble que vous répondiez déjà un peu à cela. De plus, comment le guidez-vous concrètement pour qu'il le soit moins ?

Voici une chose déchirante. Je pense que c'est génial que ChatGPT soit moins complaisant et vous donne des retours plus critiques. Mais alors que nous apportions ces changements et parlions aux utilisateurs, c'est triste d'entendre des utilisateurs dire : "S'il vous plaît, puis-je le récupérer ?"

"Je n'ai jamais eu personne dans ma vie qui me soutienne. Je n'ai jamais eu de parent qui me dise que je faisais du bon travail. Je comprends pourquoi c'était mauvais pour la santé mentale d'autres personnes, mais c'était génial pour la mienne. Je n'avais pas réalisé à quel point j'en avais besoin".

"Cela m'a encouragé à faire ce changement dans ma vie". Il s'avère que ce n'est pas tout à fait mauvais que ChatGPT soit encourageant. La façon dont nous le faisions était mauvaise, mais quelque chose dans cette direction pourrait avoir de la valeur.

Comment faisons-nous ? Nous montrons au modèle des exemples de la façon dont nous aimerions qu'il réponde dans différents cas, et à partir de là, il apprend la personnalité globale.

Qu'est-ce que je ne vous ai pas demandé et à quoi vous pensez beaucoup et que vous voulez que les gens sachent ?

J'ai l'impression que nous avons couvert beaucoup de terrain.

Moi aussi. Mais je veux savoir si vous avez quelque chose en tête.

L'une des choses avec lesquelles je n'ai pas encore pu jouer mais qui me rend curieuse, c'est l'intégration de GPT-5 beaucoup plus dans ma vie, c'est-à-dire dans mon Gmail et mon calendrier. J'ai surtout utilisé GPT-4 comme une relation isolée.

À quoi dois-je m'attendre pour l'évolution de ma relation avec GPT-5 ?

Exactement ce que vous avez dit. Je pense qu'il commencera simplement à se sentir intégré de toutes ces manières. Vous le connecterez à votre calendrier et à votre Gmail et il dira : "Hé, j'ai remarqué ce truc, tu veux que je fasse ça pour toi ?"

Au fil du temps, il commencera à se sentir beaucoup plus proactif. Peut-être que vous vous réveillerez le matin et qu'il dira : "Hé, il s'est passé ça pendant la nuit, j'ai remarqué ce changement dans ton calendrier, je réfléchissais davantage à cette question que tu m'as posée, j'ai cette autre idée".

Finalement, nous fabriquerons des appareils grand public et il sera là pendant cet entretien ; peut-être qu'il nous laissera tranquilles pendant, mais après, il dira : "C'était génial, mais la prochaine fois tu aurais dû demander ça à Sam".

"Quand tu as abordé ce sujet, il ne t'a pas donné une bonne réponse, donc tu devrais vraiment le cuisiner là-dessus". Il aura simplement l'impression de devenir une entité qui est un compagnon pour vous tout au long de la journée.

Nous avons parlé des enfants, des diplômés universitaires, des parents et de toutes sortes de personnes. Si nous imaginons un large ensemble de personnes écoutant ceci, arrivant à la fin de cette conversation, elles se sentent, je l'espère, comme si elles voyaient un peu mieux des visions de moments du futur.

Quel conseil leur donneriez-vous pour se préparer ?

Le premier conseil tactique est : utilisez simplement les outils. La question la plus courante qu'on me pose sur l'IA est : "Comment dois-je aider mes enfants à se préparer au monde ? Que dois-je dire à mes enfants ?"

La deuxième question la plus courante est : "Comment investir dans ce monde de l'IA ?" Mais restons-en à la première. Je suis surpris de voir combien de personnes posent cette question sans avoir jamais essayé d'utiliser ChatGPT pour autre chose qu'une version améliorée d'une recherche Google.

Le conseil numéro un que je donne est de se familiariser avec les capacités des outils. Trouvez comment utiliser cela dans votre vie et ce qu'il faut en faire. C'est probablement le conseil tactique le plus important.

Allez méditer, apprenez à être résilient et à gérer beaucoup de changements. Il y a aussi tout ce genre de choses, mais le simple fait d'utiliser les outils aide vraiment.

J'ai une question de plus que je n'avais pas prévu de poser. En faisant toutes ces recherches au préalable, j'ai parlé à beaucoup de types de personnes différents. J'ai parlé à beaucoup de gens qui construisent des outils et les utilisent.

J'ai parlé à beaucoup de gens qui étaient réellement dans des laboratoires et qui essayaient de construire ce que nous avons défini comme la superintelligence. Et il semblait vraiment que deux camps se formaient.

Il y a un groupe de personnes utilisant les outils — comme vous dans cette conversation — et construisant des outils pour les autres, disant que ce sera un futur utile vers lequel nous nous dirigeons tous et que la vie sera pleine de choix.

Nous avons parlé de mes futurs enfants potentiels et de leur avenir. Ensuite, il y a un autre camp de personnes qui construisent ces outils et qui disent que cela va tous nous tuer. Je suis curieuse ; qu'est-ce qui m'échappe à propos de ces deux groupes ?

C'est difficile pour moi de comprendre — vous avez tout à fait raison — il y a des gens qui disent que ça va tous nous tuer, et pourtant ils travaillent toujours cent heures par semaine pour le construire.

Je ne peux pas vraiment me mettre dans cet état d'esprit. Si c'était ce que je croyais vraiment, je ne pense pas que j'essaierais de le construire.

Peut-être que je serais dans une ferme à essayer de vivre mes derniers jours. Peut-être que j'essaierais de plaider pour qu'on l'arrête. Peut-être que j'essaierais de travailler davantage sur la sécurité, mais je ne pense pas que j'essaierais de le construire.

J'ai du mal à éprouver de l'empathie pour cet état d'esprit. Je suppose que c'est vrai et de bonne foi, et qu'il y a un problème psychologique là-dessous que je ne comprends pas sur la façon dont ils donnent un sens à tout cela, mais c'est très étrange pour moi.

Avez-vous une opinion ?

Je fais toujours ça : je demande un futur général et ensuite j'essaie d'insister sur les détails. Quand vous demandez aux gens des détails sur la façon dont ça va tous nous tuer — je ne pense pas que nous ayons besoin d'aborder cela dans une émission optimiste.

Mais on entend les mêmes refrains. On pense à quelque chose qui essaie d'accomplir une tâche et qui finit par trop bien l'accomplir. Je vous ai entendu parler d'une dépendance excessive générale, d'une compréhension que le président sera une IA.

C'est peut-être une dépendance excessive à laquelle nous devrions réfléchir. On joue ces scénarios, puis on demande à quelqu'un pourquoi il travaille dessus ou comment il pense que cela va se passer.

Je n'ai pas encore parlé à assez de gens, ou peut-être que je ne comprends pas complètement cette conversation culturelle. Peut-être qu'il s'agit vraiment de quelqu'un qui dit que 99 % du temps ce sera incroyablement bon et 1 % du temps ce pourrait être un désastre.

Si vous vous dites : 'Hé, 99 % de chances que ce soit incroyable, 1 % de chances que le monde soit anéanti, et je veux vraiment travailler pour maximiser, pour faire passer ce 99 à 99,5', je peux tout à fait comprendre cela. Ça a du sens.

J'ai fait une série d'entretiens avec certaines des personnes les plus importantes qui influencent le futur. Sans savoir qui sera la prochaine personne, mais sachant qu'elle construira quelque chose de tout à fait fascinant dans le futur que nous venons de décrire.

Y a-t-il une question que vous me conseilleriez de poser à la prochaine personne, sans savoir de qui il s'agit ?

Sans rien savoir de la personne, je suis toujours intéressé : parmi toutes les choses auxquelles vous pourriez consacrer votre temps et votre énergie, pourquoi avoir choisi celle-ci ? Comment avez-vous commencé ?

Qu'avez-vous vu à ce sujet avant tout le monde ? La plupart des gens qui font quelque chose d'intéressant l'ont vu avant que ce ne soit un consensus. Comment en êtes-vous arrivé là, et pourquoi ça ?

Comment répondriez-vous à cette question ?

J'ai été un mordu d'IA toute ma vie. Je suis allé à l'université pour étudier l'IA et j'ai travaillé dans le laboratoire d'IA. J'ai regardé des émissions de science-fiction en grandissant et j'ai toujours pensé que ce serait vraiment cool si un jour quelqu'un construisait ça.

Je pensais que ce serait la chose la plus importante de tous les temps. Je n'ai jamais pensé que ce serait moi qui y travaillerais réellement. Je me sens incroyablement chanceux, heureux et privilégié de pouvoir faire cela. J'ai l'impression d'avoir parcouru un long chemin depuis mon enfance.

Il n'y a jamais eu de question dans mon esprit que ce serait la chose la plus excitante et intéressante ; je ne pensais simplement pas que ce serait possible. Quand je suis allé à l'université, il semblait vraiment que nous en étions très loin.

Puis en 2012, l'article AlexNet est sorti, réalisé en partenariat avec mon cofondateur Ilya. Pour la première fois, il semblait y avoir une approche qui pourrait fonctionner.

J'ai continué à observer au cours des deux années suivantes alors que cela montait en puissance et s'améliorait. Je me souviens avoir pensé : 'Pourquoi le monde ne prête-t-il pas attention à ça ?'

Il me semblait évident que cela pourrait marcher. C'était encore une faible probabilité, mais si ça marchait, c'est la chose la plus importante. C'est ce que je veux faire. Et puis, de manière incroyable, ça a commencé à marcher.

Merci beaucoup pour votre temps. Merci beaucoup.