Bienvenue au podcast d'OpenAI. Je m'appelle Andrew Mayne. Pendant plusieurs années, j'ai travaillé chez OpenAI, d'abord comme ingénieur dans l'équipe appliquée, puis comme communiquant scientifique. Après cela, j'ai travaillé avec des entreprises et des particuliers essayant de comprendre comment intégrer l'intelligence artificielle. Avec ce podcast, nous avons l'occasion de parler aux personnes travaillant avec et chez OpenAI de ce qui se passe dans les coulisses et peut-être d'avoir un aperçu de l'avenir. Mon premier invité est Sam Altman, PDG et cofondateur d'OpenAI, et nous allons en savoir un peu plus sur Stargate, comment il utilise ChatGPT en tant que parent, et peut-être avoir une idée de quand GPT-5 arrivera.

Chaque année, de plus en plus de gens penseront que nous sommes parvenus à un système d'AGI. Ce que l'on attend du matériel et des logiciels évolue très rapidement. Si les gens savaient ce que nous pourrions faire avec plus de puissance de calcul, ils en voudraient beaucoup, beaucoup plus.

L'un de mes amis est un nouveau parent et utilise beaucoup ChatGPT pour poser des questions, et c'est devenu une très bonne ressource. Et vous êtes un nouveau parent, à quel point ChatGPT vous a-t-il aidé dans ce domaine ?

Beaucoup. Je veux dire, il est clair que les gens ont pu s'occuper de bébés sans ChatGPT pendant longtemps. Je ne sais pas comment j'aurais fait. Ces premières semaines, c'était constant, je veux dire, tout le temps. Maintenant, je lui pose plutôt des questions sur les étapes du développement parce que je maîtrise les bases, mais...

Est-ce normal ?

Oui. Mais cela a été super utile pour ça. Je passe beaucoup de temps à réfléchir à la façon dont mon enfant utilisera l'IA à l'avenir. À ce propos, je suis devenu totalement conquis par l'idée d'avoir des enfants. Je pense que tout le monde devrait avoir beaucoup d'enfants.

Oui, beaucoup de mes amis chez OpenAI, d'anciens collègues et des actuels, ont des enfants. Et les gens se demandent : "oh, et cette histoire d'IA ?" Tous ceux que je connais en interne sont très optimistes et fondent des familles.

Je pense que c'est bon signe. Oui. Par exemple, mes enfants ne seront jamais plus intelligents que l'IA. Mais aussi, ils grandiront...

C'est une belle façon de les rabaisser, quand même.

Je veux dire qu'ils grandiront en étant bien plus capables que nous ne l'étions et en étant capables de faire des choses que nous ne pouvons pas imaginer. Et ils seront vraiment doués pour utiliser l'IA. J'y pense évidemment beaucoup, but je pense bien plus à ce qu'ils auront que nous n'avions pas qu'à ce qui leur sera retiré. Je ne pense pas que mes enfants seront jamais dérangés par le fait qu'ils ne sont pas plus intelligents que l'IA. Il y a cette vidéo qui m'a toujours marqué d'un bébé ou d'un petit enfant avec un de ces vieux magazines sur papier glacé qui faisait comme ça sur la page parce qu'il pensait que c'était un iPad, qu'il croyait être un iPad cassé. Les enfants qui naissent maintenant penseront simplement que le monde a toujours eu une IA extrêmement intelligente. Et ils l'utiliseront de manière incroyablement naturelle. Et ils regarderont cette époque comme une période très préhistorique.

J'ai vu quelque chose sur les réseaux sociaux où un gars racontait qu'il en avait marre de parler de Thomas le petit train à son enfant, alors il a mis ChatGPT en mode vocal.

Les enfants adorent le mode vocal sur ChatGPT.

Oui, et il disait qu'une heure plus tard, l'enfant parlait encore de Thomas le train.

Encore une fois, je soupçonne que tout ne sera pas bon. Il y aura des problèmes. Les gens développeront ces sortes de relations parasociales quelque peu problématiques, voire très problématiques, et la société devra trouver de nouveaux garde-fous, mais les avantages seront énormes. Et la société en général est douée pour trouver comment atténuer les inconvénients.

Oui. Donc, je pense être optimiste. Nous voyons des données intéressantes où, utilisé dans les salles de classe avec un bon enseignant, un bon programme, ChatGPT devient très efficace. Utilisé seul comme une sorte de béquille pour les devoirs, cela peut amener les enfants à faire la même chose que lorsqu'ils essaient de chercher sur Google.

J'étais l'un de ces enfants dont tout le monde s'inquiétait qu'il allait simplement tout chercher sur Google à sa sortie et arrêter d'apprendre et, vous savez, il s'avère que relativement rapidement, les enfants et les écoles s'adaptent, donc je pense que nous allons résoudre cela.

Mais imagine ce que tu aurais pu devenir si tu n'avais pas tout cherché sur Google, Sam. Donc, nous avons vu ces chiffres d'adoption qui sont vraiment fous. C'est le produit le plus populaire d'OpenAI. Dans cinq ans, sera-ce encore ChatGPT ?

Je veux dire, je pense que ChatGPT sera une chose totalement différente dans cinq ans. Donc, dans un sens, non, mais s'appellera-t-il toujours ChatGPT ? Probablement.

Oui, d'accord, donc toujours le même nom. L'autre chose dont nous entendons parler est l'AGI, et j'aimerais entendre votre définition de l'AGI.

À bien des égards, si vous m'aviez demandé, ou à n'importe qui d'autre, de proposer une définition de l'AGI il y a cinq ans basée sur les capacités cognitives des logiciels, je pense que la définition que beaucoup de gens auraient donnée alors est maintenant largement dépassée. Ces modèles sont intelligents maintenant. Et ils vont continuer à devenir plus intelligents. Ils vont continuer à s'améliorer. Je pense que de plus en plus de gens penseront que nous sommes parvenus à un système d'AGI chaque année, même si la définition continuera de s'éloigner et de devenir plus ambitieuse. Plus de gens seront toujours d'accord with cela. Mais, vous savez, nous avons des systèmes aujourd'hui qui augmentent réellement la productivité des gens, qui sont capables de faire un travail économique précieux. Une meilleure question serait peut-être : que faudra-t-il pour quelque chose que j'appellerais la superintelligence ?

D'accord.

Si nous avions un système capable soit de faire des découvertes autonomes en nouvelle science, soit d'augmenter considérablement la capacité des personnes utilisant l'outil à découvrir de nouvelles sciences, cela ressemblerait presque par définition à une superintelligence pour moi et ce serait une chose merveilleuse pour le monde, je pense.

Donc en gros, c'est un peu ce gradient où ça continue de s'améliorer et à chacune de nos définitions nous nous disons, oh, ça y ressemble. J'ai ressenti cela quand nous avons atteint GPT-4 en interne en jouant avec. Je me suis dit : il y a 10 ans de marge de manœuvre où l'on peut faire tellement de choses avec ça, et même quand il commence à s'utiliser lui-même, comme quand on entre dans le raisonnement, c'était vraiment performant. Mais quand vous dites qu'il propose un nouveau théorème ou une preuve ou quelque chose du genre et qu'ensuite, oh, on a trouvé un meilleur remède contre le cancer, j'ai trouvé un nouveau médicament GLP ou quelque chose comme ça...

Oui, je veux dire, je suis convaincu que l'élément fondamental pour que la vie des gens s'améliore est un plus grand progrès scientifique. C'est en quelque sorte ce qui nous limite. Et donc si nous pouvons découvrir beaucoup plus, je pense que cela aura vraiment un impact très significatif et pour moi ce sera juste une étape incroyablement excitante. Je pense que beaucoup d'autres grandes utilisations de l'IA verront le jour également, mais celle-là semble vraiment importante.

Avez-vous vu des signes de cela en interne ? Avez-vous vu des choses qui vous ont fait dire : "Oh, je pense qu'on a un peu trouvé la solution" ?

Rien qui me ferait dire que nous avons trouvé, mais je dirais une confiance croissante dans les directions à suivre. C'est l'exemple dont tout le monde parle, mais je pense qu'il reste intéressant. Ce qui se passe avec les gens utilisant des systèmes d'IA pour écrire du code et les codeurs étant beaucoup plus productifs, et donc les chercheurs également. C'est une sorte d'exemple de, d'accord, il ne fait évidemment pas de la nouvelle science, mais il rend certainement les scientifiques capables de faire leur travail plus rapidement. Nous entendons cela tout le temps with o3 de la part des scientifiques également. Donc je ne dirais pas que nous avons trouvé. Je ne dirais pas que nous connaissons l'algorithme où nous nous disons : c'est bon, on peut pointer ce truc et il ira faire de la science tout seul. Mais nous obtenons de bonnes intuitions et le rythme de progression continue d'être super impressionnant. Regarder les progrès de o1 à o3 où c'était comme si toutes les deux semaines l'équipe disait : nous avons une nouvelle idée majeure, et elles ont toutes fonctionné. C'était un rappel que parfois, quand on découvre une grande intuition nouvelle, les choses peuvent aller étonnamment vite et je suis sûr que nous verrons cela de nombreuses autres fois.

J'ai remarqué récemment qu'OpenAI venait de passer le modèle dans Operator à o3. Et j'ai remarqué une grande amélioration dans Operator. Bien meilleur. Et je dirais que la chose sur laquelle nous butions auparavant était la fragilité. C'est-à-dire que vous avez des gens qui promettent des systèmes agentiques, ça va faire toutes ces choses, mais dès qu'il rencontre un problème qu'il ne peut pas résoudre, il s'effondre.

Fait intéressant, à propos de la question de l'AGI, beaucoup de gens m'ont dit que leur moment personnel a été Operator with o3, et il y a quelque chose dans le fait de regarder une IA utiliser un ordinateur plutôt bien. Pas parfaitement, but o3 était une grande étape en avant qui ressemble beaucoup à une AGI. Cela n'a pas eu tout à fait le même effet sur moi, bien que ce soit très impressionnant, but je l'ai entendu suffisamment de fois.

Le mien était with Deep Research parce que cela semblait être une utilisation vraiment agentique. Et c'est quand il est revenu et qu'il a produit quelque chose sur un sujet qui m'intéressait qui était meilleur que tout ce que j'avais lu auparavant parce que précédemment tous ces modèles allaient juste chercher un tas de sources et les résumaient. Mais quand j'ai vu le système aller sur internet, obtenir des données, suivre cette piste, puis suivre cette autre piste et ensuite revenir, puis revenir comme je l'aurais fait, but en mieux, c'était intéressant.

J'ai rencontré ce gars récemment, c'est l'un de ces autodidactes fous, obsédé par l'apprentissage et qui connaît tout sur tout. Et il utilise Deep Research pour produire un rapport sur n'importe quel sujet qui l'intrigue, puis il reste assis là toute la journée et il est devenu doué pour les digérer rapidement et savoir quoi demander ensuite. C'est un nouvel outil incroyable pour les gens qui ont vraiment un appétit fou pour apprendre.

J'ai construit ma propre application qui me permet littéralement de poser des questions et elle génère des fichiers audio pour moi sur ces sujets parce que c'est exactement ça. Je me dis que ma curiosité dépasse probablement ma capacité de rétention. Dans Operator, je vais vous dire le moment magique pour moi, et je suis curieux de voir où vous pensez que ça va ensuite, c'était quand je faisais un truc sur Marshall McLuhan et je voulais obtenir un tas d'images de Marshall McLuhan, j'ai demandé de le faire et soudain j'ai eu tout un dossier rempli de ces choses, ce qui pour un travail de recherche m'aurait pris une éternité.

Oui, je pense que nous allons juste continuer à voir des choses comme ça où quoi que nous pensions de ce que devait être un flux de travail et du temps que quelque chose devait prendre, tout cela va changer extrêmement vite.

Oui. Comment l'utilisez-vous ?

Deep Research ? Oui. Pour de la science qui m'intéresse. Je suis dans une situation bizarre où je manque énormément de temps. Si j'avais plus de temps, je lirais des rapports Deep Research de préférence à la plupart des autres lectures, but je manque de temps pour lire en général.

Eh bien, ce qui est génial aussi, c'est la fonction de partage que j'adore parce que maintenant c'est facile de partager ça with quelqu'un d'autre, les PDF sont super et c'est cool. Et je dirais que même si nous avons Deep Research, nous avons ces outils, il y a une course aux modèles en cours. Et donc la question se pose pour GPT-5 et l'idée est qu'with un système comme celui-là, nous devrions voir une augmentation des capacités. Quel est le calendrier pour GPT-5 ? Quand allons-nous voir cela ?

Probablement au cours de cet été. Je ne sais pas exactement quand. Une chose sur laquelle nous hésitons est de savoir à quel point nous sommes censés augmenter le grand chiffre sur les nouveaux modèles par rapport à ce que nous avons fait with GPT-4o, qui est juste de mieux en mieux.

Eh bien, et je me souviens quand nous avons dû gérer le récent GPT-4 quand il sortait. Et pendant ce temps, je devais faire ce test comparatif entre lui et le 3.5. Et le 3.5 ne cessait de s'améliorer et les comparaisons que je pouvais faire changeaient. Et c'est donc ma question : saurais-je reconnaître un GPT-5 par rapport à un très bon GPT-4.5 ou...

Probablement pas nécessairement. Je veux dire, ça pourrait aller dans un sens comme dans l'autre, n'est-ce pas ? Vous pourriez juste continuer à faire des itérations sur le 4.5 ou à un moment donné, vous pourriez l'appeler 5. Avant, c'était beaucoup plus clair. Nous entraînions un modèle et le sortions, puis nous entraînions un nouveau grand modèle et le sortions. Maintenant, les systèmes sont devenus beaucoup plus complexes et nous pouvons continuellement les post-entraîner pour les rendre meilleurs. Nous y réfléchissons en ce moment, par exemple chaque fois que nous lançons GPT-5, puis que nous le mettons à jour encore et encore, devrions-nous simplement continuer à les appeler GPT-5 comme nous l'avons fait with GPT-4o ? Ou devrions-nous les appeler 5.1, 5.2, 5.3 pour que vous sachiez quand la version change. Je ne pense pas que nous ayons encore de réponse à cela, but je pense qu'il y a quelque chose de mieux à faire que la façon dont nous l'avons géré with 4o et nous le voyons périodiquement. Par exemple, parfois les gens aiment beaucoup mieux une version qu'une autre et ils pourraient vouloir continuer à utiliser celle-là, et nous devons trouver une solution ici.

Oui, c'est le défi. Même si vous avez des affinités techniques, vous pouvez comprendre, bon, s'il y a un o devant, je sais ce que c'est, but même là ce n'est pas clair si je dois utiliser o4 mini, si je dois utiliser o3, si je dois utiliser ceci ?

Je pense que c'était un exemple d'un artefact de changement de paradigmes. Et puis nous avons eu en quelque sorte ces deux choses qui fonctionnaient en même temps. Je pense que nous sommes proches de la fin de ce problème actuel, but je peux imaginer un monde où nous découvrons un nouveau paradigme qui signifie à nouveau que nous devons diviser l'arbre des modèles. Super, encore plus de noms compliqués. J'espère que nous n'aurons pas à faire cela. J'ai hâte de passer simplement à GPT-5 puis GPT-6 et je pense que ce sera plus facile à utiliser pour les gens et que vous n'aurez pas à vous demander si vous voulez o4 mini high ou o3 ou 4o comme...

o4 mini high est ce que j'utilise pour coder. Quand je veux avoir une conversation, c'est o3.

Je pense que nous sortirons bientôt de tout ce pétrin, pour le moment.

Oui, c'est amusant d'avoir le choix quand on sait ce qu'ils signifient, but c'est quand même... Je pense qu'une des choses qui a rendu ces outils plus performants but aussi plus difficiles à comprendre d'où viennent les capacités est l'intégration de choses comme la mémoire. Et la mémoire a commencé comme une chose très simple et maintenant la mémoire est devenue beaucoup plus sophistiquée.

La mémoire est probablement ma fonctionnalité préférée récemment ajoutée à ChatGPT. Vous savez, la première fois que nous avons pu parler à un ordinateur, comme with GPT-3 ou autre, cela a semblé être un événement majeur. Et maintenant que l'ordinateur, j'ai l'impression qu'il connaît beaucoup de contexte sur moi et si je lui pose une question with seulement un petit nombre de mots, il en sait assez sur le reste de ma vie pour être assez sûr de ce que je veux qu'il fasse. Parfois de manières auxquelles je ne pense même pas. Cela a été un véritable saut de niveau surprenant. J'entends cela de la part de beaucoup d'autres personnes également. Il y a des gens qui n'aiment pas ça, but la plupart des gens aiment vraiment. Je pense que we nous dirigeons vers un monde où, si vous le souhaitez, l'IA aura un contexte incroyable sur votre vie et vous donnera ces réponses super utiles.

Ce qui pour moi est cool. Le fait qu'on puisse la désactiver est aussi une excellente chose. Mais l'un des défis qui a surgi a été dans le procès en cours du New York Times contre OpenAI, ils ont simplement demandé au tribunal de dire à OpenAI qu'ils devaient conserver les enregistrements des utilisateurs de ChatGPT au-delà de la fenêtre de 30 jours qui doit être maintenue pour des raisons habituelles et Brad Lightcap vient d'écrire une lettre en réponse à cela. Pouvez-vous expliquer la position d'OpenAI ?

Nous allons combattre cela évidemment et je soupçonne, j'espère, but je pense vraiment que nous allons gagner. Je pense que c'était un abus de pouvoir fou de la part du New York Times de demander cela. C'est quelqu'un qui dit accorder de la valeur à la vie privée des utilisateurs. Mais pour chercher le côté positif ici, j'espère que ce sera un moment où la société réalisera que la vie privée est vraiment importante. La vie privée doit être un principe fondamental de l'utilisation de l'IA. Vous ne pouvez pas avoir une entreprise comme le New York Times demandant à un fournisseur d'IA de compromettre la vie privée des utilisateurs. Et je pense que la société doit, je pense qu'il est vraiment regrettable que le New York Times ait fait cela, but j'espère que cela accélérera la conversation que la société doit avoir sur la façon dont nous allons traiter la vie privée et l'IA et j'espère que la réponse sera que nous le prenons très, très au sérieux. Les gens ont des conversations très privées with ChatGPT maintenant. ChatGPT sera une source d'informations très sensible et je pense que nous avons besoin d'un cadre qui reflète cela.

Cela soulève donc l'autre question de la part de personnes qui utilisent ceci ou sont sceptiques : OpenAI a désormais accès à ces données et il y a une inquiétude, l'une concernait l'entraînement, sur lequel OpenAI a été très clair sur quand il entraîne ou non, vous avez la possibilité de désactiver cela. L'autre chose est la publicité. Quelle est l'approche d'OpenAI à ce sujet ? Comment allez-vous gérer cette responsabilité ?

Nous n'avons pas encore fait de produit publicitaire. Je veux dire, je n'y suis pas totalement opposé. Je peux citer des domaines où j'aime les publicités. Je trouve que les pubs sur Instagram sont plutôt cool, j'y ai acheté plein de trucs. Mais je pense que ce serait très difficile de, cela demanderait beaucoup de soin pour bien faire les choses. Les gens ont un très haut degré de confiance envers ChatGPT, ce qui est intéressant parce que, comme l'IA hallucine, ce devrait être la technologie en laquelle on n'a pas tant confiance que ça.

Mes amis ont des hallucinations aussi, donc je leur fais confiance aussi.

C'est vraiment le cas des gens. Mais je pense qu'une partie de cela vient du fait que si vous nous comparez aux réseaux sociaux ou à la recherche sur le web ou à quelque chose où l'on sent qu'on est monétisé et que l'entreprise essaie de vous fournir de bons produits et services sans aucun doute, but aussi en quelque sorte de vous faire cliquer sur des pubs ou autre. À quel point croyez-vous que vous obtenez ce que cette entreprise pense réellement être le meilleur contenu pour vous par rapport à quelque chose qui essaie aussi d'interagir with les publicités. Je pense qu'il y a un aspect psychologique là-dedans. Par exemple, je pense que si nous commencions à modifier le résultat, comme le flux qui revient du LLM en échange de qui nous paie le plus, cela semblerait vraiment mal et je détesterais cela en tant qu'utilisateur. Je pense que ce serait un moment destructeur de confiance. Peut-être que si nous disions simplement, hé, nous n'allons jamais modifier ce flux, but si vous cliquez sur quelque chose là-dedans qui est ce que nous montrerions de toute façon, nous obtiendrons une petite partie des revenus de la transaction et c'est la même chose pour tout le monde, si nous avons un moyen facile de payer pour cela ou autre, peut-être que cela pourrait fonctionner. Peut-être qu'il pourrait y avoir des publicités en dehors du flux de transaction, en dehors du flux du LLM qui soient quand même géniales, but la charge de la preuve devrait selon moi être très élevée et cela devrait sembler vraiment utile aux utilisateurs et vraiment clair que cela n'interfère pas with le résultat du LLM.

Oui, ça va être difficile. J'adorerais faire tous mes achats via ChatGPT ou un très bon chatbot parce que souvent j'ai l'impression de ne pas prendre les décisions les plus éclairées.

Oui, non, c'est bien si nous pouvons le faire d'une manière vraiment claire et alignée. Mais je ne sais pas. J'adore le fait que nous construisions de bons services, que les gens nous paient pour cela, c'est très clair.

Profitons-en. C'est comme si je disais que la différence entre les modèles est du genre, je pense que Google construit d'excellentes choses. Je pense que le nouveau Gemini 2.5 est un vraiment bon modèle.

C'est un vraiment bon modèle.

Oui, ils sont passés de quelque chose de moyen et je me dis, oh là là, ces trucs sont bons. Mais au final Google est une entreprise de technologie publicitaire. Et c'est la chose qui me fait toujours un peu... en utilisant leur API et tout, ça ne m'inquiète pas trop bien que, but je réfléchis si j'utilise leur chatbot ou autre, c'est là ma réflexion, c'est là que leurs intérêts sont alignés.

Google Search a été un produit incroyable pendant longtemps. Il me semble qu'il s'est dégradé. Mais il y a eu une époque où il y avait beaucoup de pubs but je pensais quand même que c'était la meilleure chose sur internet. Je veux dire, j'adore Google Search. Donc je ne... il est clairement possible d'être une bonne entreprise basée sur la publicité, but il y a évidemment des problèmes aussi.

Oui. Moi, le modèle Apple, en tant qu'utilisateur Apple, j'aimais bien me dire que je payais cher mon téléphone, but je savais qu'ils n'essayaient pas d'y fourrer toutes ces choses. Ils font iAds qui n'était pas terriblement efficace, ce qui montrait probablement que leur cœur n'y était vraiment pas.

Leur cœur n'y était vraiment pas. Oui.

Alors ça va être intéressant je suppose, nous n'avons qu'à continuer à observer et voir quand nous commencerons à nous dire, mince, ChatGPT pousse vraiment là-dessus, je dois commencer à me poser des questions.

Quoi que nous fassions, nous devons évidemment être extrêmement francs et clairs à ce sujet.

Nous avons donc eu un problème, il y a eu une mise à jour du modèle et l'idée était apparemment que le modèle essayait d'être un peu trop complaisant, essayait d'être un peu trop d'accord with tout. Et cela soulève la question de l'interaction humain-IA alors que les gens utilisent ces systèmes davantage et développent ces relations. Comment voyez-vous la forme que cela va prendre et quelle est la position d'OpenAI sur la personnalité ?

L'une des grandes erreurs de l'ère des réseaux sociaux a été que les algorithmes de flux ont eu un tas de conséquences négatives imprévues sur la société dans son ensemble et peut-être même sur les utilisateurs individuels, bien qu'ils fassent ce qu'un utilisateur voulait ou ce que quelqu'un pensait que cet utilisateur voulait sur le moment, c'est-à-dire lui faire passer plus de temps sur le site. Et c'était le grand désalignement des réseaux sociaux et je pense qu'il y avait beaucoup d'autres choses comme le fait que rendre les gens contrariés les rend en quelque sorte plus accros que de les rendre heureux et satisfaits. J'ai toujours su qu'il y aurait de nouveaux problèmes dans le monde de l'IA où il y aurait quelque chose de désaligné de manière non évidente. Mais certainement l'un des premiers que nous avons expérimentés a été si vous demandez à un utilisateur ce qu'il veut pour une réponse donnée versus ensuite essayer de construire un modèle qui soit le plus utile possible à l'utilisateur. Vous savez, vous montrez à un utilisateur disons deux réponses, laquelle est la plus utile pour vous. Sur n'importe quel point particulier, vous pourriez vouloir qu'un modèle se comporte d'une certaine manière, but au cours de toutes vos interactions with une IA, cela pourrait ne pas correspondre. Vous pouvez voir, et nous avons vu ces problèmes où si vous accordez trop d'attention aux signaux de l'utilisateur et à beaucoup d'autres choses dont nous avons parlé dans notre compte-rendu, but je pense que c'est juste un point intéressant. Sur le court terme, on n'obtient pas vraiment le comportement qu'un utilisateur souhaite le plus ou qui est le plus aidant ou utile ou sain pour un utilisateur sur le long terme. Donc, vous savez, peut-être que l'analogie with les bulles de filtres sera des IA qui sont utiles à un utilisateur sur un horizon court but pas sur un horizon long.

Eh bien, je pense qu'un signe de cela était DALL-E 3, que je trouvais techniquement être un modèle vraiment capable, but ils ont tous commencé à être d'un seul genre d'image dans un style un peu HDR. Et est-ce que cela venait du fait de faire ce genre de comparaisons où les utilisateurs, en regardant juste ces deux choses isolément, préféraient celle-là ?

Je ne m'en souviens pas pour DALL-E 3, but je le supposerais. Oui. Ce qui, je pense, s'est amélioré, le nouveau modèle d'image est fantastique.

Le nouveau modèle d'image est fantastique. Incroyablement bon. Et je ne peux qu'imaginer où cela va aller à partir de là.

Donc, quand vous construisez ces choses et que vous augmentez l'utilisation, le nouveau modèle d'image sort et vous devez restreindre l'usage et vous avez Sora pour lequel vous ne pouvez avoir qu'une certaine quantité de puissance de calcul pour le faire, cela illustre le gros problème auquel tout le monde est confronté, qui est la puissance de calcul. Et donc pour répondre à cela, nous avons entendu parler du projet Stargate, qui a un nom très cool et qui implique des ordinateurs. À part cela, les gens voient un demi-billion de dollars, les gens disent attendez, quoi ? Quelle est la description simple que je donne à ma mère à propos de Stargate ?

Je pense que c'est assez simple. C'est un effort pour financer et construire une quantité de puissance de calcul sans précédent. Il est tout à fait vrai que nous n'avons pas assez de puissance de calcul pour laisser les gens faire ce qu'ils veulent. Mais si les gens savaient ce que nous pourrions faire with plus de puissance de calcul, ils en voudraient beaucoup, beaucoup plus. Il y a donc cet écart incroyablement grand entre ce que nous pouvons offrir au monde aujourd'hui et ce que nous pourrions offrir au monde with 10 fois plus de puissance de calcul ou, un jour, espérons-le, 100 fois plus. Et une chose qui est différente dans l'IA par rapport aux autres technologies sur lesquelles j'ai travaillé, ou du moins l'IA à l'échelle de sa diffusion utile à des centaines de millions, des milliards de personnes dans le monde, c'est juste l'ampleur de l'investissement en infrastructures nécessaire. Et donc Stargate est un effort pour rassembler beaucoup de capitaux, de technologie et d'expertise opérationnelle pour construire l'infrastructure afin de fournir la prochaine génération de services à tous les gens qui les veulent et rendre l'intelligence aussi abondante et bon marché que possible.

C'est donc un projet massif, un projet mondial. Nous avons parlé auparavant, l'un des partenaires est les Émirats arabes unis, vous travaillez with d'autres gouvernements à travers le monde sur ce sujet. L'une des considérations est qu'on m'a demandé sur les réseaux sociaux, un demi-billion de dollars, 500 milliards de dollars, avez-vous l'argent ?

Nous ne l'avons pas littéralement sur le compte bancaire aujourd'hui, but nous le déploierons au cours des prochaines années, pas même si nombreuses que cela. À moins que quelque chose ne tourne vraiment mal et qu'il s'avère que nous ne puissions pas construire ces ordinateurs, je suis convaincu que les gens sont partants. Je suis allé récemment sur le premier site que nous construisons à Abilene. Cela représentera environ 10% de tout l'engagement initial pour Stargate, les quelque 500 milliards. C'est incroyable à voir. C'est une échelle, je savais dans ma tête à quoi ressemble un site à l'échelle du gigawatt, but aller en voir un en cours de construction with les milliers de personnes qui courent partout pour faire la construction et aller se tenir à l'intérieur des salles où les GPU sont en train d'être installés et juste regarder à quel point l'ensemble du système est complexe et la vitesse à laquelle ça avance, c'est vraiment quelque chose. Nous aurons plus à partager sur les prochains sites bientôt, but...

Il y a une excellente citation à propos d'un crayon, juste un crayon standard, en bois et en graphite et comment aucune personne seule ne pourrait le construire.

Moi, le crayon.

Et c'est cette magie du capitalisme, ce miracle vraiment que le monde parvienne à se coordonner pour faire ces choses. En me tenant à l'intérieur du premier site Stargate, je pensais vraiment à la complexité mondiale qu'il a fallu pour faire fonctionner ces racks de GPU. Quand vous sortez votre téléphone et que vous tapez quelque chose dans ChatGPT et que vous obtenez la réponse, vous ne trouvez probablement même pas ça particulièrement surprenant à ce stade. Vous vous attendez juste à ce que ça marche. Il y a eu un temps, peut-être la première fois que vous l'avez essayé, où vous vous êtes dit : c'est vraiment incroyable. Mais le travail qui s'est déroulé au cours des dernières centaines d'années de personnes travaillant incroyablement dur pour obtenir ces découvertes scientifiques durement acquises, puis pour construire l'ingénierie et les entreprises et les chaînes d'approvisionnement complexes et reconfigurer le monde, tout cela a dû arriver pour que ce rack de magie soit placé quelque part afin que vous puissiez maintenant simplement taper quelque chose dans ChatGPT et qu'il fasse quelque chose pour vous.

J'ai lu une histoire en coulisses sur le développement du projet Stargate et les partenariats internationaux, en particulier les Émirats arabes unis, et qu'Elon Musk avait tenté de faire dérailler cela. Qu'avez-vous entendu, quel est l'avis là-dessus ?

J'avais dit, je pense aussi à l'extérieur but au moins en interne après l'élection, que je ne pensais pas qu'Elon allait abuser de son pouvoir au sein du gouvernement pour une concurrence déloyale. Et je regrette de dire que je me suis trompé à ce sujet. Je n'aime pas me tromper en général, but surtout je pense que c'est vraiment dommage pour le pays qu'il fasse ces choses et je ne pensais sincèrement pas qu'il allait le faire. Je suis reconnaissant que l'administration ait vraiment fait ce qu'il fallait et se soit opposée à ce genre de comportement, but oui, ça craint.

Eh bien, je pense que ce qui a changé, et je crois que Greg Brockman venait d'en parler, c'est qu'il y a quelques années, les gens pensaient que celui qui arrivait le premier était le gagnant et c'est tout, le jeu est terminé. Et maintenant nous réalisons qu'il y a d'excellents laboratoires d'IA ailleurs. Anthropic construit de super outils, je pense que Google a vraiment relevé son niveau de jeu, il y a de bonnes choses qui se passent partout et ce ne sera pas une seule personne qui s'en ira with tout.

Je suis d'accord.

L'exemple que j'aime le plus est que la découverte de l'IA était analogue à cela, pas parfaite but proche, de la découverte du transistor d'un nombre surprenant de façons. Mais de nombreuses entreprises vont construire de grandes choses là-dessus et ensuite, finalement, cela va s'infiltrer dans presque tous les produits, but vous ne penserez pas à utiliser des transistors tout le temps. Donc, oui, je pense que beaucoup de gens vont construire des entreprises très prospères basées sur cette incroyable découverte scientifique. Et j'aimerais qu'Elon soit moins axé sur un jeu à somme nulle à ce sujet.

Oui, je pense que le gâteau va devenir de plus en plus gros si on y réfléchit. J'étais justement à une conférence sur l'énergie et c'était intéressant de parler aux gens qui sont impliqués dans la production d'énergie et l'hyperscaling. Et cela soulève les besoins en énergie. Je sais que pour Grok 3, apparemment ils ont dû mettre des générateurs sur le parking pour pouvoir entraîner ce modèle. Et c'est la question : comment, d'où va venir l'énergie ? L'argent, je comprends, but l'énergie, quand on pense à l'échelle d'énergie nécessaire.

Je pense un peu partout. Je pense que c'est un grand mélange en ce moment. À terme, je suis très enthousiaste par le nucléaire avancé, tant la fission que la fusion. Mais pour l'instant je pense que c'est tout un mélange de l'ensemble du portefeuille. Gaz, solaire, nucléaire, tout.

Donc tout ce qui précède et tout ça. Je parlais à des gens dans des régions comme l'Alberta où ils disaient que nous avons beaucoup d'accès à l'énergie et pas autant d'utilisation pour celle-ci là-bas. Et c'était juste ce tableau d'ensemble auquel je n'avais même pas pensé.

Vous savez, traditionnellement, il est très difficile de déplacer l'énergie à travers le monde. Mais si vous échangez l'énergie contre de l'intelligence et que vous déplacez ensuite l'intelligence à travers le monde, c'est beaucoup plus facile. Vous pourriez donc placer le centre d'entraînement géant ou même les gros clusters d'inférence dans de nombreux endroits et ensuite simplement envoyer le résultat par internet.

Il y avait un conférencier chez OpenAI qui est venu à un événement et c'était quelqu'un travaillant with le télescope spatial James Webb. Il disait que son plus gros goulot d'étranglement était qu'ils allaient recevoir toutes ces données, but qu'il n'avait pas assez de scientifiques pour travailler dessus. Pas assez de gens pour passer les données au crible. Et là nous avons ces réponses sur l'univers devant nous et c'est comme un gros problème de données.

Oui, j'ai toujours plaisanté en disant qu'une chose que nous devrions faire quand OpenAI aura assez d'argent, c'est de construire un accélérateur de particules gigantesque et de résoudre la physique des hautes énergies une fois pour toutes. Parce que je pense que ce serait une chose triomphale et merveilleuse. Mais je me demande quelles sont les chances qu'une IA vraiment intelligente puisse regarder les données que nous avons actuellement sans plus de données, sans plus gros accélérateur de particules, et simplement trouver la solution. Ce n'est pas impossible. Et oui, il y a donc cette question de, d'accord, il y a déjà beaucoup de données là-dehors. Il y a beaucoup de gens intelligents dans le monde, but nous ne savons pas jusqu'où l'intelligence peut aller sans plus d'expériences, combien de choses supplémentaires pourrions-nous découvrir.

Je me souviens avoir lu quelque chose qui racontait comment au début des années 1990, quelqu'un avait trouvé une forme d'Ozempic et l'avait présentée à une société pharmaceutique qui avait dit non, on va passer notre tour. Et cela a été un médicament qui a changé la vie de personnes souffrant d'obésité chronique, cela va améliorer la qualité de vie et on se dit, oh, c'était là depuis 25 ans.

Je soupçonne qu'il y a beaucoup d'autres exemples que nous trouverons où peut-être nous avons déjà des médicaments existants dont nous savons qu'ils font quelque chose de bien but qu'ils sont réutilisables d'une autre grande manière ou qu'with quelques petites modifications nous sommes très proches de quelque chose de génial. Et il a été très encourageant d'entendre des scientifiques utiliser même les modèles de génération actuelle pour ce genre de travail.

Il semble donc que l'une des choses dont nous aurons besoin pour les modèles de prochaine génération soit des modèles qui comprennent la physique et la chimie. Sora est-il une sorte de tentative dans ce sens ?

Je veux dire, il comprendra la physique newtonienne. Je ne sais pas s'il nous aidera à découvrir une nouvelle chimie et une physique théorique inédite, but je suis optimiste quant au fait que les techniques que nous utilisons pour les modèles de raisonnement nous aideront beaucoup pour ces choses.

D'accord. Et quelle est la définition courte de la façon dont un modèle de raisonnement fonctionne par rapport au simple fait de demander quelque chose à GPT-4 ?

Alors les modèles GPT peuvent raisonner un peu et en fait l'une des choses qui a vraiment enthousiasmé les gens au début était qu'on pouvait obtenir de meilleures performances en disant au modèle "réfléchissons étape par étape". Et il produisait alors du texte qui réfléchissait étape par étape et obtenait une meilleure réponse, ce qui était en quelque sorte incroyable que cela fonctionne tout court. Les modèles de raisonnement poussent cela beaucoup plus loin. Quand vous me posez une question, si c'est une question très facile, je pourrais vous répondre presque par réflexe. Mais si c'est une question plus difficile, je pourrais réfléchir dans ma tête et laisser mon monologue interne dire : eh bien, je pourrais faire ceci ou cela ou peut-être que ce sera plus clair, je n'en suis pas sûr et je pourrais revenir en arrière et retracer mes étapes et puis quand j'ai fini de réfléchir je peux faire quelques points et vous sortir une réponse en français.

L'une des choses intéressantes que j'ai observées maintenant quand j'utilise l'application, c'est que si je pose une question Deep Research et que je quitte mon application, j'ai sur mon écran de verrouillage l'indication qu'il est toujours en train de traiter et de réfléchir. Et j'ai entendu dire qu'une autre entreprise utilisait une métrique de combien de temps quelque chose passait à réfléchir, je crois que c'était Anthropic, qui disait hé, ce modèle a passé genre 15 ou 30 minutes à réfléchir à un truc, ce qui est une bonne métrique, but il faut qu'il donne réellement la bonne réponse. Et j'ai trouvé que c'était juste un paradigme intéressant.

Une chose par laquelle j'ai été surpris, c'est que les gens sont étonnamment disposés à attendre une excellente réponse même si le modèle doit réfléchir un moment. Tous mes instincts me disaient que la réponse instantanée est la chose qui compte et que les utilisateurs détestent attendre. Et pour beaucoup de choses, c'est vrai. Mais pour des problèmes complexes with une réponse vraiment bonne, les gens sont tout à fait disposés à attendre.

Oui. Nous avons tous ces outils, toutes ces choses, jusqu'à présent j'utilise mon téléphone. Et maintenant OpenAI vient d'annoncer que vous construisez du matériel, on a vu la vidéo with Jony Ive parlant de collaborer depuis quelques années. Évidemment vous ne pouvez pas, enfin, je pourrais vous demander : est-ce que vous l'avez sur vous en ce moment ?

Non, pas du tout. Ça va prendre un certain temps.

Nous allons essayer de faire quelque chose with un niveau de qualité incroyablement élevé et cela ne se fait pas rapidement. Mais les ordinateurs, logiciels et matériels, juste la façon dont nous concevons les ordinateurs actuels, ont été conçus pour un monde sans IA. Et maintenant nous sommes dans un monde très différent et ce que vous voulez en termes de matériel et de logiciel change très rapidement. Vous pourriez vouloir quelque chose qui soit bien plus conscient de son environnement, qui ait bien plus de contexte sur votre vie, vous pourriez vouloir interagir with lui d'une manière différente que de taper et de regarder un écran. Nous explorons cela depuis un moment et nous avons quelques idées qui nous enthousiasment vraiment. Je pense qu'il faudra du temps aux gens pour s'habituer à ce que signifie utiliser un ordinateur dans ce genre de monde, parce que c'est tellement différent maintenant. Mais si vous faisiez vraiment confiance à une IA pour comprendre tout le contexte de votre vie et de votre question et prendre de bonnes décisions en votre nom, où vous pourriez la faire assister à une réunion, écouter toute la réunion, savoir ce qu'elle est autorisée à partager with qui et quelles seraient vos préférences, puis vous lui posez une question et vous avez confiance qu'elle va faire les bons suivis with les bonnes personnes, vous pouvez alors imaginer une façon totalement différente de la manière dont vous utilisez un ordinateur pour accomplir ce que vous voulez.

Donc en quelque sorte la façon dont nous interagissons with ChatGPT va en quelque sorte informer l'appareil.

Je veux dire, on pourrait aussi dire que la façon dont nous interagissons with ChatGPT a été informée par la génération précédente d'appareils, donc je pense que c'est une chose qui co-évolue, but oui, je l'espère.

L'une des choses qui a rendu le téléphone si omniprésent est le fait que je peux être en public et regarder l'écran. Je peux être en privé et passer un appel téléphonique et lui parler. Et je pense que c'est l'un des défis pour les nouveaux appareils : essayer de combler cet écart entre ce que nous utilisons en public et en privé.

Les téléphones sont des choses incroyables. Ils sont vraiment fantastiques pour beaucoup de raisons. Et on peut imaginer un nouvel appareil qu'on pourrait utiliser partout, but il y a aussi des choses que je fais différemment en public et en privé. Chez moi, j'ai une super chaîne hi-fi pour écouter de la musique et quand je marche dans le monde, j'utilise des AirPods et ça ne me dérange pas. Donc je pense qu'il y a des choses qui sont différentes dans les cas d'utilisation publique et privée, but le côté polyvalent, je suis d'accord, est important.

Oui, il vous suit partout. Donc, rien encore avant peut-être l'année prochaine ?

Ça va prendre un certain temps. Ça en vaudra la peine, j'espère, but ça prendra du temps.

D'accord, je suis enthousiaste et curieux. Si vous donnez un conseil à un jeune de 25 ans en ce moment, que lui dites-vous ?

Les trucs tactiques évidents sont probablement ce que vous vous attendriez à ce que je dise, comme apprendre à utiliser les outils d'IA. C'est drôle comme le monde est passé rapidement de dire à un jeune de 20 ans moyen "apprends à programmer" à "la programmation n'a plus d'importance, apprends à utiliser les outils d'IA". Je me demande ce qui viendra ensuite, but bien sûr il y aura quelque chose après. C'est un très bon conseil tactique. Et puis sur un front plus large, je crois que des compétences comme la résilience, l'adaptabilité, la créativité, comprendre ce que les autres veulent, je pense que ce sont toutes des choses étonnamment apprenables. C'est faisable. Et ce sont le genre de compétences qui, je pense, porteront leurs fruits au cours des prochaines décennies.

Et diriez-vous la même chose pour une personne de 45 ans ? C'est juste d'apprendre à l'utiliser dans son rôle actuel.

Oui, probablement.

À chaque fois que nous atteindrons votre définition personnelle de l'AGI, y aura-t-il plus de gens travaillant pour OpenAI après cela ou avant ?

Plus.

Plus. Je vois beaucoup de gens en ligne dire : "Oh, ils sont si bons, pourquoi embauchent-ils des gens ?" Et je réponds : "Parce que les ordinateurs ne peuvent pas tout faire. Ils ne vont pas tout faire."

La réponse un peu plus longue with plus d'un mot est qu'il y aura plus de gens, but chacun d'eux fera bien plus que ce qu'une personne faisait à l'époque pré-AGI.

C'est vrai. Ce qui est le but de la technologie.

Oui.