Jusqu'à présent, nous avons une activité grand public, une activité B2B. Il y a toute cette histoire de Jony Ive, dont je suis sûr que nous ne pouvons pas vraiment parler.

Laissez ça, s'il vous plaît.

Non, on va couper.

Très bien. Aujourd'hui, je suis ici avec Sam. Sam, avant de commencer, as-tu quelque chose à dire ?

Tu es littéralement mon pote de podcast maintenant.

Waouh. C'est génial. Comment en est-on arrivé là ?

C'est si triste. Tu crées une entreprise, puis tu deviens capital-risqueur, et maintenant je suis là. Es-tu déçu ?

Pour moi, c'est allé dans l'autre sens.

Que veux-tu dire ?

Eh bien, j'étais capital-risqueur, puis j'ai fait un podcast, et maintenant je dirige une entreprise.

Maintenant, tu diriges une entreprise. Ça t'a réussi. C'est génial. Je suis vraiment fier de toi.

D'accord. Mais je pense que c'est génial pour toi.

Merci.

D'accord. Je pense que tu es un animateur de podcast incroyable. C'est un très beau pull, aussi.

Merci. D'accord. Je veux commencer par parler du, arrête. Qu'est-ce que tu vas dire ?

Vas-y. Je le dirai plus tard. Quand nous aurons fini d'enregistrer.

Je voulais commencer par parler de l'avenir de l'IA. Je veux parler du moyen terme, car le court terme ne m'intéresse pas autant, le long terme, qui sait ? Mais dans cinq ou dix ans, c'est ce qui m'intéresse le plus, et je veux essayer d'extraire de toi ta meilleure estimation sur un certain nombre de choses spécifiques. L'un des endroits où je voulais commencer était le logiciel. Il semble que les cas d'utilisation les plus efficaces jusqu'à présent, et je suis curieux de savoir si tu es d'accord, semblent être le codage et puis...

Le chat et le code.

Oui, le chat et le code. Je suis curieux de savoir ce qui vient après. Quelle est la prochaine série de choses juste après cela qui arriveront ?

Eh bien, je pense qu'il y aura d'autres produits incroyables. Il y aura de nouvelles expériences sociales folles. Il y aura des flux de travail IA de style Google Docs qui seront juste beaucoup plus productifs. Vous commencerez à voir des employés virtuels. Mais la chose qui, selon moi, aura le plus d'impact sur cette période de cinq à dix ans, c'est que l'IA découvrira réellement de nouvelles sciences. C'est une affirmation folle à faire, mais je pense que c'est vrai, et si c'est correct, alors avec le temps, je pense que cela éclipsera tout le reste.

Pourquoi penses-tu qu'elle découvrira de nouvelles sciences ?

Eh bien, je pense que nous avons craqué le raisonnement dans les modèles. Nous avons encore beaucoup de chemin à parcourir, je pense que nous savons quoi faire, et o3 est déjà assez intelligent. On entend des gens dire : "Waouh, c'est un bon doctorant".

Que signifie craquer le raisonnement ?

Les modèles peuvent maintenant faire le genre de raisonnement dans un domaine particulier que l'on attendrait d'un doctorant dans ce domaine à être capable de faire. D'une certaine manière, on se dit : "Oh, d'accord, les IA sont maintenant de meilleurs programmeurs compétitifs au monde." Ou les IA peuvent obtenir les meilleurs scores aux concours de mathématiques les plus difficiles du monde. Ou les IA peuvent résoudre des problèmes que j'attendrais d'un expert doctorant dans mon domaine. Et nous ne sommes pas si impressionnés.

C'est fou.

Mais c'est une chose folle.

Oui. Cette capacité de raisonnement des modèles au cours de l'année écoulée.

Es-tu surpris ?

Oui.

Oui. Tu pensais que ce serait juste le prochain truc de type jeton ?

No, je pensais que cela prendrait un peu plus de temps pour arriver là où nous en sommes maintenant. Les progrès de l'année dernière ont été plus rapides que je ne le pensais.

Est-ce que la façon dont le raisonnement s'est produit s'est passée comme tu pensais ?

Comme c'est souvent arrivé dans l'histoire d'OpenAI, assez souvent, l'approche la plus simple s'avère fonctionner. Donc je ne pense plus que je devrais être surpris par cela. C'est juste un peu surprenant à chaque fois.

Le raisonnement mènera donc à la science. Aller plus vite ou juste de nouvelles choses, ou les deux ?

Les deux. Je veux dire, on entend déjà des scientifiques dire qu'ils sont plus rapides avec l'IA. Nous n'avons pas d'IA qui fait de la science de manière autonome, mais si un scientifique humain est trois fois plus productif en utilisant o3, c'est quand même un gros problème. Et puis, à mesure que cela continue et que l'IA peut faire de la science de manière autonome, découvrir une nouvelle physique.

Tout cela se passe-t-il en tant que copilote pour l'instant ?

Oui, il n'y a certainement pas, on ne peut certainement pas dire : "Hé, ChatGPT, découvre une nouvelle physique" et s'attendre à ce que cela fonctionne. C'est donc, je pense, actuellement de type copilote, mais j'ai entendu des rapports anecdotiques de biologistes où c'est du genre : "Waouh, il a vraiment trouvé une idée. J'ai dû la développer un peu plus, mais il a fait un bond fondamental".

Oui. Sera-t-il plus facile d'amener l'IA à vous construire une entreprise entière ? Comme vous construire une entreprise de commerce électronique entière, ou faire une recherche scientifique difficile ou moyenne ?

Je me pose la question. Si vous pouviez construire à l'IA un accélérateur de particules de cent milliards de dollars...

Oui.

Et dire : "Tu prends les décisions. Tu regardes les données. Tu nous dis quelles expériences mener et nous irons chercher le matériel et le ferons." Donc vous dépensez cent milliards de dollars pour faire ça. Ou vous dépensez cent milliards de dollars pour construire une infrastructure informatique pour vous connecter à l'économie. Dans lequel de ces cas aura-t-elle plus de facilité à faire quelque chose de remarquable ?

Oui.

Et je pense que la physique est un problème plus net. Je pense que si l'on pouvait obtenir de nouvelles données sur la physique des hautes énergies et donner à l'IA la capacité de mener des expériences, je pense que c'est un problème plus net. J'ai entendu des gens dire qu'ils s'attendaient à ce que le premier domaine scientifique, je ne sais pas si c'est exact, mais j'ai entendu des gens dire qu'ils s'attendaient à ce que le premier domaine scientifique où l'IA fait de nouvelles découvertes autonomes soit l'astrophysique, parce qu'il y a juste des montagnes de données et nous n'avons pas assez de doctorants pour les regarder. Et peut-être que ce n'est pas si difficile de trouver de nouvelles choses, mais je ne sais pas vraiment.

D'accord, donc la science s'améliore. Le codage et le chat continueront de s'améliorer. Est-ce que cela mène au côté commercial ? As-tu aussi la capacité de simplement, peux-tu demander une entreprise entière par un prompt ? Pourrais-tu simplement dire : "Construis-moi ce type d'entreprise, elle ressemble à ça, elle sert..."

Oui, cela arrivera. Je sais, il y a déjà des gens qui font ça pour de petits trucs. On entend ces histoires de gens qui utilisent l'IA pour faire des études de marché et trouver de nouveaux produits, puis envoient un e-mail à un fabricant et font fabriquer un truc bidon et le vendent sur Amazon et diffusent des publicités. Il y a des gens qui ont réellement compris à petite échelle, de la manière la plus ennuyeuse possible, comment mettre un dollar dans l'IA et amener l'IA à diriger une entreprise jouet. Mais ça fonctionne vraiment.

Oui.

Alors cela va gravir la pente.

Oui. Qu'en est-il du monde des choses physiques ? Parce qu'il me semble très clair que le logiciel va dans cette direction, la science, j'en sais moins, je te crois sur parole. Qu'en est-il de déplacer des objets physiques ?

En retard, mais je pense que nous y arriverons. Par exemple, je pense que nous avons une nouvelle technologie qui pourrait simplement faire de la conduite autonome pour les voitures standard bien mieux que n'importe quelle approche actuelle. Et ce n'est peut-être pas tout à fait ce que tu entendais par robots humanoïdes, mais si nos techniques d'IA peuvent vraiment conduire une voiture, c'est quand même assez cool. Les robots humanoïdes sont le rêve, évidemment. Je m'en soucie vraiment. Je pense que nous y arriverons un jour. C'est un défi d'ingénierie mécanique un peu difficile.

C'est plutôt ça le problème ?

No, les deux choses sont difficiles. Mais même si nous avions le cerveau parfait en ce moment, je ne sais pas si nous avons encore le corps. Nous avons en fait travaillé très tôt chez OpenAI sur cette main robotique, et c'était difficile pour toutes les mauvaises raisons. Le truc tombait tout le temps en panne, le simulateur était un peu décalé. Mais nous y arriverons. Je pense que dans cinq à dix ans, nous aurons d'excellents robots humanoïdes. Incroyable. Et ils marcheront simplement dans la rue en faisant des trucs.

Oui. On pourrait penser que c'est là qu'une énorme quantité de changements majeurs se débloque, n'est-ce pas ?

Je pense que ce sera l'un des moments qui non seulement débloquera un tas de choses dans le monde, mais je pense que ce sera le plus étrange. On s'habitue à beaucoup de choses. On s'est habitué à ce que ChatGPT fasse ces choses qui auraient ressemblé à un miracle il y a cinq ans. Mais si vous marchez dans la rue et qu'il y a moitié de robots, allez-vous vous y habituer tout de suite ? Je ne sais pas. Probablement que oui, mais cela semble être une grande différence.

C'est celui qui donnera l'impression qu'une nouvelle espèce prend le dessus sur nous.

Oui, je pense que cela semblera, je ne sais pas si cela ressemblera à une nouvelle espèce ou si elle prendra le dessus, mais je pense que cela ressemblera au futur d'une manière que ChatGPT ne fait toujours pas. Je pense aussi que si nous pouvons trouver de nouveaux appareils informatiques géniaux à fabriquer, cela ressemblera peut-être au futur. Mais aussi incroyable que soit ChatGPT, ou ces nouveaux agents de codage, et ils sont incroyables, ils sont toujours coincés dans le format du passé.

Oui. C'est aussi coincé dans l'ordinateur.

Il y a certainement quelque chose là-dedans, ça ne peut faire des choses que devant un ordinateur, mais je ne sais pas quelle part de la valeur économique mondiale penses-tu être du travail cognitif qui peut être fait derrière un ordinateur ? La moitié ?

J'allais dire un quart, mais peut-être la moitié.

Je ne sais pas, mais c'est un chiffre important.

Oui. Est-ce que les choses deviennent beaucoup plus risquées une fois que nous aurons une intelligence super incarnée ? Parce que ces choses seront aussi beaucoup plus fortes que nous.

Je ne sais pas si c'est beaucoup plus risqué. Je pense que la capacité de fabriquer une arme biologique ou de mettre hors service tout le réseau d'un pays, on peut faire des choses assez dommageables sans objets physiques. Cela devient risqué de manière plus idiote. J'aurais peur d'avoir un robot humanoïde marchant dans ma maison qui pourrait tomber sur mon bébé à moins que je ne lui fasse vraiment confiance.

Oui. À quoi, si tu penses à, nous sommes de retour ici dans dix ans pour une autre conversation et nous nous disons : "Est-ce que l'IA a fait ce que nous pensions qu'elle ferait ?" Quelles mesures attends-tu ? Est-ce que la courbe de croissance du PIB présente une inflexion ? Est-ce que l'espérance de vie a augmenté ? Est-ce qu'il y a moins de pauvreté ? Est-ce quelque chose de complètement différent ?

Donc chaque année avant la précédente, peut-être jusqu'à l'année dernière, j'aurais dit : "Hé, je pense que ça va aller très loin", mais il semble toujours qu'il y ait beaucoup de choses que nous devons comprendre. Je me sens très confiant à ce stade, le plus confiant que je n'aie jamais été, sur le fait que nous savons quoi faire pour arriver à des systèmes d'IA incroyables qui sont super capables. Si quelque chose tourne mal, je dirais que d'une manière ou d'une autre, c'est que nous construisons une superintelligence légitime et qu'elle ne rend pas le monde beaucoup meilleur. Elle ne change pas les choses autant qu'il semble qu'elle le devrait.

Comment cela arriverait-il ?

Ce qui semble être une chose folle à dire. Mais si je t'avais dit en 2020, peut-être que je te l'ai dit : "Nous allons fabriquer quelque chose comme ChatGPT et ce sera aussi intelligent qu'un doctorant dans la plupart des domaines, et nous allons le déployer et une fraction significative du monde va l'utiliser et l'utiliser beaucoup." Peut-être que tu l'aurais cru, peut-être pas, mais sous cette condition, je parie que tu dirais : "D'accord, si cela arrive, le monde aura l'air beaucoup plus différent de ce qu'il est maintenant".

Oui.

C'est donc comme si nous avions ce truc de dingue.

Oui, il n'y a ce truc où c'est comme le test de Turing, tout le monde pensait...

C'est passé inaperçu.

Oui, personne ne s'en est vraiment soucié. Je ne sais pas ce qui explique cela. Ou le fait que vous puissiez avoir ce truc qui fait ces choses incroyables pour vous et que vous viviez votre vie de la même manière qu'il y a deux ans. Travaillez de la même manière qu'il y a deux ans.

Penses-tu que c'est possible que nous ayons une superintelligence folle de 400 de QI et que ce soit toujours le cas ?

Je pense tout à fait que c'est possible. Si elle est occupée à découvrir de nouvelles sciences pour nous, la société finira par trouver comment gérer cela, mais cela peut être très lent.

Eh bien, ce qui est drôle, c'est que si cela ressemblait à un copilote, vous créditeriez toujours le chercheur principal du laboratoire qui utilisait cet agent de 400 de QI derrière.

Je pense que vous le ferez, quoi qu'il arrive. Les humains sont tellement programmés pour se soucier des autres humains. Nous avons besoin de gens dans l'histoire. Nous avons besoin de dire : "Ce type a fait ce truc", ou "A pris cette décision", ou "A fait cette erreur", ou a eu tel ou tel truc. C'est pourquoi j'ai été surpris que tu ne penses pas que si nous avions un robot incarné de manière super précise, nous ne commencerions pas à projeter une partie de cela sur ce robot.

Nous verrons bien. Je me trompe peut-être. Je pense que nous aurons plus de relation que maintenant à mesure que la chose sera plus incarnée, mais je pense que nous sommes si profondément programmés pour nous soucier des autres. Cela va s'avérer être assez ancré dans la biologie, et si vous savez que c'est un robot, peu importe à quel point il semble humain par d'autres aspects, vous ne vous en soucierez pas tant que ça. C'est de la spéculation.

Le raisonnement était donc l'une des composantes de l'intelligence qui a été comprise. Y a-t-il un autre fil conducteur, un sujet d'agence ou un concept d'auto-direction ? Est-ce que c'est quelque chose ?

La capacité de travailler sur un objectif sur une très longue période avec beaucoup d'étapes compliquées en cours de route, je pense, est ce que tu cherches.

Oui, la même chose.

Et c'est définitivement quelque chose sur lequel nous travaillons.

Qu'en est-il du futur chemin technique, que dirais-tu être désormais inévitable et quelles parties dirais-tu ne pas encore savoir dans quel sens elles vont pencher ?

Je pense que nous arriverons à des modèles extrêmement intelligents et capables, capables de découvrir de nouvelles idées importantes, capables d'automatiser d'énormes quantités de travail. Mais ensuite, je me sens totalement confus sur ce à quoi ressemble la société si cela arrive. Je suis surtout intéressé par les questions de capacités, mais je pense que peut-être à ce stade, plus de gens devraient parler de : "Comment s'assurer que la société en tire de la valeur ?" Je pense que ces questions sont devenues d'une certaine manière plus difficiles et moins claires. C'est une affirmation folle de dire que nous allons résoudre la superintelligence, mais que peut-être la société sera toujours nulle.

Je ne saurais dire, cela ne me semble pas juste, mais je ne saurais dire si parfois, avec certaines de ces déclarations, les gens ne réagissent pas parce qu'ils n'y croient qu'à moitié, et c'est peut-être en partie pour cela. Je suis d'accord, c'est ce qu'a été l'histoire de beaucoup de ces choses ; on le dit, les gens n'y croient pas tout à fait, puis ça arrive, et les gens s'adaptent simplement. Je ne sais pas non plus quoi penser de tout cela.

J'ai l'impression que nous avons eu très juste sur les prédictions techniques, et je pensais d'une certaine manière que la société semblerait plus différente si nous les réalisions réellement qu'elle ne l'est jusqu'à présent. Il n'est même pas évident que ce soit une mauvaise chose.

Eh bien, l'un des impacts à court terme les plus évidents sera l'emploi. Cela semble être quelque chose où nous n'avons pas besoin de croire à des bonds fous pour voir qu'il devrait y avoir un impact. Cela va se produire dans le support client de manière très évidente en ce moment, par exemple.

Mon avis là-dessus est que beaucoup d'emplois disparaîtront, beaucoup d'emplois changeront radicalement, mais nous avons toujours été très doués pour trouver de nouvelles choses à faire et des façons de nous occuper et des jeux de statut ou des façons d'être utiles les uns aux autres. Je ne crois pas que cela s'épuise un jour. Je pense effectivement que cela devient plus ridicule vu de notre perspective actuelle.

Oui.

Pote de podcast n'était pas un vrai métier il n'y a pas si longtemps et tu as trouvé comment le monétiser et tu te débrouilles bien et nous sommes tous contents pour toi. Mais est-ce que l'agriculteur de subsistance regarderait cela et dirait que c'est un métier ou que c'est toi qui joues à un jeu pour te divertir ?

Je pense qu'ils s'abonneraient à ce podcast.

Je parie qu'ils le feraient. Ils aimeraient ça. Mais je pense qu'il y a un gros problème ici à court terme. À long terme, qui sait ? L'une des choses pour lesquelles je suis curieux est en général, passer d'une époque où tout le monde était agriculteur et où rien de ce que nous faisons actuellement n'a de sens à maintenant avoir tout ce matériel. Est-ce différent cette fois s'il y a assez de ressources pour tout le monde ? À un moment donné, y a-t-il assez de ressources pour tout le monde et est-ce cela qui crée la différence où maintenant les gens ne créent plus de nouveaux emplois ? Vinod était sur le podcast la semaine dernière, et son point de vue était que les gens allaient simplement consommer beaucoup plus de loisirs. Il a pris le point de vue suivant : "Je pense que cette fois, il y aura juste une abondance de ressources, tout le monde aura ce dont il a besoin, nous pourrons construire des bâtiments et les gens pourront maintenant profiter de leur vie".

Encore une fois, je pense que le cadre relativiste compte ici. Pour nous, je parie que cela semblera comme si ces gens consommaient juste des quantités folles de loisirs.

Je suppose que cela ressemble à beaucoup de loisirs. Mais regarde-toi dans ce magnifique pull Loro Piana à deux mille dollars animant ce podcast ridicule.

Arrête, ce n'est pas le cas. C'est un pull ordinaire.

Je pense que le point de vue relativiste est vraiment important. Pour nous, nos emplois semblent incroyablement importants, stressants et satisfaisants. Et si nous fabriquons tous de meilleurs divertissements les uns pour les autres à l'avenir, peut-être que c'est ce qu'au moins l'un de nous fait en ce moment.

C'est vrai. C'est tout à fait ça. Très bien, changeons de sujet. Je n'aime pas où cela mène. Parlons d'OpenAI.

C'est une bonne chose avec un frère, il peut vraiment te remettre à ta place sur tes conneries. C'est vraiment utile. J'apprécie.

Pouvons-nous parler d'OpenAI, s'il vous plaît ? Merci. Avec OpenAI, nous avons jusqu'à présent une activité grand public, il y a évidemment une activité B2B, il y a quelque chose dans le matériel avec Jony Ive, il y a un tas d'autres choses potentielles qui traînent. Peux-tu parler de l'appareil complet potentiel ou de ce qu'est l'appareil du moins dans une certaine période de temps ?

Je pense que ce que les consommateurs attendent de nous, à terme, c'est un compagnon IA qui vit dans l'éther et qui les aide de toutes ces manières à travers toutes ces surfaces et tous ces produits, qui apprend à vous connaître, à connaître vos objectifs et ce que vous voulez accomplir et vos informations. Parfois, vous taperez dedans à l'intérieur de ChatGPT, parfois vous utiliserez une version plus axée sur le divertissement, parfois vous utiliserez d'autres services qui auront été intégrés à notre plateforme, parfois vous utiliserez notre nouvel appareil. Ce que vous aurez, c'est cette chose qui vous aidera simplement à accomplir tout ce que vous voulez accomplir. Parfois, elle vous propose des choses, parfois vous posez des questions, parfois elle est juste là à observer et à s'améliorer pour l'avenir. C'est ce à quoi je pense que cela ressemblera à terme : ceci est mon compagnon IA.

Penses-tu que nous avons le mauvais format avec toutes nos affaires en ce moment, comme l'informatique ?

Oui. Mauvais est un mot trop fort. Je ne pense pas que nous ayons la chose optimale. Il y a eu essentiellement deux révolutions dans les formats d'ordinateurs, les interfaces, quel que soit le nom qu'on leur donne, qui, je pense, ont vraiment compté. Il y a eu des choses il y a longtemps, mais ni toi ni moi n'y prêtions attention. De notre vivant, il y a eu ce genre d'ordinateur, comme un clavier, une souris et un écran, ce qui est plutôt génial et assez polyvalent. Ensuite, il y a eu les appareils tactiles que l'on transporte. Honnêtement, ce sont les plus importants. Ces deux-là avaient les contraintes de ne pas avoir d'IA. Il y a des choses que vous deviez construire ou sur lesquelles vous pouviez compter. Si vous avez cette nouvelle technologie incroyable, vous pouvez peut-être vous rapprocher beaucoup plus du type d'ordinateur qui existe dans la science-fiction.

Ce sera la même intelligence, juste dans un nouveau format qui vous permet de l'utiliser différemment.

Mais le format compte vraiment parce qu'il est avec vous tout le temps. Cela pourrait être une raison pour laquelle c'est vraiment important. S'il est avec vous tout le temps et plein de capteurs et qu'il comprend simplement ce qui se passe et garde trace de beaucoup de choses. Et si vous avez confiance qu'avec une toute petite commande vous pouvez obtenir qu'une chose complexe se produise correctement, vous pouvez juste imaginer des types d'appareils très différents.

Quels sont les autres composants auxquels tu penses en ce moment ? Il y a évidemment la façon dont le chat est utilisé par les consommateurs, il y a l'API que les startups utilisent partout, il y a cette histoire d'appareil. Quels sont les autres grands piliers ?

Je pense que le plus important, auquel le monde n'a pas encore vraiment réfléchi, est ce que cela signifie que ce soit une plateforme dans laquelle tout s'intègre et qui s'intègre partout. Quand vous êtes dans votre voiture, ou quand vous utilisez un autre site web, c'est juste une continuité parfaite. Je pense que cela comptera beaucoup. Il y a de nouveaux types de choses à construire, comme des façons totalement nouvelles de penser à la productivité, au social ou au divertissement. Je pense que l'ubiquité sera l'une des pièces maîtresses.

Étant donné que l'intelligence a des implications si fortes à travers tout cela, il y a tous ces sous-composants de l'intelligence et des couches au-dessus de la pile. Tu as même parlé d'énergie ; tu es évidemment super impliqué dans l'énergie. Il y a un tas de choses même entre là et le matériel et tout ce reste. Penses-tu qu'il soit important pour OpenAI, ou pour le pays, quelle est l'importance de toute cette pile compte tenu de toutes ces implications ?

Critique. Je pense que le pays doit y réfléchir, de l'électron à la requête ChatGPT. Il y a beaucoup de choses entre les deux. J'ai commencé à appeler cela l'usine d'IA. Je pense que nous devrions l'appeler la méta-usine car théoriquement, c'est une usine qui peut faire plus de copies d'elle-même. Nous devons faire toute cette chaîne d'approvisionnement ensemble.

Est-il important pour OpenAI d'en faire une grande partie ?

Je pense que l'intégration verticale peut être bonne à certains égards, mais il n'est pas important pour nous d'en faire une grande partie si nous pouvions être certains que tout se passerait à une échelle suffisante. Il y a beaucoup d'endroits où, grâce à des partenariats, nous pouvons avoir un impact énorme.

Et qu'il n'y avait aucun risque que nous en perdions une partie.

Oui.

Du côté de l'énergie, allons-nous simplement consommer des quantités gigantesques d'énergie ? Est-ce que ce sera fondamentalement le seul état final ici ?

Je l'espère vraiment. Je pense que la chose qui a été la plus corrélée aux améliorations de la qualité de vie au cours de l'histoire est l'abondance croissante de l'énergie. Je n'ai aucune raison de croire que cela va s'arrêter.

Y a-t-il une préoccupation climatique liée à cela ou es-tu simplement confiant que tout cela sera résolu et que c'est le cadet de nos soucis ?

Eh bien, je pense que la fusion se produira et de nouveaux types de fission se produiront et le solaire...

À quel point es-tu confiant pour la fusion ? Es-tu totalement confiant ?

Je ne dis jamais totalement, mais assez confiant.

Et cela devient un pourcentage énorme de...

Je pense que oui.

L'énergie.

Mais les trucs de fission de nouvelle génération sont géniaux aussi. Je connais surtout cette entreprise appelée Oklo, mais il y a d'autres entreprises qui font un excellent travail et c'est une énorme victoire. Le solaire et le stockage semblent plutôt bons, mais j'espère qu'à terme l'humanité consommera bien plus d'énergie que nous ne pourrions jamais en générer sur Terre, même si nous passions entièrement à la fusion. À un moment donné, si vous multipliez l'utilisation actuelle de l'énergie sur Terre par un facteur dix ou cent, vous chauffez tout simplement trop la Terre à cause de la chaleur résiduelle.

C'est vrai.

Mais nous avons un grand système solaire là-bas.

Est-ce que tout cela ne signifie pas que l'espace est à la fois vraiment important et devient plus probable en général ?

Oui.

Genre nous allons dans l'espace.

Je l'espère. C'est un peu triste si nous n'y allons pas.

C'est drôle parce que...

Devrais-je créer une entreprise de fusées ?

Je t'ai dit que je pensais que tu devrais créer une entreprise de fusées. Il y a un tas de choses que je pense que tu devrais faire. Je ne vois pas pourquoi pas.

Quoi d'autre est sur la liste ?

J'ai tout un tas de choses sur la liste pour toi. Je ferais des fusées, je ferais du social, j'en ferais autant que tu pourrais. Pourquoi pas ?

J'aime faire une seule chose. J'aime ma famille. Je suis déjà assez occupé.

En parlant de social, puis-je t'interroger sur l'affaire de l'échelle de Meta ?

Bien sûr.

Quelle est la situation là-bas ?

J'ai entendu dire que Meta nous considère comme leur plus grand concurrent, et je pense qu'il est rationnel pour eux de continuer à essayer. Leurs efforts actuels en IA n'ont pas fonctionné aussi bien qu'ils l'espéraient, et je respecte le fait d'être agressif et de continuer à essayer de nouvelles choses. Étant donné que je pense que c'est rationnel, je m'attends à ce que si celui-ci ne fonctionne pas, ils continueront d'en essayer de nouveaux après cela. Je me souviens avoir entendu une fois Zuck parler de la façon dont Google, aux débuts de Facebook — il était rationnel pour eux d'essayer le social même s'il était clair pour les gens chez Facebook que cela n'allait pas marcher, et je ressens la même chose ici. Mais ils ont commencé à faire des offres géantes à beaucoup de gens de notre équipe, comme des primes de signature de cent millions de dollars, plus que cela en rémunération par an. Je suis vraiment content que, du moins jusqu'à présent, aucun de nos meilleurs éléments n'ait décidé d'accepter. Je pense que les gens regardent les deux voies et se disent : "D'accord, OpenAI a une bien meilleure chance de réellement parvenir à la superintelligence et pourrait aussi devenir à terme l'entreprise la plus précieuse." Mais je pense que la stratégie consistant à offrir une tonne de rémunération garantie d'avance, et que ce soit la raison pour laquelle vous dites à quelqu'un de nous rejoindre — le degré auquel ils se concentrent là-dessus et non sur le travail et non sur la mission — je ne pense pas que cela va instaurer une culture géniale. J'espère que nous pouvons être le meilleur endroit au monde pour faire ce genre de recherche. Je pense que nous avons construit une culture vraiment spéciale pour cela, et je pense que nous sommes configurés de telle sorte que si nous réussissons, et beaucoup de gens de notre équipe de recherche croient que nous réussirons, alors tout le monde s'en sortira très bien financièrement et c'est aligné sur les incitations avec la mission d'abord, puis les récompenses économiques qui en découlent. Il y a beaucoup de choses que je respecte chez Meta en tant qu'entreprise, mais je ne pense pas qu'ils soient une entreprise excellente en innovation et je pense que la chose spéciale à propos d'OpenAI est que nous avons réussi à construire une culture capable d'innovation répétable. Je pense que nous comprenons beaucoup de choses qu'ils ne comprennent pas sur ce qu'il faut pour réussir là-dedans. Cela a été une chose clarifiante pour notre équipe. Je leur souhaite bonne chance.

Je suppose qu'une partie de tout cela revient à savoir dans quelle mesure tu penses que copier le travail sur l'IA réalisé à ce jour est suffisant par rapport à la part de l'innovation qui reste à venir ?

Je ne pense pas que ce soit suffisant. Il y a beaucoup de gens, et Meta sera un nouveau venu, disant que nous allons simplement essayer de copier OpenAI. Si vous regardez à quel point les applications de chat d'autres entreprises ressemblent à ChatGPT, allant même jusqu'à copier les erreurs de l'interface utilisateur, c'est fou à quel point la recherche consiste simplement à essayer d'arriver là où nous en sommes. C'est une leçon que j'ai apprise au YC : cela ne fonctionne pratiquement jamais. Vous allez toujours là où votre concurrent était et vous ne construisez pas une culture d'apprentissage de ce que c'est que d'innover. Je pense que c'est beaucoup plus profondément difficile que les gens ne le réalisent une fois que vous êtes dans cet état.

Comment fait-on les deux ? Avoir une entreprise extrêmement commerciale et une entreprise extrêmement orientée vers la recherche en même temps, il n'y a pas beaucoup d'exemples de cela. Je comprends comment tu l'as fait avant d'être commercialisé, mais maintenant tu es les deux et ça fonctionne toujours.

Nous sommes plus récents dans le produit. Nous devons prouver que cela fonctionne. On se débrouille, on fait de mieux en mieux. Une grande partie de l'histoire des entreprises technologiques est que vous commencez une entreprise technologique bien gérée et que vous y ajoutez plus tard une organisation de recherche mal gérée. Nous sommes l'inverse. Nous avons commencé comme une excellente entreprise de recherche et y avons ajouté une entreprise de produit. Je pense qu'à terme nous serons une excellente entreprise de produit et je suis très fier du travail que l'équipe a accompli là-dedans, mais il y a deux ans et demi, nous n'étions qu'un laboratoire de recherche.

C'est fou que ce soit aussi court.

Oui, et nous avons dû construire toute cette grande entreprise. C'est incroyable ce que les gens ont fait là-bas. Mais ChatGPT a été lancé le 30 novembre 2023.

C'est plus facile de rassembler des gens qui savent comment construire une entreprise que des gens qui savent comment faire ce genre de recherche, évidemment.

C'est quand même difficile. La plupart des entreprises qui ont dû développer un produit à cette échelle ont eu bien plus de deux ans et demi pour le faire.

Pourquoi Meta vous verrait-elle de manière si compétitive ? Je comprends évidemment qu'ils voient probablement simplement que l'IA est tout l'enjeu et c'est peut-être une explication suffisante.

Je suppose que c'est juste ça. Quelqu'un qui travaillait chez Meta m'a dit que dans le reste du monde, les gens pensent à ChatGPT comme un remplaçant de Google, mais chez Meta, les gens pensent à ChatGPT comme un remplaçant de Facebook.

Parce que les gens passent tout leur temps à lui parler.

Parce qu'ils lui parlent d'une manière qu'ils aiment davantage.

Le temps est une ressource rare, tout comme l'attention.

Ce n'était pas une question de temps. C'était que les gens qui font défiler l'internet sans fin ont l'impression que cela fait d'eux une version moins bonne d'eux-mêmes. Cela peut faire du bien sur le moment, mais cela vous fait vous sentir moins bien. Une chose dont nous sommes très fiers est que lorsque les gens parlent de ChatGPT, ils disent : "En fait, je m'aime mieux. Cela m'aide à accomplir mes objectifs." C'est en fait l'un des meilleurs compliments que j'aie jamais entendus à propos d'OpenAI : quelqu'un a dit que c'est la seule entreprise technologique qui ne m'a jamais semblé être quelque peu conflictuelle.

Hmm.

Vous avez Google qui essaie de me montrer des publicités. J'adore ces entreprises, donc je ne pense pas que ce soit tout à fait juste. Vous avez Meta qui essaie de pirater mon cerveau et de me faire continuer à défiler. Vous avez Apple qui a fabriqué ce téléphone que j'adore mais qui me bombarde de notifications et me distrait de tout le reste. Et puis vous avez ChatGPT et j'ai l'impression qu'il essaie juste de m'aider avec tout ce que je demande, et c'est une belle chose.

Y a-t-il un moyen de faire du social qui ait la composante interpersonnelle et cette énergie ?

Une version sur laquelle je suis curieux est de savoir si l'on pourrait avoir un flux qui n'aurait aucun réglage par défaut, mais que vous pourriez paramétrer en disant : "Hé, j'essaie de me remettre en forme. Peux-tu me montrer des trucs qui aident à ça ?" Ou "J'essaie d'en apprendre davantage sur l'actualité. Peux-tu me montrer des trucs d'un point de vue neutre qui ne vont pas me mettre en colère mais qui vont vraiment le faire ?" Cela prendrait clairement moins de minutes passées que le flux algorithmique qui sert d'appât à l'indignation. Je pense que ce serait une version très cool d'une IA alignée vous aidant avec l'expérience sociale que vous voulez réellement à long terme. J'ai l'impression que chaque matin je me réveille comme cette personne rechargée qui sait ce qu'elle veut vraiment dans la vie, puis la journée me tombe dessus non-stop et à 22 heures je me dis : "Je n'allais pas boire ce soir mais je vais juste prendre un verre de whisky et je n'allais pas regarder TikTok mais je vais juste faire défiler pendant deux minutes".

Tu ne devrais pas travailler si dur.

Je suis d'accord avec ça. Mais si je pouvais être tout le temps moi-même comme je le suis tôt le matin et si je pouvais amener la technologie à faire les choses que je voulais alors, je pense que je serais génial.

Je vivais avec toi il y a dix ans. Même à l'époque, je dirais que tu avais une très grande agence ; tu faisais juste ce que tu voulais et il n'y avait pas de règles. Mais depuis lors et surtout récemment, il semble vraiment qu'il n'y ait plus de règles, comme l'histoire de Stargate, faire venir Fidji dans l'entreprise, et le projet Jony Ive. Je suis curieux de savoir s'il y a une mise à jour mentale ou quelque chose que tu arrives à identifier qui te fait fonctionner ainsi.

Je pense que notre grand-mère disait...

Oh mon Dieu.

L'une des choses géniales quand on vieillit, c'est qu'on finit par ne plus se soucier de ce que les autres pensent. J'ai ressenti cela. J'ai aussi été suffisamment sur la ligne de front. Je pense effectivement qu'il y a quelque chose de libérateur à vieillir et à se soucier moins de ce que les gens pensent.

As-tu encore une série de choses sur lesquelles tu hésites ? Y a-t-il un autre niveau d'agence avec lequel tu pourrais agir ? As-tu des idées que tu réaliserais, mais quelque chose te retient ?

À mesure qu'OpenAI arrive dans une position de plus grandes ressources et de plus grand potentiel, nous pouvons simplement faire plus de choses. Il y a encore beaucoup de choses ; j'adorerais aller construire une sphère de Dyson autour du système solaire et créer le centre de données gigantesque du monde avec toute la production d'énergie du soleil. Mais évidemment, nous ne pouvons pas faire cela pour le moment, donc cela devra attendre quelques décennies. Je pense que nous sommes capables de faire plus ; nous sommes incroyablement capables de faire plus de choses maintenant.

Comment choisis-tu quand tu as la malédiction du choix ? Tu pourrais créer une entreprise de fusées, tu pourrais faire un réseau social, ou tu pourrais te lancer à fond dans la robotique. Comment choisis-tu quand on a un tel excès de choix ?

Le degré auquel je n'ai plus aucune bande passante supplémentaire en ce moment est difficile à surestimer. Je n'ai jamais voulu diriger ne serait-ce qu'une seule entreprise, et encore moins un grand nombre d'entre elles. Je pensais que j'allais juste être un investisseur.

Je pensais que tu allais être un investisseur aussi.

C'est une vie géniale. Est-ce que je n'ai pas l'air heureux ?

Tu sembles juste avoir beaucoup de temps pour tes loisirs, et c'est merveilleux.

Je rayonne. Tu rayonnes. J'ai eu un gua sha ce matin.

C'est quoi un gua sha ?

Le gua sha, c'est quand ma femme m'a massé le visage ; c'est pour le système lymphatique.

Elle a dit : "Tu as besoin de ça ; ce podcast pourrait avoir beaucoup de vues. Je veux que ton visage soit beau." Elle est juste restée assise là à me frotter des trucs sur les joues pendant une minute.

Eh bien, tu es superbe. Dis-lui qu'elle a fait du bon travail. J'aimerais simplement faire cette seule chose vraiment bien, et j'ai confiance que d'autres personnes créeront de superbes entreprises de fusées.

Dans l'ensemble, aimes-tu vraiment cela ? Parce que c'est plus que ce que tu avais prévu.

Je me sens très reconnaissant et chanceux, c'est certain. Je n'ai aucun doute qu'un jour dans le futur, quand je serai à la retraite, cela me manquera. Cela semble très important et satisfaisant. Je me sens reconnaissant de pouvoir le faire, et j'aime ça presque tout le temps. Mais cela a été intense et accablant. J'ai été bien plus exposé que je ne l'aurais jamais imaginé.

Ce n'est pas vraiment ce que tu avais entrepris de faire. La plupart du temps, quand quelqu'un crée une entreprise de logiciels, il s'attend à ce que ce soit une entreprise de logiciels. Je ne pense pas que tu t'attendais à ce que tout cela arrive.

C'était censé être mon job de retraite. I'étais censé diriger un petit laboratoire de recherche.

Il y avait évidemment beaucoup de mondes où cela ne se produisait pas.

Oui.

En dehors des heures passées, le vis-tu comme quelque chose de lourd et d'important ou comme un puzzle ludique et intéressant ?

C'est les deux. C'est le travail le plus percutant que je toucherai jamais. Je ne veux pas trop nous jeter de fleurs, mais peut-être que ce sera un travail historique. Je ressens cela quand j'ai le temps de prendre du recul et d'y réfléchir. Mais au quotidien, ce sont les choses plus petites, et j'y trouve beaucoup de joie. J'adore les gens avec qui je travaille. C'est amusant de faire les pièces. Certaines parties sont stressantes et douloureuses, mais cela ressemble plus à un puzzle intéressant qu'à un travail important.

Tu peux aussi parler à qui tu veux. Tu peux penser à ce que tu veux.

Je ne peux pas penser à ce que je veux. Je reçois des problèmes. J'ai l'impression d'être un modèle pré-entraîné qui se réveille le matin, a une heure pour lui, et puis on m'envoie des flux de trucs et je dois réagir.

Je suppose que tu peux tout mettre sur la table même si tu ne peux pas contrôler le temps que tu peux y consacrer.

Ce n'est pas ce que je ressens. J'ai l'impression qu'il y a un court moment avant que la journée ne commence vraiment où j'ai une certaine agence, et ensuite cela semble très réactif.

Intéressant. Je suppose qu'il n'y a pas d'autre moyen étant donné le rythme de la montée en charge.

J'essaie de le trouver.

C'est dur. J'imagine qu'à mesure que tu continues d'embaucher des cadres, on arrive à un certain point.

Espérons-le.

Et pour ta propre expérience ? Tu es passé de célèbre dans la tech à célèbre façon New York Times. Y a-t-il un bon côté ou est-ce tout mauvais ?

Il y a beaucoup d'avantages à être célèbre dans le milieu de la technologie ; c'est le niveau parfait. On peut accomplir beaucoup de choses intéressantes et rencontrer qui on veut. On peut encourager les gens à faire des choses ; il y a beaucoup de bonnes opportunités. Je ne suis pas célèbre comme une célébrité, ce qui serait misérable, mais je ne peux pas tout à fait avoir une vie normale.

Cela a une énergie différente. Tu ne seras jamais aussi cool que Tom Cruise. C'est juste différent.

C'est sûr. Je peux encore marcher dans la rue. Quand nous étions à l'Exploratorium le week-end dernier, quelqu'un dans la boutique de souvenirs a dit : "Le PDG de ChatGPT est dans le bâtiment." Mon fils appelle toujours ChatGPT Siri, ce qui est très drôle.

C'était très drôle quand tes garçons ont appelé ce week-end et ont demandé : "Est-ce que tu as vraiment fait ChatGPT ?" Je lui ai juste dit : "Ouais, l'inventeur de Siri juste ici".

En parlant d'enfants, étant donné la trajectoire actuelle, est-ce que cela te fait changer d'avis sur ce que les enfants devraient apprendre ?

Mon gamin a appris à se retourner hier.

C'est pas mal. J'ai été très impressionné. Une force de tête incroyable. Un bébé de premier ordre.

Je ne pense pas. Tout cela ne lui semblera pas bizarre. Il va grandir dans un monde où les ordinateurs sont plus intelligents que lui, et il saura comment les utiliser couramment pour faire des choses incroyables.

Oui.

Oui.

Quand tu retournes au YC après cette expérience, comment le vis-tu ? Est-ce quelque chose de pittoresque ?

Non, j'adore le YC.

Je ne dis pas cela de manière négative ; je l'entends comme une époque plus simple.

Il y a une certaine nostalgie pour ça. C'est amusant d'y retourner et de parler à la promotion ; ça réveille fort la nostalgie.

J'ai l'impression que le YC est la composante la plus pure de la Silicon Valley.

Je suis tout à fait d'accord. C'est sincère, positif, énergique et heureux. De toute évidence, cela fonctionne bien.

Très bien, c'était super. Maman, j'espère que tu regardais. Merci, Sam.

Merci, Jack.