Bon après-midi.

Veuillez vous asseoir et nous allons commencer.

Merci, Sam, d'être venu.

Merci de m'avoir invité à nouveau.

Oh, toujours heureux de vous recevoir. Y a-t-il quelqu'un qui n'est pas heureux de vous recevoir ?

Vous devez en avoir assez de cette discussion après la quatrième année consécutive ou peu importe depuis combien de temps ça dure. Mais c'est un plaisir d'être ici.

Alors, j'aimerais commencer par là, nous avons eu plusieurs conversations sur ce thème. Imaginez le monde au-delà de 2035, donc la période de 2035 à 2050, pour être assez vague sur cette échéance. À quoi pensez-vous que le monde ressemblera ?

Je pense que les gens continueront à s'asseoir ensemble pour déjeuner.

Travailleront-ils ?

Mais je pense effectivement que le rythme du changement technologique au cours de cette période sera tel qu'il sera difficile d'avoir un cadre de référence actuel pour l'appréhender. Il est très difficile de faire des prédictions précises sur la construction d'une sphère de Dyson ou sur le fait que nous aurons maîtrisé les nanobots, mais je pense que beaucoup de choses de ce genre seront vraiment très différentes. Alors peut-être que l'expérience humaine ne change pas tant que ça ; l'évolution prend beaucoup de temps, la biologie a ancré des pulsions très fortes sur une très longue période. Mais en termes de ce qui est possible dans la pile technologique et de ce qu'une personne peut accomplir, cela semble être très différent.

Alors allez un peu plus loin. Par exemple, qu'arrive-t-il aux entreprises d'aujourd'hui ? J'ai donné une conférence ce matin que je répéterai pour les LPs cet après-midi. J'ai estimé qu'il y aura une disparition plus rapide du Fortune 500 dans les années 2030 que ce que nous avons jamais vu. Lesquelles survivront et lesquelles ne survivront pas dépendra de ce qu'elles font, mais ce sera une disparition plus rapide. Êtes-vous d'accord ? Pas d'accord ?

Mon instinct me dirait plus rapide, mais je n'y ai pas beaucoup réfléchi. Ce sur quoi je me suis concentré, c'est que la plupart de mon temps en dehors d'OpenAI est passé avec des entreprises de logiciels. Et j'ai pensé avoir compris la physique des entreprises de logiciels depuis un certain temps. Mais si nous nous dirigeons vers un monde où n'importe quel logiciel que vous voulez peut être écrit juste-à-temps, et si vous voulez faire quelque chose, vous pouvez simplement taper quelque chose dans un chatbot d'IA et obtenir un excellent logiciel construit, au lieu d'aller acheter le produit de cette entreprise SaaS ou de celle-là, vous dites simplement 'exécuter', et cela arrive. Cela ressemble à un changement très significatif qui n'est pas si lointain.

Je reviendrai sur les 18 prochains mois pour en parler aussi, mais...

Les grandes entreprises du Fortune 500 qui gèrent des chaînes d'approvisionnement complexes — le monde physique prend toujours plus de temps. Mais le changement logiciel semble plus proche.

Mais 2040 est assez loin pour que le monde physique change suffisamment. C'est pourquoi j'ai choisi la période 2035 à 2050. 2035 n'est que dans 10 ans.

Oui, je parierais que la plupart des entreprises actuelles ne parviendront pas à s'adapter assez rapidement et subiront des pertes importantes à cause de cela. C'est surprenant, mais cela arrive depuis longtemps. Mon sentiment est que l'accélération de la croissance des nouvelles entreprises et la prise de parts de marché aux acteurs historiques est une grande exponentielle où les nouvelles entreprises peuvent devenir plus grandes et plus importantes plus rapidement. OpenAI en est un exemple. Nous sommes devenus très grands très vite.

Oui. Dans cette période de temps, y a-t-il une profession, et dans notre public, il y a des entrepreneurs qui construisent des médecins IA, des thérapeutes IA, des oncologues IA, des ingénieurs en structure IA, des concepteurs de puces IA, bien sûr des ingénieurs logiciels IA, des vendeurs IA, des gens du marketing IA, des comptables IA, tout cela se passe aujourd'hui. Je présume que tout cela, que ces entreprises réussissent ou que certains concurrents réussissent, sera mature. Y a-t-il des emplois, en 2035 et au-delà, dans le monde intellectuel, et nous reviendrons au monde physique, que l'IA ne pourra pas faire à au moins 80 % ?

Il y a beaucoup d'emplois que je ne pense pas que l'on veuille confier à une IA, ou que beaucoup de gens ne veulent pas confier à une IA. Et il y aura de nouveaux types d'emplois que les gens voudront particulièrement voir accomplis par une personne. Je pense que nous sommes très orientés vers l'attention portée aux autres. Et je pense que, en parlant de ces choses biologiques profondes, c'est l'une d'entre elles. Alors oui, peut-être que vous pourriez avoir un excellent professeur IA et qu'il ne sera pas aussi motivant pour vous qu'un professeur humain médiocre. Je pourrais tout à fait le croire. Je pourrais tout à fait croire qu'il y a quelque chose de très profond dans le simple fait de savoir s'il s'agit d'une personne réelle ou non.

Oui, je pourrais ne pas être d'accord avec vous sur ce point. Je pense qu'un enseignant IA peut faire tellement plus et vous comprendre tellement mieux.

Mais je pense qu'il y aura très bientôt un bien meilleur investisseur IA que vous. Et personnellement, j'apprécie toujours de dîner avec vous et si vous me dites 'bon travail' ou 'tu devrais faire ceci', c'est plus motivant pour moi qu'une IA me disant cela. Donc je pense que vous aurez toujours un emploi.

Je suis donc tout à fait d'accord avec vous. Il ne fait aucun doute que mon travail n'est pas plus sûr que la plupart des autres emplois.

Beaucoup moins sûr sur le fond, mais il y a cet autre point.

Oui. Marc Andreessen prétend que c'est le seul travail, le capital-risque, qui sera sûr, mais je ne suis pas d'accord avec lui fondamentalement.

Je me suis en fait demandé si nous devions créer un investisseur de startup IA. J'ai réfléchi au problème pendant longtemps, mais je pense qu'avec les modèles actuels, cela pourrait déjà être faisable. Ce serait un petit projet parallèle amusant.

Ce serait un projet parallèle amusant à faire. Et Sam a un nouveau bébé, donc je pense que nous aurons beaucoup plus de temps. Les mères n'auront plus à laisser leur enfant à 16 semaines pour aller travailler. Je pense que nous aurons cette liberté. Nous aurons le temps de nous occuper des aînés. Je pense que sur cette partie de la relation humaine, je suis d'accord, mais pour des services comme l'enseignement et les soins médicaux et d'autres, je pourrais ne pas l'être. Je suppose que j'essayais de réfléchir aux emplois qui ne peuvent pas être faits, et alors la question devient, à court terme, qui fait en sorte que cela se produise ?

Pour insister juste un peu plus sur le point de l'enseignant, je pense que dans un certain sens objectif, j'ai soit appris plus, soit j'aurais pu apprendre plus en lisant Wikipédia que je ne l'ai fait de n'importe quel enseignant. Mais quand je pense aux gens ou aux moments de mon processus d'apprentissage très largement, tout tourne autour de personnes particulières qui ont créé un lien avec moi, qui se sont intéressées à moi, qui ont appris à me connaître et se sont souciées de moi, et je pouvais le dire. Et une partie de cela sera reproduite par des relations avec l'IA, mais je pense que toute cette affaire va être plus étrange, plus compliquée et plus inégale qu'il n'y paraît à la surface. L'IA pourra faire beaucoup d'emplois différents, peut-être presque tous les emplois, et pourtant nous découvrirons que la programmation biologique est tout simplement très difficile à surmonter.

Je serais tout à fait d'accord avec vous. En fait, ce matin, j'ai parlé du fait que la programmation biologique n'évoluera pas, donc nous voudrons toujours du statut, nous serons toujours en compétition, nous aurons toujours des influenceurs dans l'économie de l'attention, et nous aurons toujours l'attention portée à nos enfants, à nos aînés et à notre famille. Donc, et nous aurons beaucoup plus de temps pour toutes ces choses. Je suis donc d'accord avec cela. Mais permettez-moi de me rapprocher un peu plus. C'était il y a environ trois ans et demi que le moment ChatGPT, comme les gens l'appellent, s'est produit.

Deux et demi.

Deux et demi. Oui. Donc cinq ans plus tard, si nous regardons vers l'avenir, même dans 18 mois, fin 26, quel sera le changement de capacité de l'IA entre aujourd'hui et fin 26, et je deviens très court-termiste là, par rapport à ce que nous avons vu entre le moment ChatGPT et aujourd'hui ? Il y a deux ans et demi.

Je ne sais pas trop comment mesurer cela. Sur la base du ressenti, je m'attendrais, enfin, je pense que passer de rien à la première version de ChatGPT a peut-être été le plus grand choc systémique que la plupart des gens ressentiront. Parce que cette chose n'existait pas du tout et maintenant elle existe. Et bien sûr, ce n'était pas très bon, mais le moment du passage de zéro à un est un événement majeur. Et peut-être sommes-nous maintenant passés de un à dix et, dans un certain sens, cela devrait sembler plus important, mais je pense que ce n'est pas tout à fait le cas pour la plupart des gens. Et peut-être passerons-nous de dix à cent dans les 18 prochains mois. Mais je pense que tout le monde a déjà accepté que l'AGI va se produire et la vie continue et vous êtes tous encore ici à faire ce que vous faites.

Ignorants ou pas ?

Eh bien, encore une fois, je pense que les progrès réels sur le fond seront étonnants, mais on s'attend à ce qu'ils soient étonnants, alors que ChatGPT était une chose très inattendue pour la plupart des gens. Je ne pense pas que cela paraîtra aussi fou, même si l'impact sera beaucoup plus important.

Je hasarderais une supposition : la plupart des gens ne saisissent pas tout à fait l'ampleur du changement, le prochain décuplement de 10 à 100. Mais je pourrais me tromper, surtout en dehors d'un cercle restreint.

Il y a un au, j'aurais été d'accord avec cela, il y a deux ans, je l'aurais certainement été. Je suis surpris maintenant en discutant avec des gens au hasard lors de mes voyages ; les gens disent : 'L'AGI est presque là, les ordinateurs sont déjà bien plus intelligents que les humains, ils vont devenir bien plus intelligents, et tout va être vraiment différent.' Je pense qu'il y a eu une mise à jour majeure là-dessus.

Tout cela se produit donc à cause des lois d'échelle, essentiellement. Combien de lois d'échelle différentes, parlez-nous du mécanisme de ce changement exponentiel. Qu'est-ce qui le motive ?

À haut niveau, les entrées n'ont pas beaucoup changé. Nous continuons à découvrir de meilleurs algorithmes, donc nous continuons à trouver des lois d'échelle de plus en plus raides. Nous continuons à comprendre comment construire des ordinateurs plus grands et des puces plus puissantes et à en connecter davantage ensemble. Nous continuons à trouver des données plus nombreuses et de meilleure qualité. Je pense que nous allons commencer à arriver à un stade où nous assemblons ces systèmes de nouvelles manières et où nous avons un apprentissage continu où les systèmes fonctionnent indéfiniment et deviennent de plus en plus intelligents. En réalité, l'histoire de ces dernières années a simplement été de meilleurs algorithmes, de plus grands ordinateurs et plus de données. J'aimerais avoir quelque chose de plus profond et de plus perspicace à dire. Une grande partie des progrès algorithmiques a été incroyable — certainement les trucs sur le raisonnement que nous avons compris et l'idée originale de l'apprentissage non supervisé. Je placerais ces deux éléments dans cette catégorie, et il y en a eu d'autres plus petits aussi. Vous peinez à accomplir cela ; cela me rappelle n'importe quelle autre combinaison de recherche et d'apprentissage industriel, comme le transistor dans l'histoire.

Il y a donc les lois d'échelle et de multiples lois d'échelle et, selon que vous demandez à ChatGPT, il définit plusieurs types de lois d'échelle. Mais il y a un autre facteur auquel je pense, c'est quand pensez-vous que les scientifiques IA commenceront à faire l'essentiel de la recherche en IA ?

Je pense que ce sera très graduel. Disons qu'aujourd'hui, un chercheur d'OpenAI utilise Codex et qu'il génère 10 % de ses PR, puis 20 % et 30 %. Ensuite, il commence à tester lui-même de nouvelles architectures de modèles, mais le chercheur le dirige toujours et il fait un peu plus de tests. Le chercheur a toujours l'impression de travailler plus efficacement et pourrait dire : 'Je fais 100 % de la recherche, j'ai juste de meilleurs outils.' Mais si ce chercheur produit maintenant 10 fois ce qu'il pouvait faire auparavant, comptez-vous que l'IA fait 90 % de sa recherche ou 0 % parce qu'elle ne fait pas de manière totalement autonome toute la boucle ? Je pense que ce sera cette accélération conjointe et désordonnée.

Il n'est donc pas nécessaire de le mesurer, mais on peut regarder le rythme de changement des nouveaux progrès et l'accélération. C'est pour moi la mesure ultime, ce qui arrive au rythme de changement au-delà des seules lois d'échelle dont nous venons de parler.

Je pense que nous avancerons beaucoup plus vite sur le front de la recherche chaque année à partir de maintenant parce que nous avons de meilleurs outils. Que vous vouliez appeler cela l'IA assistant les humains ou les humains assistant l'IA ou l'IA faisant la recherche elle-même, l'effet net sera beaucoup plus rapide — pas seulement le processus algorithmique mais toute la chaîne d'approvisionnement. Si l'IA nous aide à construire des centres de données plus rapidement, ou nous aide à développer de nouveaux types de puces, y compris des trucs assez exotiques beaucoup plus rapidement, tout cela compte. Si vous regardez cela comme un rythme de progrès et que l'IA aide d'une manière ou d'une autre à aller plus vite, alors c'est beaucoup plus rapide.

Oui. Pour moi, le test clé est l'IA proposant de nouvelles hypothèses qu'elle teste par elle-même et modifie ensuite ces hypothèses. C'est un cycle qui semble vicieux dans le bon sens du terme.

J'ai une perspective légèrement différente. Je pense que ce qui nous importe, c'est simplement la rapidité avec laquelle nous obtenons une bien meilleure recherche. Et si l'IA propose l'hypothèse elle-même ou permet à un humain de proposer une hypothèse que l'humain ne pourrait tout simplement pas faire de lui-même, je suis tout aussi heureux, vraiment.

Oui. Il y a une question que beaucoup de LPs ici me posent : est-ce que les gens qui gagnent renforceront leur avance grâce à cette accélération ? Et si cette hypothèse d'accélération de la recherche est exacte, alors vous et certains des autres leaders parviendrez à perpétuer votre avance et il sera plus difficile pour de nouveaux acteurs de partir de zéro, à moins qu'ils ne proposent des approches complètement orthogonales, et nous travaillons sur certaines approches orthogonales, mais est-ce que cela perpétue et donne à OpenAI un avantage en ayant une valorisation croissante ce que nous espérons tous ? Je l'espère sans aucun doute. C'est une question qui préoccupe beaucoup de gens.

Si j'étais un LP, Ie passerais 0 % de mon temps à essayer de comprendre comment investir dans un autre laboratoire de recherche en IA et 100 % de mon temps à essayer de comprendre comment investir dans ce qui vient après. Les GPs sont souvent nuls pour cela, mais vous non, vous êtes plutôt bon. En général, une si grande partie de l'attention du capital d'investissement dans le monde est consacrée à la poursuite du dernier ensemble de gagnants et on n'y gagne presque jamais beaucoup d'argent. On obtient presque toujours des rendements importants en regardant ce qui est désormais possible dans le monde et qui ne l'était pas auparavant et en investissant dans quelque chose de très non prouvé où vous avez une vision différentielle. En ce moment, tout le monde veut investir dans le prochain OpenAI. Probablement que la prochaine entreprise de plusieurs billions de dollars ne sera pas un autre laboratoire de recherche AGI. Ce sera probablement la chose qui a été construite parce que l'AGI existait désormais en tant que nouvelle technologie. De la même manière, quand OpenAI a commencé, ce dans quoi la plupart des gens voulaient investir, c'était un autre Facebook ou une autre cryptomonnaie.

Je dois vous raconter une histoire amusante. Quand nous avons investi dans OpenAI, c'est la seule fois en 20 ans que j'ai envoyé une lettre d'excuse pour avoir investi à tous nos LPs, en disant que je sais que cela semble bizarre, mais que nous le faisons quand même.

Je ne vous en voudrai qu'un tout petit peu. C'est pas grave.

C'est une époque extrêmement passionnante car la quantité de nouveaux espaces qui se sont ouverts est plus grande que tout ce que j'ai jamais vu auparavant. Quand OpenAI a été lancé, notre espace avait été ouvert par une percée de recherche comme le marché de la crypto subventionnant les GPU et quelques autres choses. Je me souviens de cette période ; la liste des choses que je pensais valoir la peine d'être travaillées était très courte. La liste des choses que je pense valoir la peine d'être travaillées en ce moment est immense. C'est ce que les gens devraient chercher à financer. Que les retours sur la recherche continuent de s'accumuler pour OpenAI ou pour quelqu'un d'autre n'est pas la question la plus importante pour un allocateur de capital. Il y aura de l'AGI presque gratuite dans le monde. Il y aura des entreprises comme OpenAI qui auront une valeur immense parce que nous avons un produit grand public très vaste et réussi et quelques autres choses. Mais si nous revenons à l'analogie du transistor, il y avait quelques entreprises qui étaient de vraies entreprises de transistors ; la plupart d'entre elles ont disparu, quelques-unes ont survécu, et regardez maintenant le nombre de choses dans cette pièce qui contiennent des transistors. Nous ne parlons pas de cela comme d'un appareil à transistors. C'est simplement devenu une technologie qui a permis à tout un ensemble de nouvelles entreprises, y compris OpenAI, d'exister. C'est cela qu'il faut viser. C'est un moment extrêmement excitant pour être un allocateur de capital, et vous devriez poursuivre l'avenir, pas ce qui a fonctionné dans le passé.

Revenons donc au lancement de ChatGPT. Qu'est-ce qui vous a le plus surpris et ensuite, sur la base de ce que vous avez vu en termes de comportement des utilisateurs, comment votre réflexion a-t-elle évolué ?

La tradition dans les entreprises technologiques est que vous commencez par une entreprise de produits, que vous la développez, puis que vous décidez d'y greffer un laboratoire de recherche. Cela a parfois bien fonctionné, comme chez Xerox PARC, et parfois mal. Nous sommes le seul exemple que je connaisse où nous avons commencé par un laboratoire de recherche bien géré et avons greffé une entreprise plus tard. Après quatre ans et demi chez OpenAI, il est devenu clair qu'en raison des lois d'échelle et du capital nécessaire, nous allions devoir construire une grande entreprise. Il faut un produit pour avoir une entreprise. Nous avions GPT-3 et je pressais pour trouver un produit, mais nous n'y arrivions tout simplement pas ; ce n'était pas assez bon pour faire quelque chose qui fonctionne. Je me souviens du conseil de Paul Graham qui m'est toujours resté : 'vous devriez toujours faire une API.' À court d'idées, nous avons décidé de faire appel au public mondial et de mettre GPT-3 dans une API pour que quelqu'un puisse trouver quoi en faire. Le monde a trouvé exactement une chose. La seule chose qui a rapporté de l'argent avec GPT-3 était les applications de rédaction publicitaire. Il y a eu quelques entreprises qui sont très vite devenues des entreprises valorisées à plus d'un milliard en utilisant GPT-3 pour générer des textes pour des sites web à revendre.

Jasper, des choses comme ça.

Jasper, oui. C'était tout. Les gens ont essayé d'autres trucs, mais aucune autre entreprise n'a fonctionné. Cependant, nous avions le bac à sable (playground) où l'on pouvait tester des prompts. C'était le succès inattendu. Certaines personnes discutaient avec ce truc toute la journée. C'était avant que nous ne comprenions le RLHF ou GPT-3.5, donc ce n'était pas très bon, mais il y avait un signal utilisateur clair montrant que les gens voulaient parler aux modèles. Étant donné que c'était la seule chose en dehors de la rédaction publicitaire qui avait une réelle traction, nous avons décidé que c'était le produit que nous devions construire. Nous avons commencé des recherches pour rendre les modèles plus faciles à discuter afin de ne pas avoir à faire des prompts compliqués. Il y avait une inquiétude au sein d'OpenAI : si vous pouvez discuter, cela doit-il être un type spécifique d'assistant essayant de vous aider à apprendre ou à accomplir un objectif ? Si vous discutez juste de rien, est-ce que les gens voudraient faire ça ? Nous avons failli ne pas le sortir, mais nous avons lancé un aperçu où l'on pouvait discuter de n'importe quoi. Un autre apprentissage intéressant est venu de notre groupe de test : très peu d'utilisateurs restaient — la rétention était atroce — mais pour les utilisateurs qui restaient, leur utilisation augmentait avec le temps. Nous avons failli ne pas le lancer à cause de cela. Un apprentissage important sur lequel j'ai réfléchi depuis est que si vous avez un produit avec n'importe quelle rétention, vous êtes en bonne position. Si c'est 5 %, cela peut être suffisant. Le défaut est presque toujours une ligne droite vers zéro. Je ne le comprenais pas aussi intuitivement à l'époque.

Alors, et je ne sais pas quels chiffres vous utilisez publiquement pour le nombre d'utilisateurs de ChatGPT aujourd'hui. Quelle est votre vision pour ChatGPT à l'avenir ?

La vision d'OpenAI est que nous aimerions construire une petite suite de produits et une plateforme que vous pouvez utiliser avec n'importe quel autre service pour être en quelque sorte votre AGI personnelle par défaut. C'est un système qui apprendra à vous connaître, qui sera connecté à vos affaires, qui se comportera comme vous le souhaitez. Si vous voulez l'utiliser via une interface de chat, très bien. Si vous voulez utiliser des produits sociaux ou des produits de divertissement d'une nouvelle manière, génial. Si vous voulez accomplir beaucoup de travail avec des agents et un tas d'autres choses, super aussi. Et si vous voulez pouvoir vous connecter à n'importe quel autre service et en quelque sorte y apporter votre intelligence, nous aurons cela aussi. Avec le temps, cela s'étendra à de nouveaux types de services. Je pense qu'il y a de nouveaux types d'ordinateurs très importants à construire, et nous voulons que nos utilisateurs les aient aussi. Je pense que les gens vont avoir une relation très importante avec une IA qui les aidera à être plus productifs, meilleurs, plus heureux, peu importe, juste à faire avancer leur vie, et nous aimerions être cela.

C'est donc plus que de l'intelligence à votre disposition.

À un certain niveau, c'est ce que nous vendons, mais il y a beaucoup de valeur à créer d'excellentes expériences et à intégrer cela de différentes manières.

Et donc si vous regardez le prochain milliard d'utilisateurs de ChatGPT, est-ce le même cas d'utilisation ? Est-ce étendu d'une manière ou d'une autre ? S'agit-il de nombreux segments différents ? Que imaginez-vous ?

Je ne détaille pas notre feuille de route produit, mais je pense que nous en sommes encore au stade terminal de l'IA. Et il se trouve que j'aime les terminaux, je pense que c'était une belle façon d'utiliser les ordinateurs. Mais au fur et à mesure que nous construisons le reste de l'interface informatique moderne autour de cela, qui ne sera pas littéralement ce à quoi ressemblent les ordinateurs, mais ce pas en avant équivalent, je pense que ce sera simplement plus facile à utiliser et beaucoup plus performant et accessible pour la plupart des gens.

Oui, je vous ai entendu dire que ChatGPT est un système d'exploitation pour l'intelligence.

Pas encore, nous aimerions en arriver là.

Oui. Alors, qu'est-ce qui manque ?

Tout. Nous en sommes au tout début. Nous avons tout un...

C'est le début, mais il doit y avoir des choses qui, selon vous, manquent.

Il y en a.

D'accord, oui, c'est pas grave si vous ne voulez pas parler de ce qui manque et de ce qui s'en vient.

C'est notre feuille de route produit.

D'accord. Changeons un peu de sujet. Évidemment, un autre domaine important au-delà de l'usage personnel est l'usage en entreprise. Parlez-en un peu.

Il y a deux vecteurs intéressants ici. L'un est l'idée de collègues virtuels et la capacité d'utiliser l'IA pour améliorer les choses qu'une entreprise doit accomplir. Les agents de codage sont une application évidente. Ce qui se passe dans le support client avec les agents d'IA est assez impressionnant. Dans la plupart des entreprises, la proportion de tâches effectuées par l'IA par rapport aux personnes va simplement augmenter. Ce qui m'excite le plus, c'est qu'une entreprise puisse allouer tout un cluster de calcul à un seul problème difficile. Un cas de découverte scientifique est le plus passionnant, mais il y a beaucoup d'autres problèmes difficiles et précieux que les entreprises rencontrent et qui, s'ils étaient résolus, permettraient quelque chose de nouveau. Alors que nous disposerons de systèmes d'IA capables de réfléchir intensément à un problème, il sera fondamentalement du ressort des entreprises de découvrir de nouveaux matériaux ou de comprendre comment optimiser une chaîne d'approvisionnement très complexe. J'ai hâte de voir où cela va mener.

Oui. Si vous regardez à plus court terme dans le contexte de l'entreprise et que nous avons parlé de scientifiques IA en dehors des scientifiques IA pour l'IA, de scientifiques IA en science des matériaux ou en biologie ou d'autres domaines, et je pense que vous avez parlé de cette couche de capacité arrivant à un moment donné dans tous ces modèles. Où dans l'entreprise cela sera-t-il le plus perturbateur à court terme sans nouvelle capacité ? Et d'où viendra votre revenu à court terme ?

Je suppose qu'à court terme, l'ingénieur logiciel IA sera la chose la plus perturbatrice pour les entreprises. Les entreprises investissent le plus là-dedans. Il y a un tas de raisons singulières pour lesquelles c'est un excellent environnement. Cela se traduit directement par un réactif limitant actuel pour la plupart des entreprises et une opportunité de revenus. Je parierais que ce sera le grand sujet pour le reste de l'année. Vous commencerez à voir des entreprises ou des équipes qui excellent dans ce domaine être capables de surpasser les autres de manière significative.

Clairement, le développement de logiciels est, je pense, reconnu par presque tout le monde comme un domaine majeur, un nouveau domaine majeur. Qu'en est-il des fonctions d'entreprise traditionnelles au-delà du logiciel ?

Ce ne sont plus des choses théoriques. Nous entendons parler d'entreprises qui font tout leur support client avec l'IA maintenant, ou toutes leurs ventes sortantes, ou d'autres secteurs verticaux. Tout cela se passe aussi. Je pense simplement que cela n'aura pas tout à fait le même impact visible.

Oui. Laissez-moi passer à un autre sujet. Vous avez pris beaucoup de décisions chez OpenAI dans une incertitude extrême sur le fonctionnement de cette technologie, son développement, ce que feront les concurrents. Quelles sont certaines des décisions les plus difficiles que vous ayez prises, et certaines qui se sont avérées justes et d'autres fausses ? Comment y réfléchissez-vous ?

Le plus difficile n'est pas une décision individuelle, bien qu'il y en ait eu beaucoup de difficiles et que nous nous soyons plus que de raison trompés aussi. C'est le nombre de décisions que nous devons prendre et la mesure dans laquelle elles sont toutes interdépendantes. Je n'ai jamais vraiment trouvé de bons conseils à ce sujet, alors nous nous débattons avec ça. Si nous pouvions opérer à l'échelle que nous voulons et ne prendre que la moitié des décisions, la vie semblerait facile, mais nous sommes débordés. Je ne sais pas quoi faire à ce sujet parce que nous devons vraiment faire beaucoup de choses à la fois. Nous devons gérer un excellent programme de recherche, construire une infrastructure à grande échelle et comprendre comment construire tous ces produits. Je ne pense pas qu'il existe une sagesse de la Silicon Valley sur la façon de prendre de nombreuses décisions rapidement. Il y a de bons conseils sur la façon de prendre quelques grandes décisions, mais je n'ai pas trouvé comment transformer OpenAI en une organisation qui n'a qu'à prendre quelques grandes décisions. Nous avons demandé à ChatGPT ; il n'a pas aidé.

La meilleure utilisation récente de ChatGPT que j'ai entendue est quelqu'un qui disait qu'il était un bien meilleur coach exécutif que n'importe quel coach exécutif qu'il avait utilisé.

Le cas général de son excellence en thérapie et en coaching a surpris beaucoup de gens. C'est maintenant une part importante de notre utilisation. Quelque chose dont nous sommes fiers chez OpenAI, c'est que nous essayons de faire de nouvelles choses au lieu de copier les concurrents. D'autres laboratoires de recherche essaient principalement de faire la même recherche que celle effectuée par OpenAI et de cloner nos produits ; ils se ressemblent de manière choquante. J'avais l'habitude de me moquer d'eux et de penser que c'était un manque de créativité, mais il est vraiment difficile de prendre les décisions nécessaires pour faire quelque chose de nouveau. Si vous savez que quelque chose d'autre fonctionne, il est si tentant de copier cela pour ne pas avoir à prendre ces décisions. Je ne pense pas que ce soit ainsi que le monde progresse, mais je comprends vraiment maintenant pourquoi les gens le font.

Il y a donc les laboratoires de recherche et beaucoup se copient les uns les autres et s'appuient sur les idées des autres. Beaucoup d'entrepreneurs prennent des décisions dans une incertitude extrême sur ce que les modèles auront et comment prendre des décisions dans cette incertitude. Et ce n'est peut-être pas la quantité de décisions, mais ce sont des décisions stratégiques vraiment critiques. Des conseils pour eux sur la façon de gérer cette incertitude ? Parce que c'est une question que l'on me pose probablement plus que n'importe quelle autre. Où ira la capacité de l'IA, quelles hypothèses devrais-je faire et comment construire ma startup par-dessus les modèles actuels ?

Ce qui a fonctionné historiquement, c'est de supposer que les modèles vont s'améliorer dans toutes les dimensions — meilleurs, moins chers, plus de multimodalité, meilleure intelligence et meilleure capacité de raisonnement. Je ne vois aucune raison de croire que cela va ralentir dans les prochaines années. Il y aura des ralentissements temporaires où les gens réécriront leur infrastructure ou attendront un nouveau cluster, mais dans l'ensemble, vous serez bien avisés de ne pas essayer d'être plus malins que vous-mêmes. Supposez simplement que le modèle va s'améliorer environ 10 fois chaque année sur presque toutes les dimensions. Quel produit devrais-je construire et quand ? Ce sera une assez bonne orientation de haut niveau.

Donc, pour les personnes qui construisent par-dessus vos modèles ou ceux d'Anthropic ou de Google, qu'est-ce qui est selon vous le plus mal compris ? Qu'est-ce que vous aimeriez que les entrepreneurs qui construisent par-dessus comprennent, et non les gens qui essaient de vous concurrencer ?

Je suis extrêmement impressionné par les personnes qui construisent des applications d'IA. Elles comprennent tellement de choses sur les modèles et ce qu'ils peuvent faire. Je n'ai pas de liste de souhaits sur ce que j'aimerais qu'elles comprennent d'autre. J'ai eu un dîner chez moi récemment avec 20 des fondateurs d'IA de la nouvelle génération les plus impressionnants dont j'avais entendu parler. En faisant le tour de la table, j'ai pensé que ce sont de bien meilleurs fondateurs que ce que le monde avait il y a cinq ou dix ans. Je n'ai pas de liste de souhaits ; je suis extrêmement impressionné.

Je veux parler de certaines des implications mondiales de l'IA, mais avant d'en arriver là, je veux vous poser ma question préférée et je veux laisser assez de temps pour les questions du public aussi. Quand pensez-vous que nous aurons une entreprise de 10 personnes qui réalise un milliard de dollars de chiffre d'affaires ? Cela a-t-il commencé ? Commencera-t-il bientôt ? Ce ne sera pas possible ? Évidemment, j'ai mon parti pris.

Je parierais que l'entreprise a soit déjà commencé, soit commencera dans les deux prochaines années.

Je suis tout à fait, j'ai spéculé qu'elle a probablement déjà commencé.

Et c'est une pensée assez incroyable de réfléchir à la façon dont on crée de la valeur et à ce qu'il faut pour créer de la valeur.

C'est pourquoi je pense que les trucs de l'IA pour la science sont si intéressants. On pourrait imaginer un seul médicament qui génère plus d'un milliard de dollars de revenus, qui pourrait être découvert et faire l'objet d'essais par une seule personne plus 50 000 GPU.

Oui, je viens de voir un article, quelqu'un m'a envoyé un article ce matin dans mes e-mails que je n'ai pas encore eu le temps de lire, disant qu'en utilisant l'IA seule, ils ont découvert un remède contre la dégénérescence maculaire. Votre point est donc juste, mais la même chose pourrait arriver dans le divertissement et dans un certain nombre d'autres domaines.

Passons en quelque sorte au déploiement mondial et à la façon dont nous garantissons que les avantages de l'IA se propagent plus globalement, plus équitablement. Il y a cette inquiétude que les riches deviennent plus riches parce qu'ils sont dans le cercle intérieur. Le document 'Situational Awareness' mentionne qu'il n'y a que quelques centaines de personnes qui comprennent l'ampleur de ce changement et la vitesse à laquelle il se produit. Mais parlez des implications mondiales et de la façon dont nous garantissons l'équité dans un usage et une propagation plus larges des bénéfices. D'abord même au sein de ce pays, car il y a une asymétrie, et ensuite à l'échelle mondiale.

Je ne veux pas être négatif parce que je pense qu'il y a quelque chose d'important là-dedans. ChatGPT est maintenant le cinquième plus grand site web au monde. S'il reste sur sa trajectoire actuelle, il sera le plus grand site web au monde. Il y aura des milliards de personnes utilisant l'AGI gratuitement à un moment donné. Tout le monde aura accès à d'excellents conseils médicaux et à l'éducation. Tout le monde aura la capacité de demander que n'importe quel logiciel soit créé gratuitement. C'est ainsi que fonctionne la technologie. Le capitalisme est génial, mais nous devrons aborder certaines choses différemment. Dans l'ensemble, la façon dont cela profite au monde passe par la technologie. On met des outils entre les mains des gens, on les rend gratuits ou à bas coût, et les gens font des choses incroyables. Il y a des gens qui pensent que le monde n'est pas prêt pour cela ou ne peut pas le gérer, mais je pense que les gens savent vraiment ce dont ils ont besoin et sont doués pour apprendre à utiliser les nouvelles technologies. Cela se produit à une échelle de masse aujourd'hui. Si l'IA commence à faire des découvertes scientifiques massives, j'espère que ces gens deviendront vraiment riches, mais aussi que tous les autres dans le monde, j'espère qu'ils obtiendront un remède bon marché contre le cancer. La technologie, dans l'ensemble, fait beaucoup pour répandre un bénéfice mondial massif. Il y aura certaines choses qui seront différentes avec l'IA. Vous pouvez imaginer un monde où le calcul devient une ressource rare et décider démocratiquement quels problèmes nous poursuivons et dans quel ordre avec des quantités massives de calcul nécessite une approche différente. Ma réponse serait simplement de fabriquer beaucoup plus de puissance de calcul. Je pense que cela devrait être une force vers plus d'égalité dans le monde, pas vers une divergence accrue.

Par souci de temps, je vais poser trois questions sur la table. Vous pouvez répondre à n'importe laquelle d'entre elles ou à toutes.

D'accord.

Le rôle du gouvernement, ce que je prévois que l'IA causera, c'est une économie énormément déflationniste dans les années 2030, et le risque d'une IA sentiente. Choisissez ceux que vous voulez aborder, ou tous.

Et si je commençais par l'aspect déflationniste et que vous me disiez quand j'ai été trop long. Je pense que cela devrait être énorme, j'espère que ce sera déflationniste. Mais tout l'excès de richesse qui va être créé devra aller quelque part. Et j'espère que des choses comme l'eau, la nourriture, les soins de santé, l'éducation, l'accès à la nature et le temps passé en famille deviendront quelque chose que tout le monde peut s'offrir. Et ensuite, que nous trouvions tous les jeux de statut les plus ridicules auxquels jouer et que nous fassions monter les enchères pour des peintures de Léonard de Vinci à un billion de dollars pour faire en sorte que les gens qui veulent jouer à des jeux de statut, créer de la valeur pour les autres et avoir quelque chose pour se vanter puissent en gros le faire. Mais je pense que c'est une question intéressante de savoir où va aller l'excès de richesse. Je pense que ce est un problème de conception très intéressant.

Oui, no, ça l'est et je crois fermement au caractère déflationniste de l'économie et si c'est une bonne mesure du PIB, ce que je ne pense pas, la façon dont nous mesurons la croissance du PIB, je pense qu'elle explosera. Vous verrez donc ces deux choses se produire en même temps. Mais nous allons passer aux questions du public. Peut-on avoir un micro ici ?

Salut Sam. La plupart d'entre nous ici à ce sommet ont parlé de l'IA comme d'un facilitateur pour nos entreprises et je veux inverser la perspective un instant et la considérer comme une menace potentielle. Permettre à nos concurrents de construire des modèles concurrents, de meilleurs modèles, plus rapidement, en nivelant le terrain de jeu ou même en l'inclinant de manière pire que cela, en l'inclinant contre nous. Comment y réfléchiriez-vous ?

Je ne suis pas sûr de comprendre la différence. Je pense que cela va favoriser quelqu'un et désavantager quelqu'un d'autre et je pense que vous devez simplement travailler pour être du côté favorisé de cela. Ces deux affirmations sont vraies. Mais je ne sais pas trop comment agir différemment. Tous vos concurrents et les nouveaux vont essayer de vous surpasser avec l'IA et tout ce que vous pouvez faire, c'est faire un meilleur travail qu'eux.

Une autre version de cette question est : les fossés concurrentiels sont-ils même possibles dans un monde de super intelligence ?

Je ne sais pas. Oui, la réponse est bien sûr qu'ils le sont. Mais je ne sais pas à quoi ils ressembleront. Je pense que certains ressembleront à peu près à la même chose. Les effets de réseau et les marques, je peux imaginer ces choses rester à peu près les mêmes. Il y en a beaucoup d'autres dont je suis certain qu'ils n'existeront plus. Il y en a de nouveaux qui, je l'imagine, apparaîtront. C'est la partie amusante des affaires. C'est génial d'aller découvrir à quoi ressembleront ces nouveaux fossés.

Une question là-bas.

Salut Sam, salut Vinod. Chris Lee. Vous avez dit quelque chose d'assez intéressant en disant qu'il y aura un problème scientifique auquel on pourra consacrer 50 000 GPU. Je pense que la fusion intéresse bon nombre d'entre nous ici. En spéculant simplement, le monde physique ne peut pas se mettre à l'échelle aussi rapidement, mais quand appuieriez-vous sur l'interrupteur pour consacrer 50 000 GPU à un problème comme la fusion ?

Probablement dès maintenant. Je pense qu'il faut être un peu en avance car on commencera à apprendre les contours de tout cela. Je pense que ce bon moment pour lancer de grands projets scientifiques à forte puissance de calcul. Je ne sais pas si c'est précisément celui par lequel commencer, mais dans l'idée, oui.

Bonjour, comme pour la fusion du côté de l'énergie, que pensez-vous de l'infrastructure énergétique dans un monde d'IA ? J'étais à une conférence en Suisse en janvier et j'ai entendu Eric Schmidt parler et il disait que l'Europe ne serait jamais grande dans l'IA à cause du coût élevé de l'énergie, qu'il fallait toute cette puissance de calcul. Et puis DeepSeek est sorti et c'était beaucoup plus efficace. Voyez-vous un changement dans votre hypothèse concernant la direction que vous pourriez prendre alors que vous développez ces centres de données pour répondre aux besoins énergétiques de vos technologies ?

Je pense que les deux affirmations sont vraies. Je pense que les modèles deviendront énormément plus efficaces. Et aussi, il y a tellement de demande dans le monde que nous aurons besoin de nombreux gigawatts, des dizaines de gigawatts, éventuellement probablement des centaines de gigawatts d'énergie pour répondre à la demande mondiale d'IA, même avec des modèles super efficaces. Mais je suis très optimiste quant à l'arrivée de nouvelles sources d'énergie et je pense qu'elle sera abondante et bon marché. Je pense que l'IA et l'énergie sont évidemment des choses extrêmement liées. Tout le reste devrait devenir vraiment bon marché. Par exemple, nous pouvons robotiser la fabrication de puces, mais il faut toujours acheminer les électrons.

Une question ici, et peut-on avoir un micro là-bas aussi.

Merci Sam, merci Vinod. Je veux revenir à la troisième question de Vinod, quel est le rôle du gouvernement ?

Sur cette question de l'infrastructure de l'IA, je pense qu'il est important pour les gouvernements de s'assurer que nous pouvons construire suffisamment d'IA pour qu'elle soit abondante et non quelque chose dont toute la disponibilité est accaparée par les gens riches. Il faudra des garde-fous ici. Une surréglementation pourrait être un désastre, mais une sous-réglementation pourrait être tout aussi mauvaise à sa manière. Donc, l'établissement de règles mondiales, surtout à mesure que les systèmes deviennent beaucoup plus puissants, ne peut venir que d'un gouvernement. Les entreprises les proposeront et comprendront ce qu'elles devraient être, mais elles ne peuvent être appliquées mondialement que par les gouvernements. Je pense qu'il y aura des questions sur la manière dont la distribution et l'accès sont partagés. Il y aura de grandes questions sur la façon dont nous envisageons les données dans ce monde sur lesquelles les gouvernements devront se prononcer. Je m'attendrais à ce que ce soit, d'ici l'élection américaine de 2028, l'un des sujets politiques majeurs.

Une question là-bas.

Salut Sam. Deux questions donc. Une sur la bande passante de l'interface. Il semble qu'à mesure que de plus en plus d'agents deviennent de plus en plus puissants pour faire différentes choses, je voudrais probablement en arriver à un point où je peux parler à des milliers d'agents à la fois. Le problème est que si je change d'interface sans arrêt et que j'attends qu'ils reviennent avec des rapports, je ne fais probablement rien d'autre que de gérer des agents faisant une chose ou une autre. Cependant, l'autre problème est que je ne peux pas les laisser en autonomie totale car ils vont faire les choses différemment de mon intention exacte. Cette compréhension devient claire même lorsqu'on leur fait écrire un PRD où il est évident qu'il ne saisit pas tout ce que je veux et qu'il y a beaucoup d'édition impliquée. C'est donc la bande passante qui cause un problème de mise à l'échelle du nombre d'agents que je peux gérer. Alors, qu'en pensez-vous ? Quelles sont les prochaines étapes ?

Il y aura un agent dont le travail sera d'évaluer les résultats des autres agents et de décider quoi vous présenter, quand, et quand il peut prendre une décision ou comprendre la décision que vous prendriez. Ce sera donc un autre type de travail pour un type d'agent différent et je parie qu'il sera assez efficace. Il y aura probablement une interface utilisateur générée sur mesure pour vous qui évoluera en temps réel en fonction des résultats de ces agents et elle fera un bon travail pour savoir comment attirer votre attention au bon moment. Je pense que beaucoup de problèmes d'aujourd'hui ne seront pas des problèmes de demain parce que l'IA devient de plus en plus intelligente et peut travailler à des niveaux de plus en plus élevés de la fonction exécutive là-bas.

Y avait-il une autre question là ? Oui.

Salut Sam, Micha de Somite AI. Tout d'abord félicitations pour avoir fait monter Fidji Simo à bord. Elle est l'une de nos conseillères et l'une des leaders les plus incroyables que je connaisse. Chez Somite, nous construisons des modèles de fondation pour la différenciation des cellules souches, des cellules souches humaines, afin de proposer de nouveaux remèdes, de nouvelles thérapies de remplacement cellulaire, avec une nouvelle modalité de données. Et ma question pour vous est la suivante : quand vous pensez aux percées qui arrivent dans le monde physique, dans la biologie et ainsi de suite, où se situe le goulot d'étranglement ? Viendra-t-il des modèles génériques ? Viendra-t-il de modèles spécifiques à un domaine ? Viendra-t-il des données elles-mêmes ? Où voyez-vous les percées ou la toute première percée en biologie pour apporter de nouveaux remèdes ?

Évidemment, je ne sais pas vraiment. Il y a certains domaines scientifiques où, sans données supplémentaires, une intelligence plus fine peut simplement réaliser de nouvelles percées. Je pense qu'il est possible en physique, par exemple, que sans un seul point de données supplémentaire, sans jamais construire un autre accélérateur de particules, l'IA puisse simplement résoudre la physique. Peut-être que toutes les données dont nous avons besoin sont là et que nous n'avons simplement pas eu la capacité de résoudre une intégrale assez difficile. Et puis il y a des domaines comme la biologie où je dirais que cela me semble bien moins probable que sans jamais mener une seule expérience supplémentaire en laboratoire humide (wet lab), nous puissions guérir tous les cancers. Pas impossible, mais improbable. Et je pense que nous devrons construire de nouveaux systèmes qui sont des laboratoires humides automatisés. Ce n'est pas grave s'il se contente d'envoyer un e-mail à un scientifique disant : 'pouvez-vous faire cette expérience pour moi et me donner la réponse'. Mais en quelque sorte des systèmes d'apprentissage actif qui peuvent continuer à obtenir de nouveaux points de données. Mais quel problème entrera dans quelle catégorie et où seront exactement les limites, nous adopterons une approche empirique pour cela.

Eh bien merci Sam. Je pense que nous allons nous arrêter là.

Merci de m'avoir invité.

Oui, merci beaucoup d'être venu.