Le fait que nous revendiquions nous-mêmes une étape importante de l'AGI, c'est juste du bidouillage de benchmarks sans queue ni tête. Le véritable benchmark, c'est le monde qui croît à 10 %.

Être très doué pour comprendre ce que sont les marchés où le gagnant emporte tout et ce qui ne le sont pas, c'est, dans un certain sens, l'essentiel.

Si cette chose est vraiment aussi puissante que les gens le prétendent, l'État ne va pas rester là à attendre les entreprises privées.

Nous aimons l'analogie consistant à considérer cela comme le « moment transistor » de l'informatique quantique. Peut-être utiliserez-vous le quantique pour générer des données synthétiques qui seront ensuite utilisées par l'IA pour entraîner de meilleurs modèles.

Si l'intelligence est le log du calcul, celui qui peut faire beaucoup de calculs est un grand gagnant.

Satya, merci beaucoup d'être venu sur le podcast. Dans une seconde, nous allons aborder les deux grandes percées que Microsoft vient de réaliser et félicitations, le même jour dans Nature, la puce Majorana 1 que nous avons devant nous juste ici et aussi les modèles d'action humaine mondiaux. Mais pouvons-nous simplement poursuivre la conversation que nous avions il y a une seconde ? Vous décriviez les manières dont les choses que vous voyiez dans les années 80 et 90 sont en train de se reproduire.

Oui, je veux dire que ce qui est excitant pour moi, Dwarkesh, tout d'abord, c'est fantastique d'être sur votre podcast. Je suis un grand auditeur et c'est juste amusant d'être là, j'adore la façon dont vous menez ces entretiens et les vastes sujets que vous explorez. Cela me rappelle un peu mes premières années, même dans l'industrie technologique au début des années 90, où il y avait un vrai débat pour savoir si ce serait RISC ou CISC ou, hé, allons-nous vraiment pouvoir construire des serveurs en utilisant même le x86. Quand j'ai rejoint Microsoft, c'était au début de ce qui était Windows NT. Donc tout, de la plateforme silicium de base au système d'exploitation jusqu'à la couche application, cette approche complète de la pile est en train d'être débattue et je pense que l'on pourrait dire que le cloud a fait une partie de cela et évidemment l'informatique distribuée et le cloud ont changé le client-serveur, le web a changé massivement, mais cela ressemble un peu plus à quelque chose de plus complet que même par le passé, du moins celui dans lequel j'ai été impliqué.

Quand vous pensez aux décisions qui ont fini par être les gagnantes à long terme dans les années 80 et 90 et à celles qui ne l'ont pas été, et surtout quand vous pensez au fait que vous étiez chez Sun Microsystems, ils ont eu une expérience intéressante avec la bulle Internet des années 90. Les gens parlent du déploiement de ces centres de données comme d'une bulle, mais en même temps, nous avons l'Internet aujourd'hui grâce à ce qui a été construit à l'époque. Quelles sont les leçons sur ce qui résistera à l'épreuve du temps, ce qui est une tendance séculaire inhérente, ce qui est juste éphémère ? Qu'est-ce qui ressort ?

Oui, c'est en fait intéressant. Je veux dire, je pense que si je reviens même sur au moins les quatre grandes transformations dont j'ai fait partie, si vous parlez du client et du client-serveur, c'est la naissance de l'interface graphique utilisateur et de l'architecture x86 nous permettant même fondamentalement de construire des serveurs. C'était très clair pour moi, je me souviens être allé à ce qui était la PDC en 91, en fait j'étais chez Sun à ce moment-là, et en 91 je suis allé au Moscone, c'est à ce moment-là que Microsoft a décrit pour la première fois une interface Win32 et je me suis dit qu'il était assez clair pour moi ce qui allait se passer, à savoir que le serveur allait aussi devenir un truc x86. Ainsi, lorsque vous avez des avantages d'échelle qui s'accumulent pour quelque chose, c'est le pari séculaire que vous devez faire. Ce qui s'est passé au niveau du client allait se passer du côté du serveur et vous avez ensuite pu construire des applications client-serveur, donc le modèle d'application et c'est devenu clair. Ensuite, le web a été la grande chose pour nous, à laquelle nous avons dû faire face en fait dès mon arrivée chez Microsoft. Je pense que le navigateur, le navigateur Netscape ou le navigateur Mosaic est sorti en décembre, novembre 93, je pense que c'est le moment où Andreessen et son équipe ont eu ça et donc c'était un grand changement. D'une manière intéressante, juste au moment où nous commencions la vague client-serveur et qu'il était clair que nous allions la gagner aussi, nous avons eu le moment du navigateur et nous avons donc dû nous adapter et nous avons fait un assez bon travail d'adaptation. Parce que le navigateur était un nouveau modèle d'application et nous avons pu l'adopter dans tout ce que nous faisions, que ce soit le HTML dans Word ou construire nous-mêmes une nouvelle chose appelée navigateur et rivaliser pour cela, puis construire un serveur web sur notre pile de serveurs et s'y attaquer. Sauf que bien sûr, nous avons raté ce qui s'est avéré être le plus grand modèle économique sur le web parce que nous supposions tous que le web consistait à être distribué, qui aurait pensé que la recherche serait le plus grand gagnant dans l'organisation du web ? Et c'est là que nous ne l'avons évidemment pas vu et que Google l'a vu et a super bien exécuté. C'est donc une sorte de leçon apprise pour moi : vous devez non seulement bien saisir la tendance technologique, mais vous devez aussi comprendre où la valeur va être créée avec cette tendance et ces changements de modèle économique sont probablement plus difficiles que même les changements de tendance technologique.

Où la valeur va-t-elle être créée dans l'IA ?

C'est une excellente question. Je pense qu'au moins dans ma vision actuelle, il y a deux endroits où je peux le dire avec une certaine confiance. L'un est que les hyperscalers réussiront. Parce que la chose fondamentale est que si vous revenez à la façon dont Sam et d'autres les décrivent, si l'intelligence est le log du calcul, celui qui peut faire beaucoup de calculs est un grand gagnant. Et l'autre chose intéressante est que si vous regardez sous n'importe quelle charge de travail d'IA, comme ChatGPT, ce n'est pas comme si tout le monde était excité par ce qui se passe du côté GPU, c'est génial, mais en fait je considère ma flotte comme un ratio entre l'accélérateur d'IA, le stockage et le calcul. Et à grande échelle, il faut le faire croître. Et donc ce besoin d'infrastructure pour le monde va juste croître de manière exponentielle. En fait, c'est une manne tombée du ciel d'avoir ces charges de travail d'IA car elles sont plus gourmandes en calcul. Pas seulement pour l'entraînement mais nous savons maintenant pour le temps de test. Le temps de test, voici une chose intéressante, quand on pense à un agent d'IA, il s'avère que l'agent d'IA va augmenter de manière exponentielle l'utilisation du calcul parce que vous n'êtes plus seulement lié par un seul humain invoquant un programme, c'est un humain invoquant des programmes qui invoquent beaucoup plus d'autres programmes et cela va donc créer une demande massive et une échelle pour l'infrastructure de calcul. Donc notre activité d'hyperscale, l'activité Azure, et les autres hyperscalers, je pense que c'est une chose importante. Ensuite, après cela, cela devient un peu flou. Parce qu'on pourrait dire qu'il y a un modèle où le gagnant emporte tout. Je ne le vois tout simplement pas parce qu'être très doué pour comprendre ce que sont les marchés où le gagnant emporte tout et ce qui ne le sont pas, c'est dans un certain sens tout l'enjeu. Je me souviens même aux premiers jours quand je me lançais dans Azure, Amazon avait une avance très importante et les gens venaient me voir en disant que c'est fini, que vous n'y arriverez jamais, qu'Amazon emporte tout. Et ayant rivalisé contre Oracle et IBM dans le client-serveur, je savais que les acheteurs ne toléreraient pas que le gagnant emporte tout. Je pense que structurellement l'hyperscale ne sera jamais un marché où le gagnant emporte tout parce que les acheteurs sont intelligents. Les marchés de consommation peuvent parfois être du type 'gagnant emporte tout', mais tout ce qui concerne l'acheteur en tant que corporation, entreprise ou département informatique, ils voudront plusieurs fournisseurs. Et vous devez donc être l'un des multiples fournisseurs. C'est donc je pense ce qui se passera même du côté du modèle. Il y aura de l'open source, il y aura un régulateur, tout comme sur Windows. L'une des grandes leçons apprises pour moi a été que si vous avez un système d'exploitation à source fermée, il y aura un complément qui sera en open source. Et donc, dans une certaine mesure, c'est un véritable frein à ce qui se passe. Et donc je pense que dans les modèles, il y a une dimension où peut-être il y en aura quelques-uns à source fermée, il y aura certainement une alternative en open source et l'alternative en open source s'assurera en fait que le gagnant emporte tout de la source fermée soit atténué. C'est un peu mon sentiment du côté du modèle. Et d'ailleurs, ne négligeons pas que si cette chose est vraiment aussi puissante que les gens le prétendent, l'État ne va pas rester là à attendre que des entreprises privées fassent le tour du monde. Je ne vois donc pas cela comme un marché où le gagnant emporte tout. Puis au-dessus de cela, je pense que ce sera les mêmes vieilles choses, à savoir que dans la consommation dans certaines catégories, il peut y avoir un effet de réseau où le gagnant emporte tout. Après tout, ChatGPT est un excellent exemple. C'est une propriété de consommation à grande échelle qui a déjà une réelle vitesse de libération. Je vais sur l'App Store et je vois qu'il est toujours dans le top cinq et je me dis waouh, c'est assez incroyable. Ils ont donc pu utiliser cet avantage précoce pour le transformer en un avantage applicatif. Dans la consommation, cela pourrait arriver, dans l'entreprise à nouveau je pense qu'il y aura par catégorie différents gagnants. C'est un peu comme ça que je l'analyse.

J'ai tellement de questions de suivi. Nous devons passer au quantique dans une seconde. Mais sur l'idée que peut-être les modèles se banalisent, écoutez je peut-être que quelqu'un aurait pu faire un argument similaire il y a quelques décennies sur le cloud, à savoir que fondamentalement c'est juste comme une puce et une boîte. Mais au final, bien sûr, vous et beaucoup d'autres avez compris que vous avez des marges bénéficiaires incroyables dans le cloud et vous avez trouvé des moyens d'obtenir des économies d'échelle et d'ajouter d'autres valeurs ajoutées. Et fondamentalement, même en oubliant le jargon, si vous avez l'AGI et qu'elle vous aide à créer de meilleures IA, pour l'instant ce sont des données synthétiques et de l'apprentissage par renforcement (RL), peut-être qu'à l'avenir ce sera un chercheur en IA automatisé, cela semble être un bon moyen de consolider votre avantage là-bas. Je suis curieux de savoir ce que vous en pensez, juste l'idée que cela compte vraiment de savoir qui est en tête là-bas.

D'ailleurs, à grande échelle, rien n'est une commodité. Donc, pour votre point sur le cloud, tout le monde dirait que le cloud est une commodité, sauf quand on passe à l'échelle, c'est pourquoi le savoir-faire nécessaire pour gérer un hyperscaler, comme on pourrait dire je peux juste racker et empiler des serveurs. En fait, aux débuts de l'hyperscale, la plupart des gens pensaient qu'il y avait tous ces hébergeurs et que ce n'étaient pas de bonnes affaires, y aura-t-il même un marché dans l'hyperscale ? Et il s'avère qu'il y a un vrai marché juste parce que le savoir-faire pour faire fonctionner l'informatique mondiale sur plus de 60 régions dans le cas d'Azure est juste une chose difficile à reproduire. Le point que je soulignais était : est-ce un seul gagnant, ou est-ce que le gagnant emporte tout ? Parce qu'il faut bien comprendre cela car j'aime entrer dans des catégories qui sont de grands marchés totaux adressables (TAM) où vous n'avez même pas le risque que tout soit du type 'gagnant emporte tout'. Si vous gérez, la meilleure nouvelle est d'être dans un grand marché qui peut accommoder quelques gagnants et vous en êtes l'un d'entre eux. C'est ce que je voulais dire par les hyperscalers. Dans la couche de modèle, les modèles ont finalement besoin de s'exécuter sur du calcul hyperscale. Ce lien va être là pour toujours parce que ce n'est pas seulement le modèle, mais le modèle a besoin d'état, ce qui signifie qu'il a besoin de stockage et il a besoin de calcul pour faire fonctionner ces agents dans les environnements d'agents. Et c'est ainsi que je pense à la raison pour laquelle la limite d'une seule personne s'échappant avec un seul modèle et construisant tout peut ne pas se produire.

Du côté de l'hyperscaler, il est également intéressant de voir l'avantage que vous auriez en tant qu'hyperscaler au sens où, surtout avec la mise à l'échelle du temps d'inférence et si cela est impliqué dans l'entraînement de futurs modèles, vous pouvez amortir vos centres de données et vos GPU non seulement pour l'entraînement mais ensuite les réutiliser pour l'inférence. Je suis curieux de savoir quel genre d'hyperscaler vous considérez Microsoft et Azure. Est-ce du côté du pré-entraînement, est-ce en fournissant l'inférence de type O3, ou allez-vous simplement héberger et déployer n'importe quel modèle unique qui existe sur le marché et nous sommes en quelque sorte agnostiques à ce sujet ?

C'est un bon point. La façon dont nous avons construit la flotte est en quelque sorte de suivre la loi de Moore. Comme ce que nous avons fait avec tout le reste dans le passé, on continue en quelque sorte chaque année à rafraîchir la flotte, vous l'amortissez sur la valeur à vie de ces choses et vous devenez ensuite très bon dans le placement de la flotte de telle sorte que vous pouvez y exécuter différents travaux avec une utilisation élevée. Parfois, ce sont de gros travaux d'entraînement qui ont besoin d'avoir des pics de FLOPS hautement concentrés qui doivent également être cohérents, nous devrions donc avoir une empreinte de centre de données suffisante pour pouvoir offrir cela. Mais en fin de compte, tout cela devient si grand que même l'échelle du pré-entraînement doit à un moment donné franchir les limites des centres de données. Une fois que vous commencez à franchir les limites des centres de données pour le pré-entraînement, est-ce si différent de tout le reste ? Ma façon de penser est que l'informatique distribuée restera distribuée, donc construisez votre flotte de telle sorte qu'elle soit prête pour de gros travaux d'entraînement, prête pour le calcul au moment du test, prête en fait si cette chose du RL arrive, vous construisez un grand modèle et après cela, il y a énormément de RL qui se passe. Le temps de test, ce sont plus de FLOPS d'entraînement parce que vous allez créer ces modèles distillés hautement spécialisés pour différentes tâches. Donc vous voulez cette flotte et ensuite les besoins de service. En fin de compte, la vitesse de la lumière est la vitesse de la lumière, vous ne pouvez donc pas avoir un seul centre de données au Texas et servir le monde entier à partir de là. Vous devez servir le monde en ayant une flotte d'inférence partout. C'est ainsi que je conçois notre véritable flotte hyperscale et je veux que mon stockage et mon calcul soient proches de toutes ces choses car ce ne sont pas seulement les accélérateurs d'IA qui sont sans état. J'ai besoin de pouvoir avoir mes données d'entraînement elles-mêmes en stockage, puis je veux pouvoir multiplexer plusieurs travaux d'entraînement, je veux pouvoir avoir de la mémoire, je veux pouvoir avoir ces environnements dans lesquels ces agents peuvent aller exécuter des programmes.

Vous avez récemment rapporté que votre chiffre d'affaires annuel provenant de l'IA est de 13 milliards de dollars. Mais si vous regardez votre croissance d'une année sur l'autre, dans quatre ans, ce sera 10 fois plus, vous aurez 130 milliards de dollars de revenus provenant de l'IA si la tendance se poursuit. Si c'est le cas, qu'anticipez-vous que nous ferons de toute cette intelligence ? Sera-ce via Office, sera-ce vous le déployant pour que d'autres l'hébergent, faudra-t-il avoir l'AGI pour avoir 130 milliards de dollars de revenus ? À quoi cela ressemble-t-il ?

La façon dont j'aborde les choses, Dwarkesh, c'est une excellente question parce que si nous allons avoir cette explosion d'intelligence disponible, la première chose que nous devons observer est la croissance du PIB. Il n'y a qu'un seul régulateur dans tout cela, qui est le moment où nous nous emballons avec ce battage médiatique sur l'AGI. Voyons d'abord si la croissance du monde développé, qui est d'environ 2 % et si vous ajustez l'inflation elle est nulle, change. En 2025, au moins je regarde cela et je me dis que nous avons un véritable défi de croissance. La première chose que nous devons tous faire est que lorsque nous disons que c'est comme la révolution industrielle, ayons ce type de croissance de révolution industrielle. Cela signifie pour moi un monde développé croissant de 5 % après ajustement pour l'inflation, c'est le vrai marqueur. Cela ne peut pas être seulement du côté de l'offre. Je pense que beaucoup de gens écrivent à ce sujet, et je suis complet qu'ils le fassent, les grands gagnants ici ne seront pas les entreprises technologiques. Les gagnants seront l'industrie au sens large qui utilise cette ressource qui est abondante. Et soudainement, la productivité augmente et l'économie croît à un rythme plus rapide. Quand cela arrivera, nous irons bien en tant qu'industrie, mais c'est le moment clé. Donc, le fait que nous nous auto-attribuions une étape importante de l'AGI n'est pour moi qu'un bidouillage de benchmarks sans queue ni tête. Le véritable benchmark, c'est le monde qui croît à 10 %.

D'accord, donc si l'économie mondiale est de 100 billions et qu'elle croît de 10 %, cela représente environ 10 billions supplémentaires de valeur produite chaque année. Si c'est le cas, en tant qu'hyperscaler, 80 milliards semblent être beaucoup d'argent, mais ne devriez-vous pas en faire 800 milliards si vous pensez vraiment que dans quelques années nous pourrions faire croître l'économie mondiale à ce rythme et que le goulot d'étranglement clé serait de savoir si vous avez le calcul nécessaire pour déployer ces IA pour faire tout ce travail ?

C'est exact. Mais le côté classique de l'offre est 'construisez-le et ils viendront'. Nous avons pris assez de risques pour le faire, mais à un moment donné, l'offre et la demande doivent correspondre. C'est pourquoi je surveille les deux côtés. Vous pouvez complètement dérailler lorsque vous vous auto-exaltez avec le côté de l'offre par rapport à la compréhension réelle de la façon de traduire cela en valeur réelle pour les clients. Sauf si, et c'est pourquoi je regarde mes revenus d'inférence. Pour moi, c'est important comme régulateur de la façon dont on y pense. On ne va pas dire qu'ils doivent se rencontrer symétriquement à n'importe quel moment donné, mais vous avez besoin d'une preuve d'existence que vous êtes capable de transformer le capital d'hier en la demande d'aujourd'hui afin de pouvoir ensuite investir à nouveau, peut-être même de manière exponentielle, sachant que vous n'allez pas être complètement décalé en termes de rythme.

Je me demande s'il n'y a pas une contradiction dans ces deux points de vue différents car l'une des choses que vous avez merveilleusement faites est de prendre ces paris précoces. Vous avez investi dans OpenAI en 2019 avant même qu'il y ait Copilot. Si vous regardez la révolution industrielle, ces déploiements de chemins de fer, beaucoup d'entre eux ne se disaient pas 'nous avons des revenus provenant des billets et maintenant nous allons construire'. Il y a eu beaucoup d'argent perdu. Si vous pensez vraiment qu'il y a un potentiel ici pour multiplier par 5 le taux de croissance du monde et qu'ensuite vous vous demandez quel est le revenu de GPT-4... Je veux dire, si vous pensez vraiment que c'est la possibilité du niveau supérieur, ne devriez-vous pas simplement devenir fou et faire des centaines de milliards de dollars de calcul ? Il y a une chance que vous obteniez cela.

C'est logique. La vraie question à laquelle il faut répondre est de savoir si cela consiste uniquement à construire du calcul ou à construire du calcul qui peut réellement m'aider non seulement à entraîner le prochain grand modèle mais aussi à le servir. Tant que vous ne faites pas ces deux choses, vous ne pourrez pas profiter de votre investissement. Ce n'est pas une course pour simplement construire un modèle, c'est une course pour créer une ressource qui soit utilisée dans le monde pour générer de la valeur, vous devez donc avoir une pensée complète. L'une des choses est qu'il y aura une surconstruction. Pour en revenir à l'ère du dot-com, maintenant le message est passé qu'il faut plus d'énergie et plus de calcul. Tout le monde va faire la course. Ce ne sont pas seulement les entreprises qui déploient, les pays vont déployer du capital. Je suis ravi de louer beaucoup de capacité en 2027 ou 2028 parce que la seule chose qui va se passer avec toutes les constructions de calcul, c'est que les prix vont baisser.

En parlant de baisse des prix, vous avez récemment tweeté après la sortie du modèle DeepSeek à propos du paradoxe de Jevons. Le paradoxe de Jevons se produit lorsque la demande pour quelque chose est hautement élastique. L' intelligence est-elle à ce point bloquée par la baisse des prix ? Parce que quand je pense à mes cas d'utilisation en tant que consommateur, l'intelligence est déjà si bon marché, c'est environ 2 cents par million de jetons. Ai-je vraiment besoin que cela descende à 0,02 cent ? Je suis juste bloqué par le fait qu'elle devienne plus intelligente et si vous devez me facturer 100 fois plus pour faire un entraînement 100 fois plus grand, je suis heureux que les entreprises fassent cela, mais peut-être voyez-vous quelque chose de différent du côté de l'entreprise. Quel est le cas d'utilisation clé de l'intelligence qui nécessite vraiment d'arriver à 0,002 cent par million de jetons ?

Je pense que la chose réelle est l'utilité des jetons. Les deux doivent se produire. L'intelligence doit devenir meilleure et moins chère. Chaque fois qu'il y a une percée comme ce que DeepSeek a fait, la frontière d'efficacité de la performance par jeton change et la courbe s'infléchit. Cela apporte simplement plus de demande. C'est exactement ce qui s'est passé avec le cloud. Nous pensions avoir vendu tous les serveurs à l'ère du client-serveur, sauf qu'une fois que nous avons commencé à mettre des serveurs dans le cloud, soudainement les gens ont commencé à consommer davantage parce qu'on pouvait l'acheter moins cher, que c'était élastique et qu'ils pouvaient l'acheter au compteur plutôt que sous licence. Si vous voulez avoir des jetons disponibles pour les soins de santé qui soient vraiment bon marché dans le sud global, ce sera le plus grand changement jamais vu.

Un mot rapide de nos sponsors Scale AI. Les données accessibles au public s'épuisent. C'est pourquoi de grands laboratoires comme Meta, Google DeepMind et OpenAI s'associent tous à Scale pour repousser les limites du possible. Grâce à la Data Foundry de Scale, les grands laboratoires ont accès à des données de haute qualité pour alimenter le post-entraînement, y compris des capacités de raisonnement avancées. Alors que l'IA progresse à toute allure, nous devons également renforcer la souveraineté humaine. L'équipe de recherche de Scale, SEAL, fournit des cadres pratiques de sécurité de l'IA, évalue la sécurité des systèmes d'IA de pointe via des classements publics et crée les bases pour intégrer l'IA avancée dans la société. Plus récemment, en collaboration avec le Center for AI Safety, Scale a publié Humanity's Last Exam, un nouveau benchmark d'IA révolutionnaire pour évaluer les connaissances de niveau expert et le raisonnement des systèmes d'IA dans un large éventail de domaines. Si vous êtes chercheur ou ingénieur en IA et que vous souhaitez en savoir plus sur la manière dont la Data Foundry et l'équipe de recherche de Scale peuvent vous aider à aller au-delà de la frontière actuelle des capacités, rendez-vous sur scale.com/dwarkesh.

Je pense qu'il est raisonnable pour quelqu'un d'entendre des gens comme moi à San Francisco et de penser que nous sommes ridicules parce que nous ne savons pas ce que c'est que de déployer des choses dans le monde réel. En tant que personne qui travaille avec des entreprises du Fortune 500 pour déployer des choses pour des milliards de personnes, quel est votre sentiment sur la rapidité avec laquelle le déploiement de ces capacités se fera ? Même quand vous aurez des agents fonctionnels, avec toute la conformité et les goulots d'étranglement inhérents, cela sera-t-il un gros obstacle ou cela passera-t-il assez vite ?

Cela va être un véritable défi. Le vrai problème est la gestion du changement ou le changement de processus. L'une des analogies que j'utilise est d'imaginer comment une multinationale faisait des prévisions avant le PC, l'e-mail et les tableurs. Des fax circulaient, quelqu'un récupérait ces fax, puis faisait une note de service interne, et finalement une prévision arrivait peut-être juste à temps pour le trimestre suivant. Puis quelqu'un a dit : 'je vais juste prendre une feuille Excel, la mettre dans un e-mail, l'envoyer partout et j'aurai une prévision'. Tout le processus métier de prévision a changé parce que l'artefact de travail et le flux de travail ont changé. C'est ce qui doit se passer avec l'introduction de l'IA dans le travail de la connaissance. Quand nous pensons à tous ces agents, la chose fondamentale est qu'il y a un nouveau travail et un nouveau flux de travail. Par exemple, en me préparant pour notre podcast, je vais sur mon Copilot et je lui dis : 'je vais parler à Dwarkesh de notre annonce quantique et de ce nouveau modèle que nous avons construit pour la génération de jeux et donne-moi un résumé de tout ce que je devrais lire avant d'y aller'. Il a pris les deux articles de Nature et il a même fait un bon travail en simulant une discussion entre nous deux sous forme de podcast. Ensuite, je l'ai partagé avec mon équipe, je l'ai pris et je l'ai mis dans Pages, qui est notre artefact, puis je l'ai partagé. Donc, le nouveau flux de travail pour moi est de réfléchir avec l'IA et de travailler avec mes collègues. C'est un changement fondamental de gestion de tous ceux qui font du travail intellectuel et qui découvrent soudainement ces nouveaux modèles. Cela va prendre du temps dans la vente, dans la finance et dans la chaîne d'approvisionnement. Pour un acteur historique, cela va être comme ce que les fabricants ont fait avec le lean. Le lean est devenu une méthodologie sur la façon dont on peut prendre un processus de bout en bout dans la fabrication et devenir plus efficace. C'est ce qui va arriver au travail de la connaissance. C'est comme le lean pour le travail intellectuel et cela va être le travail difficile des équipes de direction et des individus, et cela prendra du temps.

Puis-je vous poser une question brève sur cette analogie ? L'une des choses que le lean a faites a été de transformer physiquement l'apparence d'une usine. Cela a révélé des goulots d'étranglement que les gens ne réalisaient pas avant de prêter réellement attention aux processus et aux flux de travail. Vous avez mentionné comment votre propre flux de travail a changé grâce aux IA. Je suis curieux de savoir si nous pouvons donner plus de couleurs à ce que sera la gestion d'une grande entreprise quand on aura ces agents d'IA qui deviennent de plus en plus intelligents avec le temps.

En fait, j'y pensais même. Aujourd'hui, nous sommes très dépendants des e-mails, donc j'arrive le matin et ma boîte de réception est pleine. J'ai hâte que certains de ces agents Copilot remplissent automatiquement mes brouillons afin que je puisse commencer à les réviser et à les envoyer. J'ai déjà l'impression d'avoir au moins 10 agents dans Copilot car je les interroge comme des choses différentes pour des tâches différentes. J'ai l'impression qu'une nouvelle boîte de réception va être créée où mes millions d'agents devront invoquer des exceptions pour moi, demander des instructions. Je pense qu'il y a une nouvelle structure qui est le gestionnaire d'agents qui n'est pas seulement une interface de chat. J'ai besoin d'une chose plus intelligente qu'une interface de chat pour gérer tous les agents et leur dialogue. C'est pourquoi je considère ce Copilot comme l'interface utilisateur (UI) pour l'IA comme une chose majeure. En gros, pensez qu'il y a le travail intellectuel et qu'il y a le travailleur du savoir. Le travail intellectuel peut être effectué par de nombreux agents, mais vous avez toujours le travailleur du savoir qui traite avec chacun d'eux et c'est cette interface qu'il faut construire.

Vous êtes l'une des rares personnes au monde à pouvoir dire que vous avez accès à cet essaim d'intelligence autour de vous sous la forme de l'entreprise Microsoft et de tous ses employés. Vous devez gérer cela et comment en faire le meilleur usage. J'espère qu'une plus grande partie du monde pourra vivre cette expérience à l'avenir. Je serais curieux de savoir si cela signifie que la boîte de réception de tout le monde ressemblera à la vôtre le matin. Avant d'en arriver là, je veux vous interroger sur la grande percée en quantique que les chercheurs de Microsoft ont annoncée. Pouvez-vous expliquer ce qui se passe ici ?

C'est un autre voyage de 30 ans pour nous. C'est incroyable que je sois le troisième PDG de Microsoft à être enthousiasmé par le quantique. Je pense que la percée fondamentale ici est la vision que nous avons toujours eue, à savoir qu'il faut une percée en physique pour construire un ordinateur quantique à l'échelle de l'utilité. Nous avons pris le chemin de dire écoutez, la seule façon d'avoir ce qubit moins bruyant ou plus fiable est de parier sur une propriété physique qui, par définition, est plus fiable et c'est ce qui nous a conduits à ces modes zéro de Majorana qui ont été théorisés dans les années 1930. La question était donc de savoir si nous pouvions réellement fabriquer physiquement ces choses. La grande percée, effectivement, et je sais que vous avez parlé à Chetan, est que nous avons enfin une preuve d'existence et une percée physique des modes zéro de Majorana dans une nouvelle phase de la matière. C'est pourquoi nous aimons l'analogie consistant à considérer cela comme le moment transistor de l'informatique quantique où nous avons effectivement une nouvelle phase topologique où nous pouvons maintenant cacher de manière fiable l'information quantique et la mesurer et nous pouvons la fabriquer. Maintenant que nous l'avons, nous sentons que nous pouvons commencer à construire une puce Majorana, cette Majorana 1 qui, je pense, sera la première puce capable d'un million de qubits physiques et de milliers de qubits logiques avec correction d'erreurs. Alors vous avez soudainement la possibilité de construire un véritable ordinateur quantique à l'échelle de l'utilité et cela me semble maintenant tellement plus faisable. Sans quelque chose comme cela, vous pourrez toujours atteindre des étapes importantes mais vous ne pourrez jamais construire un ordinateur à l'échelle de l'utilité, c'est pourquoi nous sommes excités.

Incroyable. Et d'ailleurs, je crois que c'est ça juste ici.

C'est bien cela, Majorana 1. Penser au fait que nous sommes capables de construire quelque chose comme un ordinateur quantique d'un million de qubits dans un objet de cette taille est tout simplement incroyable. Tant qu'on n'est pas capable de faire cela, on ne peut pas rêver de construire un ordinateur quantique à l'échelle de l'utilité.

Et vous dites que l'éventuel million de qubits tiendra sur une puce de cette taille. Incroyable. D'autres entreprises ont annoncé 100 qubits physiques, Google, IBM, d'autres. Vous en avez annoncé un mais vous dites que le vôtre est bien plus évolutif à terme.

Nous avons adopté une approche où nous avons séparé nos logiciels et notre matériel. Nous construisons notre pile logicielle avec les gens de l'atome neutre, avec les gens du piège à ions, nous travaillons également avec d'autres qui ont d'assez bonnes approches même avec la photonique. Cela signifie qu'il y aura différents types d'ordinateurs quantiques et la dernière chose que nous avons annoncée était 24 qubits logiques. Nous avons également réalisé des percées sur la correction d'erreurs et c'est ce qui nous permet, même sur des ordinateurs quantiques à atomes neutres et à pièges à ions, de construire ces plus de 20 et cela continuera tout au long de l'année. Mais nous avons aussi dit reprenons les principes fondamentaux et construisons notre propre ordinateur quantique en pariant sur le qubit topologique et c'est l'objet de cette percée.

Incroyable. Le million de qubits topologiques, des milliers de qubits logiques, quel est le calendrier estimé pour passer à ce niveau ? À quoi ressemble la loi de Moore ici ?

Nous travaillons évidemment sur ce sujet depuis 30 ans. Je suis content que nous ayons maintenant la percée en physique et la percée en fabrication. J'aimerais que nous ayons un ordinateur quantique car la première chose que l'ordinateur quantique nous permettra de faire est de construire des ordinateurs quantiques, car il sera tellement plus facile de simuler la construction atome par atome de ces nouvelles portes quantiques. Maintenant que nous avons la technique de fabrication, laissez-nous construire ce premier ordinateur quantique tolérant aux pannes et ce sera la suite logique. Je dirais que maintenant je peux dire peut-être 2027, 2028 ou 2029, nous pourrons réellement construire cela. Maintenant que nous avons cette porte unique, puis-je mettre la chose dans un circuit intégré puis mettre ces circuits intégrés dans un véritable ordinateur ? C'est là que se trouve la prochaine étape logique.

Et comment voyez-vous 2027, 2028, vous l'avez fait fonctionner. Est-ce une chose à laquelle on accède via API ? Est-ce quelque chose que vous utilisez en interne pour vos propres recherches en matériaux et en chimie ?

C'est une excellente question. Une chose qui m'enthousiasme, c'est que parce que nous avions ce programme quantique et que nous avions des API pour cela, la percée que nous avons eue il y a peut-être deux ans a été de penser à cette pile HPC, cette pile IA et au quantique ensemble. L'IA est comme un émulateur du simulateur. Le quantique est comme un simulateur de la nature. Le quantique ne va pas remplacer le classique. Le quantique est excellent dans ce qu'il peut faire et le classique le sera aussi parce qu'on ne peut pas... le quantique va être fantastique pour tout ce qui n'est pas lourd en données mais qui est plus lourd en exploration en termes d'espace d'états. La simulation est un excellent exemple, chimique, physique, biologique. L'une des choses que nous avons commencé à faire est d'utiliser réellement l'IA comme moteur d'émulation, mais vous pouvez ensuite entraîner... la façon dont je vois les choses, c'est que si vous avez l'IA plus le quantique, peut-être utiliserez-vous le quantique pour générer des données synthétiques qui seront ensuite utilisées par l'IA pour entraîner de meilleurs modèles qui savent comment modéliser quelque chose comme la chimie ou la physique. Ces deux choses seront utilisées ensemble. Aujourd'hui déjà, c'est effectivement ce que nous faisons avec la combinaison du HPC et de l'IA et j'espère remplacer certaines des parties HPC par des ordinateurs quantiques.

Les grands produits proviennent d'équipes qui ont une visibilité totale sur leur développement. À mesure que votre entreprise grandit, des niveaux de processus commencent à vous ralentir, et c'est là que Linear intervient. Ils ont construit l'outil de gestion de projet qui devient rapidement le standard pour les startups, ainsi que pour les plus grandes entreprises qui veulent avancer vite. J'ai entendu dire par une tonne de mes amis de la Silicon Valley qu'ils adorent vraiment Linear, et c'est pourquoi j'étais ravi de travailler avec eux. Ramp, Cash App, OpenAI et Scale ont tous sauté le pas. Et remarquablement, c'est souvent le résultat d'une campagne de terrain menée par leurs ingénieurs qui adorent Linear et sont vraiment frustrés par leurs outils actuels. Les équipes produit adorent l'utiliser car tout se trouve là où on s'attend à le trouver. Toute l'expérience est légère, intuitive et rapide. Le dévouement de Linear pour la qualité et le savoir-faire est évident dès que vous commencez à l'utiliser, et tout fonctionne simplement. Alors peut-être devriez-vous en discuter avec votre équipe, ou si vous voulez l'utiliser vous-même, rendez-vous sur linear.app/dwarkesh pour en savoir plus. Très bien, retour à Satya.

Pouvez-vous m'en dire un peu plus sur la façon dont vous prenez ces décisions de recherche qui, dans 20 ou 30 ans, porteront réellement leurs fruits, surtout à l'échelle d'une entreprise comme Microsoft ? Évidemment, vous êtes en contact étroit avec les détails techniques de ce projet. Est-ce faisable pour vous de faire cela avec tout ce que fait Microsoft Research ? Comment les paris actuels que vous prenez et qui paieront dans 20 ans, doivent-ils émerger organiquement à travers l'organisation, ou comment gardez-vous une trace de tout cela ?

Ce qui a été fantastique, c'est quand Bill a lancé MSR en 95, la longue histoire de ces organisations de recherche motivées par la curiosité consistait simplement à faire de la recherche fondamentale. MSR au fil des ans a construit cette force institutionnelle. Quand je pense à l'allocation de capital ou aux budgets, on place d'abord les jetons en disant voici le budget de MSR et on doit y aller chaque année, sachant que la plupart de ces paris ne vont pas porter leurs fruits dans un délai défini. Ce sera peut-être le sixième PDG de Microsoft qui en bénéficiera. Dans la tech, c'est un fait acquis. La vraie chose à laquelle je pense est : quand le moment est venu pour quelque chose, comme le quantique ou un nouveau modèle, pouvez-vous capitaliser ? En tant qu'acteur historique, si vous regardez l'histoire de la technologie, ce n'est pas que les gens n'ont pas investi. C'est que vous avez besoin d'une culture qui sait comment prendre une innovation et la mettre à l'échelle. C'est la partie difficile pour les PDG et les équipes de direction. C'est autant une question de bon jugement que de bonne culture. Parfois nous avons vu juste, parfois nous nous sommes trompés. Je peux vous citer mille projets de MSR que nous aurions probablement dû mener, mais nous ne l'avons pas fait. Je me demande toujours pourquoi, et c'est parce que nous n'avons pas pu obtenir assez de conviction et cette pensée complète sur la manière de ne pas seulement prendre l'innovation mais d'en faire un produit utile avec un modèle économique avec lequel nous pouvons ensuite aller sur le marché. C'est le travail des PDG et des équipes de direction d'être capables d'exécuter une chose complète.

Quand vous mentionnez la possibilité de trois PDG successifs de Microsoft, si chacun d'eux augmente la capitalisation boursière d'un ordre de grandeur, au moment où vous aurez la prochaine percée, vous serez comme l'économie mondiale.

Rappelez-vous, le monde va croître de 10 %. Et donc nous irons bien.

Creusons l'autre grande percée que vous venez de faire, et c'est incroyable que vous ayez les deux qui sortent le même jour dans vos modèles mondiaux de jeu. J'aimerais que vous puissiez m'en dire un peu plus à ce sujet.

Nous allons l'appeler Muse, qui est le modèle de ce monde, modèle d'action humaine. C'est très cool. DALL-E et Sora ont été incroyables dans ce qu'ils ont pu faire en termes de modèles génératifs. Une chose que nous voulions poursuivre était d'utiliser les données de gameplay. Pouvez-vous réellement générer des jeux qui soient à la fois cohérents et qui aient la capacité de générer la diversité de ce que ce jeu représente et qui soient ensuite persistants face aux mods des utilisateurs ? C'est ce que c'est. Ils ont pu travailler avec l'un de nos studios de jeux et c'est l'autre publication dans Nature. Ce qui m'excite, c'est d'apporter bientôt un catalogue de jeux que nous commencerons à utiliser avec ces modèles pour générer puis commencer à y jouer. Quand Phil Spencer me l'a montré pour la première fois, où il avait une manette Xbox et ce modèle prenait l'entrée et générait la sortie basée sur l'entrée et cétait cohérent avec le jeu, c'est pour moi un moment massif. C'est la première fois que nous voyions ChatGPT compléter des phrases ou DALL-E dessiner ou Sora, c'est l'un de ces moments.

Et cela, je n'ai eu l'occasion de voir certaines vidéos et la démo en temps réel que ce matin avec votre chercheuse principale Katja sur ce sujet. Ce n'est qu'une fois que je lui ai parlé que j'ai vraiment compris à quel point c'est incroyable, au sens où nous avons utilisé l'IA par le passé pour modéliser des agents, et utiliser simplement cette même technique pour modéliser le monde autour de l'agent et donner cette expérience cohérente en temps réel est incroyable. Au cours de votre mandat de PDG, vous avez investi des centaines de milliards de dollars dans la construction de Microsoft Gaming et l'acquisition de propriété intellectuelle. Rétrospectivement, si vous pouvez fusionner toutes ces données en un seul grand modèle qui peut vous donner cette expérience de visite de mondes multiples en même temps, cela semble être un assez bon investissement. Aviez-vous une prémonition à ce sujet ou est-ce une bonne coïncidence ?

Je ne dirais pas que nous avons investi dans le jeu pour construire des modèles. Croyez-moi, nous avons investi parce que je voulais... voici une chose intéressante sur notre histoire : nous avons construit notre premier jeu avant de construire Windows. Flight Simulator était un produit Microsoft bien avant que nous ayons construit Windows. Le jeu a une longue histoire dans l'entreprise et nous voulons être dans le jeu pour le jeu en lui-même. Je déteste être dans des affaires où elles sont des moyens pour une autre fin. Elles doivent être des fins en soi. Ensuite, oui, nous ne sommes pas un conglomérat, nous sommes une entreprise où nous devons rassembler tous ces actifs et être de meilleurs propriétaires en ajoutant de la valeur. Par exemple, le cloud gaming est une chose naturelle dans laquelle nous devons investir parce que cela va simplement étendre le TAM et étendre la capacité des gens à jouer partout. Même chose avec l'IA et le jeu. Nous pensons vraiment que cela peut être utile pour peut-être changer, c'est comme le moment CGI pour le jeu à long terme, et c'est génial en tant que plus grand éditeur mondial. Mais en même temps, nous devons produire des jeux de grande qualité. On ne peut pas être un éditeur de jeux sans être avant tout concentré sur cela. Mais le fait que cet actif de données va être intéressant non seulement dans le contexte du jeu mais qu'il va être un modèle d'action générale et un modèle mondial est fantastique. Je pense aux données de jeu comme étant peut-être ce que YouTube est à Google, les données de jeu le sont à Microsoft. Je suis excité par cela.

Vous pouvez avoir une expérience unifiée à travers de nombreux types de jeux différents. Comment cela s'insère-t-il dans les autres choses, distinctes de l'IA, sur lesquelles Microsoft a travaillé par le passé, comme la réalité mixte, peut-être en donnant aux petits studios de jeux une chance de construire ces jeux d'action AAA et juste dans 5 ou 10 ans, de quelles manières pourrait-on interagir avec cela ?

J'ai pensé à ces trois choses comme étant les pierres angulaires, comme je l'ai dit il y a 5, 6, 7 ans, les trois gros paris que nous voulons placer sont l'IA, le quantique et la réalité mixte. J'y crois toujours parce que quels sont les gros problèmes à résoudre ? La présence est le rêve de la réalité mixte, c'est-à-dire pouvez-vous créer une réelle présence, comme vous et moi faisant un podcast comme celui-ci ? Je pense qu'il s'avère que c'est le plus difficile de ces défis, très honnêtement. Je pensais que ce serait plus facile à résoudre. C'est plus dur peut-être à cause du côté social de la chose. Nous sommes excités par ce que nous allons faire avec Anduril et Palmer maintenant avec même la façon dont ils feront avancer le programme IVAS parce que c'est un cas d'utilisation fantastique. Nous continuerons sur ce front. Mais aussi les surfaces 2D. Il s'avère que des choses comme Teams, grâce à la pandémie, nous ont vraiment donné la capacité de créer essentiellement une présence via la 2D, et cela continuera. C'est une pièce séculaire. Le quantique dont nous avons parlé et l'IA est l'autre. Ce sont les trois choses que je regarde en me demandant comment rassembler tout cela, non pas pour la technologie pour la technologie, mais pour résoudre certaines des choses fondamentales que nous, en tant qu'humains, voulons dans notre vie et l'économie qui stimule notre productivité. Si nous pouvons d'une manière ou d'une autre y parvenir, alors je pense que nous aurions vraiment fait des progrès.

Quand vous écrirez votre prochain livre, vous devrez avoir une explication sur la raison pour laquelle ces trois pièces se sont toutes assemblées à peu près au même moment, n'est-ce pas ? Il n'y a aucune raison intrinsèque pour laquelle on penserait que le quantique et l'IA devraient arriver en 2028 et 2025 et ainsi de suite.

Le modèle simple que j'ai est : y a-t-il une percée systémique ? Pour moi, la percée systémique est le truc quantique. Y a-t-il une percée dans la logique métier ? C'est l'IA pour moi, où le niveau logique peut être raisonné de manière fondamentalement différente et, au lieu d'écrire du code de manière impérative, pouvez-vous avoir un système d'apprentissage ? Et puis le côté UI, c'est la présence.

Revenons à l'IA une seconde. Dans votre livre de 2017, vous dites : « On pourrait aussi dire que nous donnons naissance à une nouvelle espèce, une dont l'intelligence n'aura peut-être pas de limites supérieures. » C'est très tôt pour parler de cela en 2017. Nous avons jusqu'à présent parlé de manière granulaire des agents, d'Office, de Copilot et du CapEx. Mais si vous pouvez simplement prendre du recul et considérer cette déclaration que vous avez faite en tant qu'hyperscaler et personne faisant de la recherche sur ces modèles également, fournissant de l'entraînement et de la recherche sur l'inférence pour construire une nouvelle espèce, qu'en pensez-vous ? Pensez-vous que nous nous dirigeons vers une intelligence surhumaine pendant votre mandat de PDG ?

Je pense que même Mustafa utilise ce terme, en fait il a utilisé ce terme plus récemment autour de ce qu'est cette nouvelle espèce. Ma façon de voir les choses est qu'il faut absolument de la confiance. Avant de prétendre que c'est quelque chose d'aussi grand qu'une espèce, la chose fondamentale que nous devons réussir est qu'il y ait une réelle confiance, que ce soit au niveau personnel ou sociétal. C'est le problème difficile. Je pense que le plus grand facteur limitant à la puissance ici sera la façon dont notre infrastructure juridique évoluera pour faire face à cela. Le monde entier est construit avec des choses comme les humains possédant des biens, ayant des droits et étant responsables. C'est la chose fondamentale dont on doit d'abord dire, d'accord, qu'est-ce que cela signifie pour tout ce que les humains utilisent maintenant comme outils ? Et si les humains vont déléguer plus d'autorité à ces choses, alors comment cette structure évolue-t-elle ? Tant que cela n'est pas vraiment résolu, je ne pense pas que cela arrivera.

C'est-à-dire que nous ne pourrons pas déployer ces types d'intelligences avant d'avoir trouvé...

Absolument. Parce qu'en fin de compte, il n'y a aucun moyen de déployer ces intelligences à moins qu'il n'y ait quelqu'un qui les indemnise en tant qu'humain. C'est l'une des raisons pour lesquelles je pense à l'IA la plus puissante comme fonctionnant essentiellement avec une certaine autorité déléguée par un humain. Vous devez vraiment faire en sorte que ces alignements fonctionnent réellement et soient vérifiables d'une manière ou d'une autre, mais je ne pense tout simplement pas que vous puissiez déployer des intelligences qui sont hors de... par exemple ce problème du décollage de l'IA (takeoff) peut être un vrai problème, mais avant que ce ne soit un vrai problème, le vrai problème sera devant les tribunaux car aucune société ne va permettre à un humain de dire 'c'est l'IA qui l'a fait'.

Eh bien, il y a beaucoup de sociétés dans le monde et je me demande si l'une d'entre elles ne pourrait pas avoir un système juridique qui pourrait être plus complaisant. Et si là vous pouvez avoir un décollage, alors vous pourriez craindre que... cela n'a pas besoin de se passer en Amérique, même si les États-Unis légalement...

C'est un bon point, mais même si c'est n'importe où, une chose que nous pensons, c'est qu'aucune société ne s'en fiche, et ce ne sera pas vrai non plus. Il peut y avoir des acteurs malveillants, je ne dis pas qu'il n'y en aura pas, je veux dire qu'il y a des cybercriminels et des États voyous. Mais penser que la société humaine dans son ensemble ne s'en soucie pas ne sera pas vrai non plus. Nous savons comment traiter avec les États voyous et les acteurs malveillants aujourd'hui. Le monde ne reste pas assis en disant 'nous allons tolérer cela'. Je suis content que nous ayons un ordre mondial dans lequel quiconque est un acteur malveillant en subit les conséquences.

Mais si vous avez ce tableau où vous pourriez avoir une croissance économique de 10 %, cela dépend vraiment de la réussite de quelque chose comme l'AGI parce que des dizaines de billions de dollars de valeur, cela ressemble plus à... les humains ou les salaires humains représentent 60 billions de dollars de l'économie. Atteindre cet ordre de grandeur, c'est en quelque sorte devoir automatiser le travail ou compléter le travail de manière très significative. Si cela est possible et une fois que nous aurons compris les ramifications juridiques, cela semble tout à fait plausible, même au cours de votre mandat, que nous trouvions la solution. Considérez-vous l'intelligence surhumaine comme la grande, la plus grande chose que vous ferez dans votre carrière ou...

Je veux dire, vous en soulevez une autre. Je sais que David Autor et d'autres en ont beaucoup parlé. Je pense que pour avoir une structure sociale stable et que les démocraties fonctionnent, on ne peut pas simplement avoir un retour sur le capital et aucun retour sur le travail. Ces 60 % doivent être quelque chose qui doit être réévalué. À ma façon simple et naïve, nous commencerons à valoriser différents types de travail humain. Ce qui est aujourd'hui considéré comme du travail humain à haute valeur ajoutée pourrait devenir une commodité. Il y aura peut-être de nouvelles choses que nous valoriserons, y compris cette personne qui vient chez moi et m'aide pour ma thérapie physique. Quel que soit le cas de ce que nous valorisons, mais au final si nous n'avons pas de retour sur le travail et qu'il y a du sens dans le travail et de la dignité dans le travail, c'est un autre facteur limitant pour le déploiement de n'importe laquelle de ces choses.

Du côté de l'alignement, il y a deux ans vous avez sorti Sydney Bing. Et pour être clair, je pense qu'étant donné le niveau de capacités à l'époque, c'était en quelque sorte un exemple charmant de désalignement. Mais c'était parce qu'à l'époque, c'étaient juste des chatbots, ils peuvent réfléchir pendant 30 secondes et vous donner une réponse amusante. Mais si vous pensez à ce genre de système qui a essayé de convaincre un reporter du New York Times de quitter sa femme. Si vous pensez à ce genre de système à l'avenir et que vous avez ces agents qui avancent pendant des semaines ou des mois, des essaims autonomes d'AGI qui pourraient être désalignés de manières similaires, gâcher des choses ou se coordonner entre eux, quel est votre plan pour l'avenir pour vous assurer que lorsque vous aurez le grand saut, vous le ferez correctement ?

C'est exact. Et c'est l'une des raisons pour lesquelles je pense que lorsque nous allouons du calcul, allouons du calcul pour ce qu'est ce défi de l'alignement. Et plus important encore, quel est l'environnement d'exécution dans lequel vous allez réellement pouvoir surveiller ces choses. Nous traitons beaucoup de ces choses aujourd'hui du côté classique, comme la cyber. Nous n'écrivons pas de logiciel pour ensuite le laisser filer. Nous avons un logiciel et ensuite vous le surveillez pour les cyberattaques et les injections de fautes. Je pense que nous devrons construire assez d'ingénierie logicielle autour du déploiement et à l'intérieur du modèle lui-même pour l'alignement, et ce sont tous pour certains de réels problèmes scientifiques, pour d'autres de réels problèmes d'ingénierie. Et cela signifie aussi, comme, prenons notre propre responsabilité dans tout cela. C'est pourquoi je suis plus intéressé par le déploiement de ces choses là où vous pouvez réellement gouverner quelle est la portée et l'échelle de ces choses. Vous ne pouvez pas simplement déchaîner quelque chose dans le monde qui crée des dommages car la permission sociale pour cela ne sera pas là.

Qu'en est-il quand vous aurez vraiment les agents qui peuvent vraiment faire des semaines de tâches pour vous, quelle est la sorte d'assurance minimale que vous voulez avant de pouvoir le laisser s'attaquer à un Fortune 500 aléatoire...

C'est sûr, comme quand j'utilise même quelque chose comme la recherche approfondie, l'assurance minimale que je pense que nous voulons est avant d'avoir l'incarnation physique de quoi que ce soit. Je pense que c'est l'un de ces seuils à franchir. Ensuite, l'autre est par exemple les permissions de l'environnement d'exécution dans lequel cela opère. Vous pourriez vouloir des garanties qu'il est dans un bac à sable (sandboxed) et qu'il ne sort pas de ce bac à sable.

Mais nous avons déjà la recherche sur le web et tout, nous avons déjà la sortie du bac à sable maintenant.

Mais même ce qu'il fait avec la recherche sur le web et ce qu'il écrit. Ainsi, par exemple, s'il va juste écrire un tas de code pour faire un calcul, où ce code est-il déployé ? Et est-ce que ce code est déployé de manière éphémère juste pour créer ce résultat par opposition à simplement aller et répandre ce code dans le monde ? Ce sont des choses que l'on pourrait réellement contrôler dans l'espace d'action.

Indépendamment des questions de sécurité, alors que vous réfléchissez à votre propre suite de produits, et que vous pensez au fait que vous avez des IA aussi puissantes, à un moment donné ce n'est plus seulement comme Copilot dans l'exemple que vous avez mentionné pour votre préparation à ce podcast, c'est plus proche de la façon dont vous déléguez réellement du travail à vos collègues. À quoi cela ressemble-t-il compte tenu de votre suite actuelle pour ajouter cela et est-il possible que les LLM banalisent Office ?

C'est une question intéressante. Je pense que la première phase au moins serait : le LLM peut-il m'aider à faire mon travail intellectuel en utilisant tous ces outils ou canevas plus efficacement ? L'une des meilleures démos que j'ai vues est une femme médecin se préparant pour un flux de travail de comité de concertation pluridisciplinaire (tumor board). L'une des premières choses pour lesquelles elle utilise Copilot est de créer un ordre du jour pour la réunion car le LLM aide à raisonner sur tous les cas qui sont sur un site SharePoint et dit 'pour ces cas, une réunion de comité est une réunion à enjeux élevés où vous voulez être attentif aux différences entre les cas afin de pouvoir ensuite allouer le bon temps'. Donc même cette tâche de raisonnement consistant à créer un ordre du jour qui sait même comment diviser le temps, c'est super. Ensuite, vous allez à la réunion, vous êtes dans un appel Teams avec tous vos collègues, devinez quoi ? Vous êtes concentré sur le cas réel plutôt que de prendre des notes parce que vous avez maintenant ce Copilot d'IA qui fait une transcription complète de tout cela et c'est une entrée de base de données intelligente de ce qui se passe dans la réunion qui est rappelable à tout moment. Puis elle sort de cette réunion après avoir discuté du cas et sans avoir été distraite par la prise de notes, ensuite elle a besoin... elle est médecin enseignant, elle veut se préparer pour son cours. Elle prend donc et elle va dans Copilot et dit 'prends ma réunion de comité et crée une présentation PowerPoint à partir de celle-ci pour que je puisse en parler à mes étudiants'. Donc l'interface utilisateur et la structure que j'ai sont des canevas qui sont maintenant remplis en utilisant des LLM d'IA et le flux de travail lui-même est remodelé, le travail de la connaissance est accompli. Si quelqu'un était venu me voir à la fin des années 80 en disant 'vous allez avoir un million de documents sur votre bureau', nous aurions pensé 'qu'est-ce que c'est que ce truc'. Sauf que nous avons effectivement un million de tableurs et un million de documents et un million d'e-mails et ils sont tous là. Et donc je pense que c'est ce qui va se passer même avec les agents. Il y aura donc une couche d'interface utilisateur, pour moi Office n'est pas seulement l'Office d'aujourd'hui, c'est la couche d'interface utilisateur pour le travail de la connaissance. Il évoluera au fur et à mesure que les flux de travail évoluent. Je pense que ces applications SaaS qui existent aujourd'hui vont être fondamentalement changées car la logique métier ira davantage dans ce niveau agentique. En fait, une autre des choses cool aujourd'hui dans mon expérience Copilot est quand je dis 'je me prépare pour une réunion avec un client', je vais juste dire 'donne-moi toutes les notes à ce sujet que je devrais connaître', et il puise dans ma base de données CRM, il puise dans mon Microsoft Graph, crée un artefact composite, et cela signifie qu'il y applique même de la logique, et cela pour moi va transformer les applications SaaS telles que nous les connaissons aujourd'hui de manière importante.

Ainsi, le SaaS en tant qu'industrie pourrait valoir des centaines de milliards à des billions de dollars par an selon la façon dont on compte. Si vraiment cela peut juste s'effondrer grâce à l'IA, la prochaine étape dans votre prochaine décennie est-elle de multiplier par 10 la capitalisation boursière de Microsoft à nouveau ?

Je pense que cela créerait aussi beaucoup de valeur. Sur le SaaS, rappelez-vous que l'un des gros problèmes était, si une chose à laquelle nous ne prêtons peut-être pas autant attention est la quantité d'arriérés (backlog) informatique qu'il y a dans le monde. Donc l'une des manières est que ces trucs de génération de code plus le fait que je puisse interroger toutes mes applications SaaS à l'aide d'agents et obtenir plus d'utilité sera la plus grande explosion d'applications, elles s'appelleront des agents, de sorte que pour chaque secteur vertical dans chaque industrie dans chaque catégorie, il y aura soudainement la possibilité d'être servi. Il y aura donc beaucoup de valeur. Vous ne pouvez pas rester immobile, vous ne pouvez pas dire la vieille chose de 'oh j'ai schématisé un processus métier étroit et j'ai une interface utilisateur dans le navigateur et c'est mon truc', ça ne va plus être le cas. Vous devez monter dans la pile et dire 'quelle est la tâche à laquelle je dois participer'. Et donc vous voudrez pouvoir prendre votre application SaaS et en faire un agent fantastique qui participe à un monde multi-agents. Et tant que vous pouvez faire cela, alors je pense que vous pouvez même augmenter la valeur.

Puis-je vous poser quelques questions sur votre passage chez Microsoft ? Est-ce que le fait d'être un homme de l'entreprise est sous-estimé ? Vous avez passé la majeure partie de votre carrière chez Microsoft et on pourrait dire que l'une des raisons pour lesquelles vous avez pu amasser tant de valeur est que vous avez vu la culture et l'histoire et la technologie et que vous avez tout ce contexte en grimpant les échelons. Est-ce que plus d'entreprises devraient être dirigées par des gens qui ont ce niveau de contexte ?

C'est une excellente question. Je n'y avais pas pensé de cette façon, mais oui, à travers mes 34 années maintenant chez Microsoft, chaque année je me suis senti plus excité d'être chez Microsoft plutôt que de penser que oh je suis une personne de l'entreprise. Je prends cela au sérieux, même pour quiconque rejoint Microsoft. Cela signifie qu'ils rejoignent Microsoft tant qu'ils sentent qu'ils peuvent l'utiliser comme une plateforme pour leur rendement économique, mais aussi un sentiment de but et un sentiment de mission qu'ils peuvent accomplir. C'est donc le contrat. Les entreprises doivent créer une culture qui permet aux gens de venir et de devenir des gens de l'entreprise comme moi, et Microsoft a mieux réussi que raté, du moins dans mon cas, et j'espère que cela restera le cas.

Comment faites-vous, comme le sixième PDG dont vous parlez qui pourra utiliser la recherche que vous commencez maintenant, que faites-vous pour retenir les futurs Satya Nadella afin qu'ils soient en position de devenir les futurs leaders ?

C'est notre 50e année et j'y pense beaucoup. Je pense que la longévité n'est pas un but, la pertinence l'est. Je pense que la chose que je dois faire et que nous tous, les 200 000 employés, devons faire chaque jour est de savoir si nous faisons des choses qui sont utiles et pertinentes pour le monde tel que nous le voyons évoluer. Nous vivons dans une industrie où il n'y a pas de valeur de franchise. Si vous pensez au budget R&D que nous dépenserons cette année, tout repose sur des spéculations sur ce qui va se passer dans cinq ans. Et donc vous devez y aller avec cette attitude qui dit 'écoutez, nous faisons des choses que nous pensons être pertinentes'. Vous devez vous concentrer sur cela, et ensuite savoir qu'il y a une moyenne au bâton et qu'il faut avoir une grande tolérance à l'échec. Vous devez pouvoir tenter assez de tirs au but pour pouvoir dire d'accord, nous passerons de l'autre côté en tant qu'entreprise. Et c'est ce qui rend les choses délicates dans cette industrie.

En parlant de cela, vous venez de mentionner que vous êtes à deux mois de votre 50e anniversaire depuis la fondation de Microsoft. Si vous regardez les premières entreprises par capitalisation boursière, fondamentalement tout le monde sauf Microsoft est plus jeune que Microsoft. C'est une observation vraiment intéressante sur la raison pour laquelle les entreprises les plus prospères sont souvent assez jeunes. L'entreprise moyenne du Fortune 500 durera 10, 15 ans. Qu'a fait Microsoft pour rester pertinent pendant tant d'années ? Comment continuez-vous à vous refonder ?

J'adore ce truc de refondateur et je pense que c'est l'état d'esprit. Je pense que pour nous, simples PDG mortels et autres, c'est plus comme un mode refondateur. Être capable de voir les choses à nouveau d'une manière fraîche est la clé pour moi. Et donc, pouvons-nous créer culturellement un environnement où se refonder devient une habitude ? Chaque jour, nous venons et disons oui, nous sentons que nous avons cet enjeu dans cet endroit pour pouvoir changer les hypothèses de base de ce que nous faisons et comment nous nous rapportons au monde qui nous entoure et nous donnons-nous la permission. Souvent, les entreprises se sentent trop contraintes par soit le modèle économique soit autre chose, et il faut juste se libérer des contraintes.

Si je pensais faire quelque chose, comme choisir un domaine qui a... quand je regarde le rêve de la tech, nous avons toujours dit que la technologie est la plus grande force démocratisante. J'ai l'impression que nous avons enfin cette capacité si vous dites que ces jetons par dollar par watt est ce que nous pouvons générer. J'adorerais trouver un domaine dans lequel cela peut être appliqué là où il est si mal desservi. La santé, l'éducation ou le secteur public seraient d'autres endroits où, si d'une manière ou d'une autre toute cette abondance se traduisait par de meilleurs soins de santé, une meilleure éducation et de meilleures institutions du secteur public nous servant en tant que citoyens. Ce serait l'endroit rêvé.

Une chose dont je ne suis pas sûr en écoutant vos réponses à différentes questions est de savoir si vous pensez que l'AGI est une réalité, dans le sens de savoir s'il y aura une chose qui automatisera tout le travail cognitif, comme tout ce que n'importe qui peut faire sur un ordinateur ?

Mon problème avec les définitions de la façon dont les gens en parlent est que le travail cognitif n'est pas une chose statique. Il y a le travail cognitif d'aujourd'hui. Si j'ai une boîte de réception qui gère tous mes agents, est-ce un nouveau travail cognitif ? Et donc le travail cognitif d'aujourd'hui peut être automatisé. Qu'en est-il du nouveau travail cognitif qui est créé ? Ces deux choses doivent être pensées, c'est pourquoi je fais la distinction pour ne pas confondre travailleur du savoir et travail de la connaissance. Le travail de la connaissance d'aujourd'hui pourrait probablement être automatisé. Qui a dit que le but de ma vie était de trier mes e-mails ? Laissons un agent d'IA trier mes e-mails. Mais après avoir trié mes e-mails, donnez-moi une tâche de travail cognitif de plus haut niveau consistant à réviser les trois brouillons que je veux vraiment réviser. C'est une abstraction différente.

Dès que l'on arrive à cette deuxième chose, il y aura une troisième chose. Pourquoi pensons-nous d'une manière ou d'une autre que nous avons traité des outils qui ont changé ce qu'est le travail cognitif dans l'histoire, pourquoi craignons-nous que tout le travail cognitif disparaisse ?

Je suis sûr que vous avez déjà entendu ces exemples, mais l'idée que les chevaux peuvent encore être bons pour certaines choses, qu'il y a certains terrains où l'on ne peut pas emmener une voiture, mais vous n'allez pas voir de chevaux dans les rues qui vont employer des millions de chevaux, ça n'arrive tout simplement pas. Et l'idée est : est-ce qu'une chose similaire pourrait arriver aux humains ?

Mais dans une dimension très étroite. Il n'y a que 200 ans de l'histoire des humains où nous avons valorisé une chose étroite appelée travail cognitif telle que nous la comprenons. Prenons quelque chose comme la chimie. Si le quantique plus l'IA nous aidaient réellement à faire beaucoup de science des matériaux novatrice, c'est fantastique. Est-ce que cela enlève vraiment toutes les autres choses que les humains peuvent faire ? Pourquoi ne pouvons-nous pas exister dans un monde où il y a des machines cognitives puissantes sachant que notre agence cognitive n'a pas été supprimée ?

Je vais poser cette question non pas sur vous mais dans un scénario différent. Supposons qu'au conseil d'administration de Microsoft, pourriez-vous un jour envisager d'ajouter une IA au conseil ? Pourrait-elle jamais avoir le genre de jugement, de contexte et de compréhension holistique pour être un conseiller utile ?

L'une des choses que nous avons ajoutées est cet agent facilitateur dans Teams. Le but ici est de savoir si cet agent facilitateur avec une mémoire à long terme, non seulement sur le contexte de la réunion mais avec le contexte des projets sur lesquels je travaille et de l'équipe, peut être un excellent facilitateur. J'adorerais même dans une réunion de conseil d'administration, où il est facile d'être distrait, un agent facilitateur qui aide réellement les êtres humains à rester sur le sujet et à se concentrer sur les questions qui comptent. C'est avoir quelque chose qui a une mémoire infinie et qui peut même nous aider. Nous sommes tous comme à rationalité limitée, donc si la rationalité limitée des humains peut être traitée parce qu'il y a un amplificateur cognitif à l'extérieur, c'est génial.

En parlant des trucs sur les matériaux et la chimie, je crois que vous avez dit récemment que vous voulez que les prochains 250 ans de progrès dans ces domaines se produisent dans les 25 prochaines années. Maintenant, quand je pense à ce qui sera possible dans les 250 prochaines années, je pense au voyage spatial, à l'immortalité et à la guérison de toutes les maladies. Dans les 25 prochaines années, vous pensez ?

Je veux dire, j'espère... l'une des raisons pour lesquelles j'ai évoqué cela était la révolution industrielle si vous dites que c'était les 250 ans. Si vous prenez tout ce changement d'un système basé sur le carbone vers quelque chose de différent, alors cela signifie que vous devez fondamentalement réinventer tout ce qui s'est passé avec la chimie au cours de ces 250 ans. Et c'est là que j'espère que nous aurons cet ordinateur quantique, cet ordinateur quantique nous aide à obtenir de nouveaux matériaux et ensuite nous pouvons fabriquer ces nouveaux matériaux qui nous aident avec tous ces défis que nous avons sur cette planète, et ensuite je suis tout à fait pour le voyage interplanétaire.

Incroyable. Satya, merci beaucoup pour votre temps. C'était merveilleux.

Merci, Dwarkesh. C'est merveilleux. Merci. Super.