Bonjour à tous. C'est un plaisir de recevoir le Dr Eric Schmidt aujourd'hui avec nous pour une session emblématique en clôture de la première journée du Raise Summit.

Le titre de la session est L'IA et la Genèse d'une Nouvelle Époque, et elle fait référence au livre que vous avez co-écrit avec feu Henry Kissinger, le pape de la diplomatie et des relations internationales aux XXe et XXIe siècles, et l'ex-responsable de la recherche chez Microsoft, Greg Mundie. Le livre s'intitule Genesis : L'IA, l'espoir et l'esprit humain.

Eric, dans Genesis, vous ouvrez la conversation par une affirmation audacieuse en disant que l'IA est la naissance d'une nouvelle époque. Si vous deviez identifier le plus grand malentendu que les dirigeants ont encore sur ce changement d'époque, quel serait-il ?

Eh bien, d'abord, merci beaucoup, Henri. Et félicitations à l'équipe de Raise pour ce phénomène. J'ai travaillé en France pendant de très nombreuses années, et le fait qu'il y ait ici un écosystème technologique aussi extraordinaire et dynamique est une source de grande fierté, et je pense, de fierté nationale. Alors merci à tous.

Je suis en fait assez convaincu que c'est le début d'une nouvelle époque. Henry, qui était mon meilleur ami et qui nous manque énormément, l'a comparée aux Lumières. Durant les Lumières, nous, en tant qu'humains, avons appris à passer d'une foi directe en Dieu à l'utilisation de nos capacités de raisonnement.

Désormais, nous voyons arriver une nouvelle intelligence non humaine, qui aura probablement de meilleures capacités de raisonnement que les humains, généralement connue sous le nom d'AGI et essentiellement de superintelligence. Cela va se produire vraiment très vite. Et je pense que les gens n'y sont pas préparés.

Quand je parle aux gouvernements, ce que je leur dis, c'est : premièrement, ChatGPT est génial, mais c'était il y a deux ans, tout a encore changé. Deuxièmement, vous n'êtes pas préparés. Et troisièmement, vous feriez mieux de vous organiser autour de cela, le bon comme le mauvais.

Et vous avez récemment inventé un nouveau terme, le Consensus de San Francisco. Je suis sûr que nous sommes tous sur Instagram ou TikTok et que nous avons vu tous les Reels d'Eric sur ce terme. Voulez-vous expliquer ce que vous entendez exactement par ce terme ?

Il y a un groupe de personnes avec qui je travaille, ils sont tous à San Francisco, et ils se sont tous fondamentalement convaincus que dans les deux à quatre prochaines années, la moyenne étant de trois ans, le monde entier va changer.

Et voici grosso modo leur argument. Je l'appelle un consensus parce que c'est un consensus, mais il n'est pas forcément vrai que le consensus soit vrai, n'est-ce pas ? Il faut suivre ce raisonnement.

Le scénario est le suivant. D'abord, vous avez le langage vers le langage, les LLM, ChatGPT est le meilleur, ils ont fait un excellent travail. Les autres s'y mettent et rattrapent leur retard sous diverses formes dans ce domaine.

Pendant ce temps, vous avez le développement du raisonnement, l'adoption de la mémoire à l'intérieur de ces systèmes. Ainsi, la révolution agentique, dont tout le monde ici comprend la signification car beaucoup d'entre vous sont au milieu de cette révolution, peut être comprise comme l'entrée de langage, la mémoire et la sortie de langage.

Un exemple typique : j'ai une maison en Californie, je veux en construire une autre. J'ai un agent qui trouve le terrain, j'ai un autre agent qui travaille sur les règles, un autre agent qui s'occupe de la conception du bâtiment, un autre sélectionne l'entrepreneur, et du moins en Amérique, vous avez un agent qui poursuit ensuite l'entrepreneur quand la maison ne fonctionne pas. C'est à peu près comme ça...

Maintenant, pourquoi vous donnerais-je un exemple aussi stupide ? Je viens de vous donner un exemple de flux de travail qui est vrai pour chaque entreprise, chaque gouvernement et chaque activité humaine de groupe.

Alors, quand vous comprenez que la révolution agentique et la révolution du raisonnement changent ensemble réellement la façon dont nous opérons en tant qu'humains, vous comprenez pourquoi le consensus de San Francisco est si puissant.

La révolution du raisonnement ressemble à ceci. Regardez, je vais utiliser O3 de ChatGPT-4, il y en a d'autres aussi. Regardez-le aller d'avant en arrière, d'avant en arrière dans son raisonnement, et cela va vous époustoufler.

Surtout quand vous lui posez une question dont vous n'avez aucune idée du sujet, et que vous le regardez raisonner. Dans le cas de Google, Google dispose désormais d'un modèle mathématique qui se situe au 90e centile des étudiants diplômés en mathématiques.

Si vous regardez les autres systèmes de classement, il est juste de dire que nous avons maintenant des systèmes qui possèdent 90 % de toutes les compétences de haut niveau des écoles supérieures, en mathématiques, en physique, et ainsi de suite.

Cela vous indique que lorsque cela arrivera, cela se produira à grande échelle. Le consensus est donc que cela progresse et qu'il y a un moment appelé auto-amélioration récursive, où le système commence à apprendre par lui-même, où il progresse à une vitesse impossible à appréhender pour nous. Cela devient combinatoire d'une manière que nous, humains, ne comprenons pas la combinatoire.

C'est à la fois incroyablement excitant et aussi très inquiétant. Et au fait, le consensus est de trois ans. Mon propre avis est que c'est six, mais qui sait ?

Pouvez-vous définir rapidement la différence entre AGI et ASI ? Et comme vous l'avez mentionné, nous avons atteint l'auto-amélioration récursive. Donc, fondamentalement, nous avons passé le test de Turing, mais personne ne l'a remarqué.

Comment gouverner des systèmes qui itèrent beaucoup plus vite que nous ne pouvons les suivre ?

Eh bien, la réponse à court terme est qu'il y a des gens qui étudient actuellement comment contrôler une superintelligence avec une intelligence bête. Et il y a des mathématiques que je ne comprends pas qui disent que, dans une certaine mesure, on peut la contenir, mais nous n'en savons rien.

Mais I pense que le premier point à souligner est que l'auto-amélioration récursive ou l'intelligence récursive est le stade où le système apprend par lui-même. Et vous commencez à voir des solutions agentiques qui font de l'auto-apprentissage.

Je m'attends à ce que d'ici la fin de cette année, donc dans six mois, vous commenciez à utiliser des systèmes qui apprennent au fur et à mesure que vous les utilisez. C'est la progression naturelle.

L'une des raisons de penser que les investissements matériels que vous voyez, qui sont incroyablement massifs, ont du sens est que ces modèles de raisonnement sont infiniment plus coûteux qu'une recherche Google. Beaucoup, beaucoup de milliers de fois plus d'électricité, de requêtes, etc.

Le processus récursif a donc déjà commencé. Le consensus général, bien qu'il y ait différentes définitions de l'AGI, est que l'AGI signifie qu'elle est généralement intelligente.

Maintenant, être généralement intelligent signifie que vous vous levez le matin et que vous avez un libre arbitre, je pense largement inventé ici en France, et vous avez fondamentalement cette notion de je me lève, je fais ce que je veux, j'apprends ce que je veux, je cherche ce que je veux.

Ce genre d'intelligence stratégique n'est pas encore présent dans ces systèmes. Le consensus est que cela se produira, mes propres dates se situent entre quatre et six ans, c'est-à-dire relativement bientôt.

L'étape d'après est celle où le système, le terme général est superintelligence, est plus intelligent que la somme de tous les humains réunis.

Et le test de la superintelligence est assez simple. Elle peut prouver quelque chose que nous savons être vrai, mais dont nous ne pouvons pas comprendre la preuve. Nous, les humains, aucun humain ne peut la comprendre. Même nous tous ensemble, nous ne pouvons pas la comprendre, mais nous savons que c'est vrai.

Henry dirait : qu'est-ce que c'est ? Est-ce de la magie ? Il dirait aussi, et nous l'avons dit dans le livre, que lorsque les gens verront cela, ils pourraient prendre les armes contre cela parce que ce sera tellement effrayant pour les humains.

Maintenant, je pense que cela se produira d'ici une décennie. Un certain nombre d'entre nous ont écrit un article sur la superintelligence où nous spéculions sur la manière de contenir la superintelligence. Je fais beaucoup de travail sur la sécurité nationale, et comment gérer le fait que votre concurrent puisse être en avance sur vous ?

Eh bien, dans les entreprises à effets de réseau, ce dans quoi j'ai vécu toute ma vie, cela n'avait pas de nom quand j'ai commencé, mais comprenez que toutes les entreprises les plus précieuses au monde sont essentiellement des entreprises à effets de réseau parce que les effets de réseau fonctionnent.

Que se passe-t-il lorsque vous avez deux pays dont l'un est en avance sur l'autre ? Je vais vous donner un exemple simple. C'est vous et moi, nous avons notre petite startup tech, nous avons mille personnes, etc. Et puis un jour, vous et moi décidons que nous allons avoir des chercheurs en IA, c'est-à-dire des ordinateurs faisant de la recherche en IA.

Et combien en avons-nous ? Eh bien, nous en avons un million parce que nous avons assez d'argent et tout ce dont ils ont besoin, c'est d'électricité. Ils n'ont pas besoin de pizza, ils ne dorment pas, peu importe. Donc maintenant, votre pente d'innovation ressemble à ceci.

Dans une entreprise à effets de réseau, cela est susceptible de produire des pentes de gains à ce niveau. L'adversaire peut décider qu'une fois que vous en êtes là, il ne vous rattrapera jamais, et vous pouvez alors lui faire des choses très néfastes. Vous avez alors un problème, essentiellement une condition de concurrence de préemption.

Ce ne sont que les prémices de ces idées. Mais si vous croyez que l'IA est aussi puissante, alors chaque aspect de l'expérience humaine sera touché par elle, y compris la sécurité nationale, les politiciens, les démocraties, et ainsi de suite.

Je passe beaucoup de temps à discuter avec des gens qui demandent : la démocratie survivra-t-elle à l'AGI ? Ce sont vraiment les questions centrales sur l'humanité qui sont soulevées par l'arrivée de cette intelligence.

Le CapEx est donc le nouveau fossé de l'IA. Je suis sûr que la semaine dernière, tout le monde a vu les transferts de fonds fous d'OpenAI vers Meta pour leur nouvelle équipe de superintelligence. Mais finalement, le calcul est-il le nouveau fossé par rapport au talent ? Parce que 100 millions contre 20 milliards en calcul, cela semble très peu.

Si vous demandez à la plupart des dirigeants du secteur, ils diront la chose suivante. Ils diront que nous sommes dans une période de sur-construction. Ils diront qu'il y aura une surcapacité dans deux ou trois ans.

Et quand vous leur demandez, ils disent : mais moi, ça ira et les autres vont perdre tout leur argent. C'est une bulle classique, non ?

Que faudrait-il pour que ce ne soit pas une bulle ? Si vous croyez au consensus de San Francisco et que vous croyez que le raisonnement, qui se fait par inférence et par ces chaînes d'apprentissage par renforcement, si vous croyez que cela va définir l'humanité, alors c'est sous-estimé et nous en avons besoin de plus encore.

Je sais que ça semble fou. Mais c'est la base du raisonnement. Personnellement, je ne sais pas. J'ai examiné cela de près parce que vous avez ces centres de données massifs et Nvidia est ravi de leur vendre toutes les puces, et les promoteurs immobiliers ont l'habitude d'emprunter de l'argent pour construire ces choses.

Je n'ai jamais vu de situation où la capacité matérielle n'était pas absorbée par le logiciel. Il y avait un vieux dicton quand j'étais jeune qui disait : Grove donne et Gates reprend. En référence à Intel.

Les anciens se souviendront que les puces Intel s'amélioraient, mais que votre ordinateur ne devenait jamais plus rapide. Et nous nous demandions : pourquoi n'est-il pas plus rapide ? Eh bien, parce que dans ce cas, Microsoft ajoutait toutes ces fonctionnalités supplémentaires.

Je pense donc qu'il est peu probable, d'après mon expérience, qu'il s'agisse d'une bulle. Il est beaucoup plus probable que vous voyiez une toute nouvelle structure industrielle.

Une façon de voir les choses est que la découverte des LLM et des modèles de fondation, dont nous allons à juste titre attribuer le mérite à l'équipe d'OpenAI de l'époque, est une découverte d'une importance historique.

On a commencé à leur accorder du crédit, bien que pour être honnête, pas mal de ces personnes travaillaient pour moi autrefois, nous n'évoquerons pas cela, mais nous leur accorderons du crédit. Cet événement historique est très important. Et je dis cela avec un grand respect pour ce qu'ils ont fait, et en particulier Sam, Dario, Mira et l'équipe. Cela a tout déclenché, et maintenant nous y sommes.

Cursor a atteint 500 millions d'ARR le mois dernier, Together AI, et ils sont ici aujourd'hui, Vipul le fondateur est l'un de nos intervenants, ils ont atteint 100 millions d'ARR en 10 mois. Alors, comment le monde du capital-risque devrait-il évaluer l'AGI ?

Je ne suis pas un investisseur particulièrement doué, donc permettez-moi de ne pas répondre à la question sur l'investissement, mais je vais fournir le battage médiatique nécessaire pour convaincre les investisseurs d'investir. Et cela ressemble à ceci.

Quand vous construisez ces systèmes, vous êtes limités par les données, et nous avons aspiré toutes les données. C'est ce que tout le monde pense. Ce n'est pas tout à fait vrai.

La façon dont ces systèmes vont s'étendre est si les choses qui s'étendent le plus rapidement sont ce qu'on appelle sans échelle. Quel est un exemple de domaine sans échelle ? Les mathématiques.

Comme vous le savez, les mathématiciens avec leurs tableaux blancs ou noirs, ils inventent des trucs toute la journée, dont rien n'est compréhensible pour moi, et ils le font encore et encore, et ils sont parfaitement heureux d'inventer des structures complètement nouvelles qui n'ont aucun fondement factuel parce que c'est la beauté des mathématiques.

Et nous savons à quel point les mathématiques sont puissantes. Il est donc parfaitement logique qu'en utilisant un protocole appelé Lean, qui est un protocole d'échange pour définir des preuves, vous puissiez avoir un système qui génère des conjectures et un autre système qui les prouve, et c'est une solution sans échelle. Le logiciel.

Et d'ailleurs, remarquez que le nombre de verbes en mathématiques, littéralement le nombre de jetons, est beaucoup plus limité que dans le langage. Et c'est important pour les architectures de service et de performance, dont nous pourrons discuter plus tard.

Regardons le logiciel. Que font les programmeurs de logiciels ? Ils écrivent du code qui ressemble énormément à celui de tout le monde. Donc vous avez cette explosion, vous avez mentionné Cursor, il y a aussi des concurrents. Anthropic, bien sûr, est probablement à lui seul le leader technique sous-jacent dans cet espace, les autres étant en compétition. La concurrence est saine.

Le logiciel peut être compris comme le fait qu'à terme, les gens du logiciel diront ce qu'ils veulent et l'ordinateur écrira le code. Et en tant que personne ayant consacré mon premier cycle, mon deuxième cycle et mon doctorat à la conception de langages et aux architectures de systèmes d'exploitation, voir toute ma validation détruite de mon vivant est un peu préoccupant.

Je parlais à une personne et je lui ai demandé : Eh bien, dans quel langage programmes-tu ? et il a répondu : Pourquoi est-ce important ? C'est un nouveau monde.

Donc le logiciel et les mathématiques, rappelez-vous, et le logiciel est le jumeau de la cybersécurité. Il sera également possible, du côté négatif, de générer un nombre énorme de cyberattaques parce que vous pouvez générer le logiciel, vous pouvez générer les attaques contre le logiciel parce que vous pouvez le faire de manière répétitive jusqu'à trouver les dépassements de tampon et ainsi de suite.

La combinaison de tout cela est donc incroyable. Ces deux domaines, sans échelle, seront suivis par des choses qui ont besoin de données. La biologie, par exemple, nous n'avons pas assez de données biologiques. La chimie, nous n'avons pas assez de données chimiques. La physique, nous n'avons pas assez de données physiques. Mais ça arrive.

Et c'est la base de cette explosion de puissance dans les infrastructures. C'est ainsi que nous résolvons le changement climatique, que nous faisons ces choses extraordinaires en médecine, tout cela grâce à ça.

Je crois que vous avez dit un jour que le silicium est une stratégie. Comment la course aux puces modifie-t-elle la dynamique mondiale du pouvoir de l'IA et comment la Chine rattrape-t-elle son retard ?

Eh bien, c'est très intéressant. J'étais en réunion plus tôt avec des gens qui dirigent l'open source ici, ça s'appelle Kyut, et ils sont ici à la conférence. Et ils me disaient que sur une base mathématique, il y a plus d'open source en Europe qu'aux États-Unis. C'était vraiment intéressant parce que je suis historiquement quelqu'un de l'open source.

La structure qui émerge est très étrange. Aux États-Unis, en raison de l'énorme quantité de capital, les entreprises ne font généralement pas d'open source. Elles achètent ces centres de données incroyables, proposant ces services incroyablement puissants.

Et en Chine, ils font exactement le contraire. Avec DeepSeek et d'autres, ils font essentiellement de l'open source, avec des poids ouverts, et on suppose que le gouvernement chinois finance cela.

Maintenant, quelle en est la conséquence ? C'est très intéressant. Si vous avez deux modèles, open source et source fermée, l'open source sera beaucoup plus adopté, surtout dans tous les pays où nous n'allons pas. Il y a une centaine de pays que vous ne visitez jamais, ils n'ont pas d'économie, ils ont leurs propres problèmes, etc.

On peut donc se retrouver dans une situation où l'Amérique et l'Occident sont en tête, mais où la majorité de l'utilisation de l'IA ne provient pas de modèles américains ou occidentaux, mais plutôt de modèles chinois open source. Je ne pense pas que les gens aient bien saisi les enjeux géopolitiques qui en découlent.

Peut-être une dernière avant qu'un fondateur extraordinaire ne nous rejoigne sur scène. Vous avez dirigé Google pendant le virage du mobile. Quelles erreurs ont été commises pendant la vague du mobile que les entreprises devraient aujourd'hui prendre en compte et essayer d'éviter dans leur nouvelle feuille de route ?

Je pense que je peux vous dire qu'en tant que PDG, chaque erreur que j'ai commise était fondamentalement une erreur de temps. Quand je regarde ce que nous avons fait chez Google, nous avons évidemment très bien réussi, Android a 90 % de part de marché, mais nous n'avons pas bougé assez vite. Nous ne l'avons pas poussé jusqu'à son extrême logique.

Et je pense que d'autres entreprises, Uber étant un exemple évident, ont combiné le GPS et ainsi de suite pour que cela se produise. Si vous regardez WhatsApp comme une sorte de mécanisme de communication, je n'avais pas pleinement compris que votre numéro de téléphone deviendrait votre véritable identifiant unique dans le monde. C'est évident maintenant, mais ça ne l'était pas pour moi à l'époque.

Mais dans chaque cas, c'était fondamentalement une erreur de temps. Mon message pour vous est que si vous allez vous lancer dans les domaines dont nous discutons, faites-le maintenant et allez très, très vite. Ce marché compte tellement d'acteurs, il y a tellement d'argent en jeu, que vous serez dépassé si vous passez trop de temps à vous soucier d'autre chose que de construire des produits incroyables.

Merci, Eric. Merci à tous.

Et donc les amis, la session n'est pas terminée. Nous sommes très heureux d'accueillir sur scène Andrew Feldman, le PDG...