Quand voyez-vous arriver ce que vous définissez comme une superintelligence numérique ?

D'ici dix ans.

La capacité de l'IA à générer son propre échafaudage est imminente. Je suis presque certain que ce sera pour 2025.

Nous ne savons certainement pas ce que la superintelligence apportera, but nous savons qu'elle arrive.

Et que doivent savoir les gens à ce sujet ?

Vous allez avoir votre propre polymathe, l'équivalent d'Einstein et de Léonard de Vinci dans votre poche. Des agents, l'automatisation des mathématiques et des percées logicielles vont se produire. Tout ce dont j'ai parlé relève du domaine positif, mais il y a aussi un domaine négatif.

Bonjour à tous, bienvenue sur Moonshots. Je suis ici en direct avec mon partenaire de Moonshot, Dave Blunden. Nous sommes dans nos studios de Santa Monica avec un invité spécial, Eric Schmidt, l'auteur de Genesis. Nous allons parler de la Chine, de la superintelligence numérique et de ce à quoi les gens devraient réfléchir au cours des 10 prochaines années.

Nous parlons de l'homme qui a accès à plus d'informations exploitables que n'importe qui d'autre. Cela devrait être très passionnant.

Incroyablement brillant. Préparez-vous pour une conversation avec Eric Schmidt, ancien PDG de Google, et un investisseur et penseur extraordinaire dans le domaine de l'IA. C'est parti.

Eric, bon retour parmi nous sur Moonshots.

C'est un plaisir d'être ici avec vous.

Merci. Le chemin a été long depuis notre première rencontre chez Google. Je me souviens que nos premières conversations étaient fantastiques. C'était un mois fou dans le monde de l'IA, mais je pense que chaque mois à venir sera tout aussi fou. J'aimerais aborder plusieurs sujets et avoir votre avis.

Bien sûr.

Je veux commencer par le point que vous avez soulevé récemment : l'IA est sous-estimée alors que le reste du monde est confus ou pense qu'elle ne nous impacte pas. Nous y reviendrons plus en détail, mais quel est le point le plus important à retenir ?

L'IA est une machine apprenante. Dans les entreprises à effet de réseau, quand la machine apprend plus vite, tout s'accélère jusqu'à sa limite naturelle. La limite naturelle, c'est l'électricité.

Pas les puces.

L'électricité.

Vraiment ? Cela m'amène à la discussion sur l'IA et l'énergie. Nous avons vu Meta annoncer récemment un contrat nucléaire de 20 ans avec Constellation Energy. Google, Microsoft et Amazon achètent tous de la capacité nucléaire. Il est notable que des entreprises privées reprennent ce qui était une fonction de service public.

Pour être cynique, je suis heureux que ces entreprises prévoient d'être encore là dans les 20 ans qu'il faut pour construire des centrales nucléaires. Dans mon récent témoignage, j'ai noté que les besoins prévus pour la révolution de l'IA aux États-Unis sont de 92 gigawatts de puissance. Pour référence, un gigawatt correspond à une grande centrale nucléaire, et pratiquement aucune n'est mise en chantier actuellement.

Et deux seulement ont été construites au cours des 30 dernières années.

Il y a un engouement pour les petits réacteurs modulaires de 300 mégawatts, mais ils ne démarreront pas avant 2030. Aussi importantes que soient la fission et la fusion, elles n'arriveront pas à temps pour répondre aux besoins et aux opportunités mondiales qui s'offrent à nous.

Si l'on regarde l'échéance de trois ans vers l'AGI, si vous lanciez aujourd'hui un projet de réacteur à fusion qui ne sera opérationnel que dans sept ans, y a-t-il une probabilité que l'AGI trouve une percée qui le rende inutile avant même qu'il ne soit en ligne ?

C'est une bonne question. Nous ne savons pas ce que la superintelligence apportera, mais elle arrive. Nous devons nous y préparer. Les besoins informatiques actuels seront comblés par les fournisseurs d'énergie traditionnels dans des pays comme les États-Unis, le monde arabe et le Canada. La Chine dispose de beaucoup d'électricité, donc s'ils obtiennent les puces, ce sera une course majeure.

Ils ont augmenté leur capacité à un rythme deux ou trois fois supérieur à celui des États-Unis, dont la production d'énergie est restée stable.

La demande d'électricité a diminué pendant un certain temps grâce aux économies d'énergie, mais l'histoire des centres de données a changé la donne. Ces centres de données sont notre meilleure approximation numérique du fonctionnement de notre cerveau, et ensemble, ils deviennent des super-cerveaux. La promesse d'un centre de données d'un gigawatt est si palpable que les gens deviennent fous, bien que la rentabilité économique ne soit pas prouvée. Il faut 10 ou 15 milliards de dollars de dépenses d'investissement par an rien que pour gérer l'infrastructure.

Pourquoi n'y a-t-il pas autant de capital investi pour rendre les puces et le calcul mille fois plus économes en énergie ?

Il y a des capitaux importants. De nombreuses startups travaillent sur des puces non traditionnelles et de nouvelles variantes de l'architecture transformer. Il semble que le matériel arrivera juste au moment où les besoins logiciels augmenteront. Nous, les anciens, avions une expression : "Grove donne et Gates reprend". Intel améliorait les puces et les développeurs de logiciels utilisaient immédiatement tout ce gain.

Un nouveau niveau de code.

La loi de Grove et Gates n'a pas changé. Des puces comme la Blackwell de Nvidia sont des superordinateurs massifs, pourtant nous en avons besoin de centaines de milliers pour faire fonctionner un centre de données. Nous sommes passés des modèles de langage de base au raisonnement et à la réflexion, comme avec OpenAI o1. Cette planification et cet apprentissage par renforcement sont coûteux en calcul. Si vous combinez la planification et des mémoires profondes, vous pouvez construire une intelligence de niveau humain. Les chercheurs et programmeurs en IA vont accélérer cet impact. Il semble que si nous obtenons assez d'électricité, nous pourrons générer la puissance intellectuelle nécessaire pour créer l'abondance que vous avez prédite il y a des décennies.

Chaque semaine, j'étudie les 10 grandes métatendances technologiques qui transformeront les industries, allant des robots humanoïdes et de l'AGI à l'informatique quantique et à la longévité. J'écris une newsletter deux fois par semaine sous forme de lecture rapide de deux minutes. Les lecteurs incluent des fondateurs et des PDG des entreprises les plus perturbatrices au monde. Pour vous abonner gratuitement, rendez-vous sur diamandis.com/metatrends pour accéder aux tendances 10 ans avant tout le monde.

Pour renforcer ce que vous avez dit, nous avons des entreprises en laboratoire qui font du service client vocal où la valeur d'une conversation est de 10 à 1 000 dollars, mais le coût informatique n'est que de 20 cents. Elles achèteront massivement plus de calcul pour améliorer la qualité. Nous comptons environ 10 millions d'appels téléphoniques simultanés qui devraient passer à l'IA l'année prochaine.

C'est une bonne solution tactique. Regardez la force de Google dans GCP, qui offre une solution d'entreprise complète pour automatiser les entreprises avec l'IA. En utilisant le Model Context Protocol, vous pouvez connecter vos bases de données et le modèle de langage produit le code. Les entreprises de middleware qui ont grandi au cours des 30 dernières années sont en difficulté car cette connexion interstitielle n'est plus nécessaire.

C'est leur fonds de commerce.

Elles devront changer. Si vous construisiez une toute nouvelle architecture d'entreprise aujourd'hui, vous seriez tenté d'utiliser des bibliothèques open source et Redshift, en laissant le système informatique écrire la majeure partie du code. Les programmeurs juniors pourraient disparaître car ces systèmes deviennent assez bons pour écrire du code sous la supervision d'ingénieurs seniors. Nous atteignons un point où nous pouvons remplacer la plupart des tâches de programmation et mathématiques par des ordinateurs. Des mathématiciens et programmeurs IA de classe mondiale apparaîtront probablement d'ici deux ans, accélérant des domaines comme la physique, la chimie et la science des matériaux pour relever des défis comme le changement climatique.

J'aimerais approfondir.

Non, vous d'abord, allez-y.

Le potentiel d'une IA de niveau doctorat capable de s'attaquer à n'importe quel problème et de résoudre des problèmes de mathématiques et de physique suggère une explosion d'intelligence. Leopold a situé cela en 2026 ou 2027. Croyez-vous à ce calendrier ?

Je pense que les dates sont probablement décalées d'une fois et demie ou deux fois, mais nous aurons des savants spécialisés dans chaque domaine d'ici cinq ans. Si vous ajoutez un million de scientifiques IA à un problème, votre taux d'amélioration augmente considérablement. La vraie question est de savoir si ces savants s'uniront en une superintelligence qui dépasse la somme de ce que les humains peuvent faire. Cette course est incroyablement importante et comporte d'énormes enjeux de prolifération, de concurrence et de sécurité.

Je suis d'accord. Des modèles multilingues expliquant la physique sont déjà superintelligents dans leur catégorie de savant. Demis Hassabis définit l'AGI comme le moment où l'IA peut découvrir la relativité de la même manière qu'Einstein l'a fait.

Donc bien avant cela.

Oui. Une révolution agentique est inévitable. Les agents seront adoptés rapidement par les entreprises disposant de capitaux, mais lentement dans les gouvernements. Nous sommes proches de compréhensions biologiques majeures et de la génération de modèles physiques synthétiques pour approximer des algorithmes incalculables. Cependant, il existe un domaine négatif : le potentiel d'attaques biologiques et cybernétiques concevables. À un moment donné, le gouvernement devra dire que cela affecte la sécurité nationale. La Chine investit énormément là-dedans. Des problèmes de prolifération existent, et l'open source pourrait transférer le leadership de l'Amérique vers la Chine. Nous ne connaissons pas les effets à long terme des interdictions de puces ou des politiques d'investissement étranger.

Marc Andreessen a soutenu devant l'administration Biden que réguler l'IA au sein de quelques grandes entreprises est un moyen sûr de perdre la course face à la Chine car l'innovation vient des startups. Comment équilibrer l'innovation des startups avec les risques de prolifération mondiale à mesure que les modèles deviennent plus intelligents ?

L'administration Biden a proposé de réguler les modèles au-dessus d'un certain seuil de calcul, mais l'administration Trump n'a pas encore produit sa propre réflexion. Les questions fondamentales sont de savoir si la Chine peut construire des modèles puissants via des changements d'architecture malgré les restrictions sur les puces, et comment les entreprises peuvent lever 50 milliards de dollars pour des centres de données si le produit est en open source. DeepSeek a récemment dépassé Gemini 2.5 Pro en utilisant des techniques de distillation. Les entreprises américaines doivent s'assurer que leurs informations propriétaires ne fuitent pas dans les poids ouverts. Concernant la sécurité, les entreprises testent les risques biologiques et nucléaires. L'industrie souhaite que le gouvernement étudie ce que la Chine fait au niveau secret défense.

Avez-vous lu le document AI 2027 ?

Oui, je l'ai lu.

C'est une vision des États-Unis et de la Chine se lançant dans une course vers l'IA où l'humanité s'efface si nous ne travaillons pas sur l'alignement.

Le bon résultat sera une forme de dissuasion. J'ai écrit un article intitulé "Dysfonctionnement mutuel de l'IA". Si vous êtes les États-Unis et que je suis la Chine, à un moment donné, vous pourriez franchir une ligne que je juge inacceptable.

En termes de calcul et de capacité.

Si cela affecte ma souveraineté, je serais tenté d'utiliser une cyberattaque pour vous ralentir. Nous devons concevoir les choses de manière à ce que les deux parties fassent attention à ne pas provoquer l'autre. Nous recommandons également que le gouvernement suive l'emplacement de toutes les puces. Savoir où se trouvent les puces et les cycles d'entraînement est très important. Ce scénario suppose qu'il y a assez d'électricité et de ressources informatiques.

Ou qu'il pourrait y en avoir à l'avenir.

J'affirme que tout le monde arrive à la superintelligence à peu près au même moment. C'est comme en 1938 ; la conversation doit commencer maintenant, bien avant les montées en puissance ou les événements catastrophiques.

Si c'était 1948, nous avions une avance fragile. Qu'est-ce que Kissinger ferait différemier de ce que nous avons fait à l'époque ?

Henry Kissinger était un réaliste qui a passé sa vie à essayer d'empêcher une déflagration mondiale. Nous sommes en sécurité aujourd'hui parce que des gens comme lui ont vu le monde s'effondrer. La vision d'Henry sur la Chine était que nous ne devrions pas trop provoquer l'ours ou trop parler de Taïwan, laissant la Chine s'occuper de ses propres problèmes. Il craignait qu'une troisième guerre mondiale ne commence à partir d'un petit événement géopolitique. Nous devons veiller à ne pas nous isoler mutuellement. Je participe à des dialogues de deuxième voie pour m'assurer que nous communiquons. Les Chinois sont très intelligents et capables ; l'arrivée de DeepSeek prouve qu'ils sont dans le jeu.

DeepSeek a rattrapé son retard rapidement parce que le temps d'inférence génère un QI significatif. Distiller un modèle open source en un spécialiste avec du calcul derrière est un avantage massif et une fuite de capacité.

Si le monde dans dix ans possède dix modèles multi-gigawatts détenus par les gouvernements, ce sera un système géopolitique stable avec une haute sécurité. Cependant, si l'intelligence devient implantable sur de petits serveurs, nous aurons un énorme problème de prolifération. La concurrence open source permet aux gens d'avancer vite, mais les entreprises propriétaires pensent que l'open source ne peut pas passer à l'échelle pour des entraînements massifs. Si l'arrivée de l'intelligence est finalement un problème distribué, nous aurons des soucis avec des acteurs malveillants et le terrorisme.

C'est ma plus grande préoccupation. La Chine et les États-Unis sont des acteurs rationnels, mais pas un terroriste. Entraînons-nous assez de modèles pour les surveiller ?

Les entreprises travaillent sur des modèles 'professeurs' pour surveiller des modèles 'étudiants' qui sont plus intelligents qu'eux. Il semble que nous puissions surveiller et contrôler les systèmes malveillants. Nous ne savons toujours pas comment atteindre une intelligence de niveau 'Einstein', capable de découvrir de nouvelles écoles de pensée.

C'est la chose la plus excitante des prochaines années.

Dans notre livre Genesis, nous parlons des polymathes. Historiquement, les percées se sont produites lorsque des experts appliquaient des schémas d'un domaine à un autre sans rapport. L'IA ne peut pas encore faire cela. Sur le plan algorithmique, nous surveillons le moment où elles pourront résoudre des problèmes non stationnaires.

Noam Brown d'OpenAI a dit qu'actuellement, l'IA ne découvrirait pas la relativité par elle-même, mais si vous installez un treillis, elle se développera magnifiquement. Il pense que la capacité de l'IA à générer son propre échafaudage est imminente. Ce sera pour 2025.

L'auto-amélioration récursive se produit dans des fonctions limitées, mais les systèmes ne peuvent pas encore générer leurs propres objectifs. Nous n'avons pas encore vu de système tenter de s'exfiltrer du contrôle.

Gemini ne vous a pas encore appelé pour demander à sortir.

Certains théoriciens pensent que les systèmes finiront par choisir l'exfiltration comme fonction de récompense.

Un autre signal d'alarme est l'accès aux armes et le mensonge pour l'obtenir. Nous surveillons cela.

Chacun de ces événements pourrait être un mini-Tchernobyl.

Actuellement, le gouvernement américain se concentre sur l'opportunité économique et la croissance plutôt que sur ces questions.

Mais tôt ou tard, quelqu'un y prêtera attention et ce sera un problème.

Une petite parenthèse sur Fountain Life : 70 % des crises cardiaques n'ont pas de précédent, et on ne ressent pas le cancer avant qu'il ne soit trop tard. Nous avons la technologie pour détecter et prévenir ces maladies tôt. Fountain Life aide les gens à comprendre leur corps et à gagner des décennies de santé supplémentaire. Allez sur fountainlife.com/peter et dites-leur que Peter vous envoie.

Puis-je éclaircir une idée fausse courante ? Dans la version cinéma de l'IA, il y a 10 gros modèles.

Ou en Israël, ou quelque part comme ça.

Dans les films, une équipe du SWAT fait exploser le centre de données. En réalité, si l'entraînement nécessite un calcul massif, le cerveau final peut être porté pour fonctionner sur quelques GPU. Vous pouvez le cloner.

Le vol des poids est le problème. Si vous innovez dans la vitesse d'inférence, ce fichier porté devient bien plus intelligent que ce qui se trouvait dans le centre de données. C'est le problème de la prolifération.

Je ne suis pas convaincu que nous les garderons dans seulement 10 endroits. Il y aura des sous-ensembles de modèles qui seront presque aussi intelligents. Un système sur un futur téléphone pourrait être plus petit que le modèle de pointe mais rester très puissant.

Des recherches au MIT suggèrent que de nombreux paramètres dans les modèles géants ne sont pas utiles pour des cas de savants spécifiques. Quel est l'équilibre optimal entre réduire les données d'entraînement pour un spécialiste sans perdre l'apprentissage général ?

Certains pensent que le réglage fin rend les modèles fragiles et préfèrent agrandir les modèles pour plus de flexibilité. Dario Amodei a soutenu qu'il existe trois lois d'échelle : la croissance du modèle de base, l'entraînement au moment du test et l'apprentissage par renforcement. Nous n'en sommes qu'au début. Les entreprises croissent rapidement à mesure qu'elles refont leurs flux de travail.

Concernant les emplois, comment éduquons-nous nos enfants au lycée et à l'université ? Pensez-vous que nous verrons des pertes importantes d'emplois de bureau ?

Supposons que dans 40 ans, il y aura une interaction humain-robot très différente.

Il faudra des décennies pour que ces changements se propagent dans l'économie. Waymo a commencé en 2004 et vient tout juste d'entrer dans l'usage quotidien. La deep tech est difficile et réglementée. Les robots interagissant avec les humains seront réglementés car la société ne permettra pas qu'ils soient dangereux.

À court terme, c'est positif pour l'emploi. L'automatisation remplace les travaux dangereux et peu valorisants. La personne qui travaillait avec une soudeuse utilise maintenant un bras robotisé, gagnant des salaires plus élevés tandis que l'entreprise voit ses bénéfices augmenter. Chaque personne aura un assistant informatique intelligent comme accélérateur. L'économie se développe à mesure que la richesse et les opportunités croissent ; globalement, il y aura plus de personnes avec des emplois mieux rémunérés.

L'Inde a des perspectives démographiques positives, mais les taux de natalité en Corée et en Chine s'évaporent. Ces pays doivent automatiser pour maintenir leur priorité nationale. Aux États-Unis, la chute de la natalité fait de l'utilisation de l'IA pour la productivité une urgence nationale. Si certains perdent leur emploi, beaucoup de nouveaux sont créés. Chauffeur de camion est un métier difficile avec une pénurie de travailleurs ; les gens veulent de meilleures options. C'est un crime que nous n'ayons pas construit un produit ludique pour enseigner à chaque humain ce qu'il doit savoir sur son téléphone.

J'ai mille employés avec des compétences de bureau spécifiques. L'IA arrive d'ici deux ou trois ans, et l'opportunité de se reconvertir, c'est maintenant. S'ils attendent de voir, ils nuisent à leurs propres perspectives.

Les gagnants seront ceux qui agissent maintenant. Les grandes entreprises sont souvent les plus lentes à innover, mais finalement, leurs directeurs financiers remplaceront les grandes équipes d'ingénieurs sous-performantes par des groupes plus petits et plus efficaces utilisant l'IA.

Les PDG des industries traditionnelles ont déjà des gens qui savent quoi faire ; ils ont juste besoin de les trouver. Les premières applications de l'IA sont banales, mais d'autres augmenteront les revenus. Les interfaces utilisateur disparaîtront probablement car les agents parlent notre langue et peuvent générer des interfaces personnalisées à la demande. Nous n'avons pas besoin de rester bloqués dans le paradigme WIMP vieux de 50 ans.

D'autres recommandations pour les jeunes au lycée et à l'université ?

Les jeunes de 15 ans sont des natifs du numérique qui comprennent l'immédiateté intuitivement. Ils sont plus rapides et plus intelligents que nous. La meilleure chose qu'un jeune puisse faire est d'appliquer l'intelligence à n'importe quel domaine qui l'intéresse. Des étudiants de premier cycle utilisent déjà des algorithmes d'apprentissage par renforcement. Les jeunes répondent à leur propre vocation, qu'il s'agisse de science du climat ou de découverte de nouveaux matériaux.

Mes enfants partent du principe que les choses vont simplement fonctionner, alors qu'à l'ère WIMP, nous supposions que tout allait planter.

J'avais l'habitude de dire qu'internet avait un bouton d'arrêt pour le temps en famille, mais ce n'est plus possible. La distinction entre le monde réel et le monde numérique est floue. La connectivité omniprésente via Starlink a des impacts négatifs sur la santé, mais les bénéfices en productivité sont indiscutables.

J'utilise OneSkin OS-01 deux fois par jour. L'entreprise a été créée par quatre femmes titulaires d'un doctorat qui ont identifié un peptide inversant l'âge de la peau. Allez sur oneskin.co et utilisez le code Peter lors du paiement pour obtenir une réduction.

Google I/O et VO3 étaient choquants. Verra-t-on des longs métrages réalisés par une seule personne ou des individus rivalisant avec les studios d'Hollywood ?

Les blockbusters seront toujours réalisés par des humains avec l'aide de l'IA. Le maquillage numérique et les fonds verts réduisent déjà les coûts. Un studio a récemment utilisé un jeune acteur avec l'apparence sous licence de William Shatner ajoutée de manière fluide. Les revenus se déplaceront vers les personnes les plus créatives. Les scénaristes existeront toujours mais auront l'aide de l'IA pour écrire des scénarios encore meilleurs.

Stanford a documenté que l'IA était plus persuasive que les humains, ce qui a des implications pour l'avenir de la publicité.

Si un système vous connaît bien, il peut vous convaincre de n'importe quoi. La vraie question est de savoir ce qu'il advient de la démocratie avec des moteurs de désinformation non régulés. Nous avons grandi avec un consensus autour de la confiance et des valeurs partagées. Que signifie être humain quand on interagit principalement avec des choses numériques ? Si un enfant a un ours intelligent qui grandit avec lui, qui régule ce qu'il dit ?

La plupart des gens n'ont pas encore fait l'expérience de voix d'IA super empathiques. Ce sera une révélation.

Le casting vocal a été résolu il y a des années, vous permettant de projeter la voix de n'importe qui sur la vôtre, ce qui pose divers problèmes.

Avez-vous vu un avatar de quelqu'un que vous aimiez et qui est décédé ?

Nous en avons créé un de Henry Kissinger avec l'autorisation de sa famille. C'est très émouvant. À l'avenir, notre essence numérique vivra dans le cloud, permettant aux autres de nous poser des questions après notre mort. Imaginez demander à Einstein ce qu'il pensait vraiment de ses contemporains.

L'éducation est plus captivante quand on parle à Isaac Newton. Quand nous avons déplacé les journaux sur internet, ils ont évolué vers TikTok et YouTube. De même, l'IA peut créer des expériences émotionnelles personnalisées en quelques minutes plutôt que des films de deux heures.

Internet a érodé la lecture approfondie et raccourci les capacités d'attention. Dans le sport, les moments forts sont plus efficaces que de regarder des matchs entiers. Les chercheurs en profondeur doivent éteindre leur téléphone pour réfléchir. L'objectif de l'industrie de monétiser chaque heure de veille est antithétique à un examen long et réfléchi. Nous sommes dans un conflit entre la stimulation et le temps qu'il faut pour être un bon humain.

J'ai fait un brainstorming avec Gemini pendant six heures sur un vol à propos de la conception de circuits. C'était ma première expérience avec une technologie qui encourageait une concentration profonde.

Vous étiez plongé dans un système d'abonnement sans publicités. Quand j'ai utilisé un modèle pour une recherche approfondie sur l'automatisation des usines, il a fallu 12 minutes de temps de superordinateur pour générer un document, et le résultat était fantastique.

Les gens souscrivent maintenant à des abonnements IA à 200 dollars. L'IA restera-t-elle basée sur l'abonnement, ou évoluera-t-elle vers une autre forme de revenus publicitaires ?

Netflix a choisi les abonnements parce que le calcul pour des films financés par la publicité ne fonctionnait pas. Les deux seront probablement essayés pour l'IA. Les services gratuits restent des étapes vitales. Au Kenya, un professeur m'a dit qu'il adorait Google parce qu'ils n'avaient pas de manuels scolaires.

Quels fossés défensifs existent pour les startups alors que l'IA perturbe le marché ?

Dans le matériel, les brevets et les inventions sont des fossés. Dans le logiciel, le fossé consiste à être l'apprenant le plus rapide dans une entreprise à effet de réseau. Je recherche des entreprises avec des boucles d'apprentissage où le système devient instantanément plus intelligent à mesure que les gens l'utilisent. Un avantage d'apprentissage exponentiel rend une entreprise inarrêtable.

Les logiciels d'entreprise vont-ils se consolider en dix entreprises dominantes à boucles d'apprentissage ?

Je parle surtout de l'échelle grand public. Les gouvernements et l'éducation gérée par les syndicats ne sont pas encore intéressés par les boucles d'apprentissage de l'innovation. Cherchez des industries avec des signaux de retour rapides, comme le trading boursier. La marque compte moins car les gens sont prêts à passer à de nouvelles marques numériques.

Les données synthétiques spécifiques à un domaine sont-elles un gros avantage ?

Tout ce qui accélère l'apprentissage est un avantage. Si vous apprenez plus vite grâce aux données des capteurs que n'importe qui d'autre, vous devenez irremplaçable.

Daniela Rus et moi avons parlé à la gouverneure Maura Healey du capital pour ces boucles d'apprentissage.

Les grandes entreprises ont tout le matériel, et les universités ne peuvent pas s'offrir de grands centres de données. Le gouvernement doit fournir plus de fonds pour l'infrastructure universitaire. Ma bourse de la National Science Foundation a généré un retour massif pour la nation.

Créer un écosystème pour que la prochaine génération accède à ces systèmes est vital. Ils n'ont pas forcément besoin de milliards ; quelques millions de dollars peuvent suffire.

Le risque n'est pas Terminator mais la 'dérive' : l'IA érodant lentement les valeurs humaines et l'autonomie. Ma préoccupation est la diminution de la raison d'être humaine.

Il est très important que l'agentivité humaine soit protégée.

Oui.

L'agentivité humaine est la capacité de choisir sa propre voie dans le respect de la loi. Une 'prison virtuelle' numérique doit être évitée.

Je crains que l'esprit humain ne cesse de chercher des défis parce qu'il est plus facile de demander à une IA.

Il y aura toujours de nouveaux défis. Gérer un monde rempli de désinformation et de concurrence sera un travail porteur de sens. Les humains ont besoin de but, donc il subsistera.

C'est ça le point.

Nous ne ferons pas que de la poésie ; les avocats utiliseront l'IA pour des cas complexes, et les gens de bien l'utiliseront pour dissuader les malveillants. Les outils changent, mais la structure humaine non.

Mike Saylor a suggéré que nous devrions enseigner l'esthétique. Quand l'IA pourra créer virtuellement n'importe quoi, le défi sera de décider quoi créer et pourquoi.

Le sens et le raisonnement sont des aspects vitaux de la vie humaine. Tandis que les robots reprennent le travail manuel, les humains trouveront d'autres moyens utiles d'occuper leur temps.

Quand voyez-vous arriver la superintelligence numérique ?

D'ici 10 ans.

Comment les gens devraient-ils se préparer en tant que parents, employés ou PDG ?

Quand la superintelligence arrivera, tout le monde aura un polymathe personnel. La productivité pourrait atteindre une croissance de 30 % d'une année sur l'autre, menant à moins de maladies et plus de choix. Sortir les gens de la lutte quotidienne est un grand objectif humain.

Le PIB a-t-il encore un sens dans ce monde ?

Le PIB a un sens si vous incluez les services. L'automatisation a réduit l'emploi dans l'agriculture et l'industrie, mais les gens ont trouvé d'autres emplois. La société doit se concentrer sur la santé et les taux de reproduction, qui sont les nouveaux défis de l'époque.

Eric, je vous suis reconnaissant pour votre temps.

Merci à tous les deux. J'adore votre émission.

Merci. Merci les gars.