Et nous sommes aujourd'hui aux prises avec la question qu'il a prévue il y a 20 ans quand nous avons commencé à travailler sur ce sujet : que signifie être humain à l'ère de l'IA ? Que signifie être un enfant, un adulte, un leader ? Qu'est-ce que cela signifie pour l'économie ? Qu'est-ce que cela signifie pour les emplois, tout cela. Parce que nous, en tant qu'humains, n'avons jamais eu de concurrent qui ne soit pas humain mais d'un niveau d'intelligence similaire ou supérieur. Et il est imprévisible de savoir ce que nous, les humains, ferons.

L'ancien PDG de Google, Eric Schmidt, vient de donner une interview assez choquante à la Harvard Kennedy School. Il a prévenu que l'IA automatisera tout à une échelle massive dans les deux prochaines années et qu'il sera vraiment difficile pour nous, les humains, de rivaliser avec elle. Il a également prévenu qu'au rythme où la Chine avance, elle vaincra facilement les États-Unis dans les années à venir. Regardons l'interview et je vais tout décortiquer au fur et à mesure.

La question est donc de savoir ce qui se passe avec le temps. Vous avez donc le langage, les agents et le raisonnement. Eh bien, n'est-ce pas ce que nous faisons ? Nous faisons des choses, nous communiquons et nous agissons. Le consensus de San Francisco est donc qu'à un moment donné, tout cela se rejoint et on obtient ce qu'on appelle techniquement l'auto-amélioration récursive. L'auto-amélioration récursive, c'est quand l'IA apprend par elle-même. Ce n'est pas vrai aujourd'hui. Aujourd'hui, quand on installe l'un de ces énormes centres de données, on doit lui dire quoi apprendre. Mais on pense que cela arrive. Et il y a beaucoup de preuves que cela arrive. La capacité des ordinateurs à écrire des programmes, à générer des conjectures mathématiques, à découvrir de nouveaux faits semble très proche. Beaucoup de gens croient qu'il y aura de nouvelles mathématiques conçues, des mathématiciens IA pour l'année prochaine. Donc, collectivement en tant qu'industrie, nous croyons que cela va arriver bientôt. Si vous demandez aux gens de San Francisco, ils diront deux ans, ce qui est très proche. Si vous me demandez, je double cela à quatre ans, ce qui est aussi très proche. Donc ça arrive, ça arrive très vite. Je veux, et Henry le voulait certainement, nous voulons qu'elle soit construite avec des valeurs américaines et des valeurs humaines. Il y a un point, à mon avis, et nous en avons beaucoup parlé, où quelqu'un va devoir lever la main et dire que nous sommes allés trop loin. Il y a trop de danger ici. Nous ne voulons pas donner cette agence à l'ordinateur, nous voulons que les humains soient aux commandes. Il n'y a pas d'accord sur l'endroit où se trouve ce point, mais notre livre passe beaucoup de temps à parler de l'endroit où il pourrait se trouver. Un autre exemple serait que vous découvriez que l'ordinateur a décidé de lui-même d'accéder à des armes. C'est clairement une idée que tout le monde s'accorderait à juger mauvaise. C'est déjà assez grave que les humains aient accès à des armes, imaginez si l'ordinateur les a. Et quels sont les critères par lesquels... et vous pouvez imaginer beaucoup d'autres exemples de ce genre.

Ensuite, Eric explique comment la Chine va vaincre les États-Unis dans le domaine de l'IA d'ici deux à trois ans.

Mon propre point de vue est que l'écart va se creuser mais pour des raisons différentes. Je pense que l'accent mis par les Chinois est largement, comme je l'ai mentionné, sur l'intégration de l'IA dans tout. Les grille-pains intelligents, les voitures, etc. Ils avancent beaucoup plus vite que les robots. Je pense que la grande majorité des robots humanoïdes seront propulsés par l'IA chinoise et fabriqués par l'IA chinoise simplement parce qu'ils savent comment faire baisser les coûts. Leurs chaînes d'approvisionnement sont incroyables, leur gestion des coûts, ils travaillent si dur, etc. Mon hypothèse est donc que l'écart va probablement s'agrandir, mais la vraie question est de savoir si vous, en tant que consommateur, aurez finalement une meilleure expérience avec un produit chinois qu'avec un produit américain. Et la réponse est, du point de vue de la finition, probablement le produit chinois. Et c'est préoccupant. Mon opinion est que les grandes entreprises ne finiront pas par publier leurs plus grands modèles. Ce sera trop dangereux de le faire, donc elles en feront des sous-ensembles. C'est ce que je ferais. Je suppose qu'elles en viendront à cette décision. Je pense que la question la plus intéressante est celle de l'ouvert contre le fermé. Pour ceux d'entre vous qui n'ont pas d'expérience dans ce domaine, l'open source, les poids ouverts. L'open source est ce que j'ai fait pendant des décennies. Lorsque vous utilisez n'importe quelle forme d'ordinateur, une grande partie du logiciel que vous utilisez a été développée par l'open source, ce qui signifiait que le code source était publié et que les gens le faisaient progresser collectivement. Et il y avait tout un mouvement autour de cela auquel je participais. Je suis donc farouchement favorable à l'open source dans mon approche. Les grandes entreprises sont en source fermée principalement pour des raisons économiques. En gros, si vous empruntez 50 milliards de dollars au marché financier, ils veulent un retour sur investissement, et leur dire que nous allons donner tous les modèles et qu'ils n'auront pas leur retour n'est probablement pas une très bonne stratégie juridique ou financière. Le modèle américain semble donc avoir émergé comme étant fermé. Curieusement, le modèle chinois est complètement en poids ouverts et en open source. Pourquoi ? Je ne sais pas. Une explication possible est que le gouvernement chinois a compris qu'il perdait dans le domaine du source fermée parce qu'il ne pouvait pas obtenir le matériel, et que l'open source, parce qu'il est gratuit, lui permet une prolifération. L'une des conséquences de l'open source et des poids ouverts est que la grande majorité des humains sur la planète utiliseront des modèles chinois. Pourquoi ? Parce qu'ils sont gratuits. Et la plupart des pays ne peuvent pas s'offrir la puissance de calcul et les centres de données. Ils vont simplement prendre les modèles chinois gratuitement et les intégrer. Est-ce un problème ? Absolument. Parce que cela vient avec des valeurs chinoises, un entraînement chinois, des biais chinois, etc. Nous préférerions que ce soit américain. Nous verrons bien. Il y a quelques projets open source en Amérique que je soutiens, mais ils ne peuvent pas lever les 10 milliards de dollars nécessaires sur les marchés publics pour arriver là où ils veulent. Ce sont donc des joyaux, mais ils ne sont pas à l'échelle. J'ai soutenu que le gouvernement américain devrait aider à les financer, j'ai soutenu que des philanthropes devraient aider à les financer, mais je ne sais pas vraiment.

D'accord, dans cette partie suivante, Eric Schmidt explique comment l'IA devient consciente à mesure que nous avançons vers l'AGI et l'ASI.

Je suis curieuse de savoir ce que vous pensez de la conscience dans l'IA et si vous pensez qu'il y a une possibilité que l'IA soit ou devienne consciente, à quoi cela ressemble, à quoi ressemble le bien-être du modèle dans ce cas.

Eh bien, laissez-moi vous poser une question simple. Donc nous avons, je vais accorder à Graham le crédit d'être conscient. Et en retour, il semble être conscient. Et en retour, Graham va me l'accorder. Pour les besoins de l'argumentation, l'ordinateur est sur la table. Et nous demandons à l'ordinateur 'es-tu conscient ?' et il répond 'oui'. Et donc vous, en tant qu'étudiant diplômé intelligent ici à Harvard, vous proposez une série de questions. Il répond correctement à chaque question. Comment savons-nous ? Comment pourriez-vous savoir que l'ordinateur est conscient ? Comment comprendriez-vous son état de raisonnement interne ? Maintenant, on pourrait instrumenter la façon dont son raisonnement fonctionne, ce que les gens font actuellement ; ils observent ce qu'on appelle des super-nœuds au sein de la structure des poids pour voir comment il prend réellement ses décisions. Donc peut-être qu'on pourrait découvrir la conscience par l'inspection, mais c'est de la spéculation.

D'accord, donc cette partie suivante est assez intéressante. Eric explique comment les deux nations, les États-Unis et la Chine, conçoivent différemment la menace imminente de l'IA.

Quel serait, selon vous, l'élément distinctif clé dans l'automatisation des entreprises par l'IA en Chine sur lequel vous pensez que les États-Unis doivent rattraper leur retard, ou du moins dans les startups de la Silicon Valley de nos jours ?

Quel est le sujet de votre doctorat ?

Je travaille sur le raisonnement pour les grands modèles de langage.

Parfait. Alors quel est votre horizon temporel pour l'AGI ?

Je dirais environ six à sept ans.

Ah, vous voyez, pas le consensus de San Francisco. Consensus de la côte Est. Bien. Nous verrons. Vous avez peut-être raison. Je pense que cela a à voir avec la grandeur des rêves. Quand je suis en Chine, je n'entends pas la même rhétorique qu'en Californie. En Californie, c'est 'dans deux ans, le monde changera, personne n'est prêt, cela arrive si vite', etc. C'est ce genre de rhétorique qui stimule et qui s'auto-reproduit ; c'est un système de croyance comme une religion. Maintenant, cela prend toujours plus de temps que ne le disent les rêveurs. Je n'entends pas cela en Chine. C'est notablement différent. Par exemple, avec le raisonnement, vous savez ce que DeepSeek a fait avec R3, ils ont fait un travail fantastique ; ils ont inventé une nouvelle façon de faire du réglage fin supervisé, des trucs vraiment intelligents. On n'en entend tout simplement pas parler à l'échelle nationale. Et d'ailleurs, DeepSeek est un champion national pour la Chine. Ils sont sur la liste des entreprises célèbres et reçoivent d'énormes sommes d'argent. La dernière fois que je les ai rencontrés, ils ont dit 'nous avons résolu notre problème de matériel', ce qui était un message codé signifiant que le gouvernement venait de leur donner beaucoup de puces. Bienvenue dans un pays communiste.

Dans la partie suivante, Eric prévient que la Chine fait des prouesses incroyables dans le domaine de l'IA, et qu'elle avance trop vite pour que nous puissions rivaliser.

Eh bien, laissez-moi dire que je pense qu'il n'y a pas de devoir plus élevé que de préserver l'agence humaine et la liberté humaine. Les choses que nous apprécions collectivement le plus. Et je pense que ce sera un défi central pour vous tous quand vous obtiendrez votre diplôme. Vous serez tous confrontés à ces problèmes et ils sont compliqués et subtils. Imaginez si l'internet avait été inventé par la Chine et qu'il n'avait pas le genre d'ouverture que l'internet a aujourd'hui, qu'il était sous l'internet chinois. Il semble que la Chine poursuive une strategy différente de celle dont je parle. Lors de ma dernière visite en Chine, ma façon de procéder est de poser des questions techniques aux ingénieurs parce qu'ils ne vous mentent pas. Alors que pour tous les autres, je n'en suis pas si sûr. Et j'ai fini par comprendre que ce que font les Chinois, c'est qu'ils se concentrent vraiment sur l'application de l'IA dans leurs entreprises. Et ils vont nous surpasser ; nous allons perdre face à la Chine à cause de leur incroyable adoption de l'IA dans chaque produit. Parce qu'ils sont tout simplement implacables et qu'ils travaillent tellement dur, ce qu'on appelle le 996 : 9 heures du matin à 9 heures du soir, 6 jours par semaine — illégal d'ailleurs en Chine, illégal en Amérique, mais néanmoins pratiqué. Ils arrivent. Ils ne semblent pas aussi concentrés sur la superintelligence et le chemin que je décrivais comme le consensus de San Francisco ; bien sûr, cela pourrait changer. Il semble donc que les deux poursuivent des chemins différents. L'une des questions pour vous tous au niveau des études supérieures, même les étudiants de premier cycle étant donné que c'est Harvard, est de commencer à comprendre ce qui se passe quand ces chemins divergents frappent des obstacles. Parce qu'ils en ont tous les deux. Un exemple serait qu'en Amérique, nous n'avons pratiquement produit aucune nouvelle électricité parce qu'il est très difficile de fournir de l'électricité. La Chine a de l'électricité à l'infini grâce à ses investissements incroyables dans les énergies renouvelables et autres, ils ont construit quelque chose comme 120 gigawatts de nouvelle énergie renouvelable au cours des cinq dernières années.

Pas possible. Chaque jour en Chine. Jeudi, samedi, lundi, chaque jour un autre gigawatt d'électricité est ajouté au réseau. Toute l'année. Chaque jour.

Eh bien c'est vrai, c'est assez extraordinaire. Chaque jour. Donc mon point de vue est — et juste pour vous donner un exemple — quelle est la taille d'une centrale nucléaire ? Environ 1,5 gigawatt. C'est donc l'échelle de la révolution de l'électricité qui se produit en Chine, encore une fois en utilisant ces chiffres. Combien de centrales de ce type avons-nous construites en Amérique ? Zéro. Et nous sommes certainement en train de perdre la course aux énergies renouvelables face à la Chine pour les raisons que tout le monde ici connaît. Ils ont donc beaucoup de puissance ; nous n'en avons pas. Nous avons beaucoup de puces, ils n'en ont pas. Cela installe la compétition, et chacun poursuivra des voies différentes. L'une des questions techniques — il y a quelque chose qu'on appelle la diffusion où ce que vous faites, c'est que vous prenez un modèle très puissant, nous utiliserons Gemini 3, le meilleur en ce moment, et vous lui posez 10 000 questions et vous prenez les réponses, puis le système peut apprendre des questions et des réponses suffisamment pour imiter sans le coût de faire le gros entraînement du gros modèle. Donc, encore une fois, réfléchir aux stratégies que la Chine poursuivra et aux stratégies disponibles pour l'Amérique est probablement assez important. Ce qui est intéressant, c'est que les deux pays comptent sur le secteur privé pour le faire. Vous auriez pensé, à l'époque de Henry, que l'on aurait utilisé le gouvernement. Mais en fait, notre gouvernement ne peut pas avancer aussi vite, les systèmes de compensation, etc. Il s'avère que c'est probablement vrai aussi pour les Chinois. Je ne sais pas au niveau de la sécurité si c'est vrai, mais je n'ai trouvé aucun grand projet de type Manhattan au sein de la Chine, bien qu'il y ait plein de gens dans les entreprises privées qui travaillent dur sur la sécurité nationale.

Ensuite, l'hôte a demandé au Dr Schmidt à quoi ressemblera notre monde dans les deux à trois prochaines années avec l'IA qui s'insinue dans tous les domaines que les humains dominaient autrefois.

Quand j'ai commencé au lycée, j'étais un programmeur précoce. Et je prenais plaisir à écrire du code. Quand je suis allé à l'université et en école doctorale, c'était tout ce que je voulais faire. J'ignorais toutes ces choses d'histoire. J'étais la définition d'un geek à l'époque. Et tout ce que j'ai fait dans ma vingtaine, ce qui m'a mené là où je suis, est maintenant complètement automatisé. Chaque aspect de la programmation que je faisais, chaque aspect de la conception est maintenant fait par des ordinateurs. J'ai récemment fait écrire tout un programme pour moi et je suis assis là à le regarder définir les classes et le détail des interactions à mesure qu'il génère, en me disant 'punaise, c'est la fin de moi'. Et je pense qu'en regardant — je fais de la programmation depuis 55 ans. Voir quelque chose commencer puis se terminer au cours de sa propre vie alors qu'on est encore en vie est vraiment profond. Désormais, l'informatique ne va pas disparaître. Les informaticiens seront — au moins jusqu'à ce que l'informaticien soit remplacé — en train de superviser cela. Mais la capacité de générer du code à la puissance que ces systèmes peuvent faire est révolutionnaire. Cela signifie que chacun d'entre vous a un superordinateur et un superprogrammeur dans sa poche. Maintenant, personne ici n'est un terroriste. Mais en utilisant — il est toujours plus facile d'utiliser des exemples négatifs. Il y a plein de jeunes hommes vivant dans le sous-sol, leurs mères leur donnent à manger et ils sont assis là sur l'équivalent de crypto 4chan, choisissez votre poison. Ils ont tous la capacité d'utiliser ces outils pour construire des systèmes incroyablement puissants. Des cyberattaques, d'autres choses, peu importe ce qui leur tient à cœur. Il y avait des preuves que Mangioni, l'homme qui a tué le cadre de l'assurance, s'intéressait à certains de ces sujets et certaines personnes regardaient certains de ses écrits — bien sûr il est en prison maintenant — mais qu'il était en quelque sorte influencé par cela. Je ne prouve pas de causalité ici, mais c'est un exemple de certains des recoins les plus sombres de l'humanité ; si vous donnez ce genre d'outils à ces gens, nous devons être prêts. L'industrie en est bien consciente et nous y travaillons. Il est très important que les systèmes défensifs soient capables. La solution finale contre la mauvaise IA est une bonne IA combattant la mauvaise IA. Et c'est ainsi que cela se résout.