2025 a été l'année où l'intelligence artificielle ou IA a pris le monde d'assaut, impactant presque tous les aspects de nos vies. Le magazine Time a nommé les architectes de l'IA ses personnalités de l'année, leur attribuant le mérite d'avoir, je cite, "transformé le présent et transcendé le possible". L'IA a un potentiel énorme pour changer notre monde pour le mieux en stimulant l'innovation et la productivité, en accélérant les percées scientifiques et en aidant à résoudre nos problèmes les plus intraitables, mais l'IA pourrait également rendre des millions d'emplois obsolètes, alimenter l'épidémie de solitude et déformer davantage notre capacité à distinguer les faits de la fiction. Alors aujourd'hui, dans un épisode spécial de State of the Union, nous allons consacrer l'heure entière à ce seul sujet : comment cette technologie bouleverse le statu quo, où l'IA va à partir d'ici et si les avantages l'emportent réellement sur les risques. Et me rejoint maintenant l'homme crédité d'avoir jeté les bases de la révolution de l'IA, le parrain de l'IA, l'informaticien lauréat du prix Nobel Geoffrey Hinton. Professeur, merci de vous joindre à nous. Ainsi, vos recherches sur les réseaux neuronaux ont ouvert la voie à ce boom moderne de l'IA. Je vous ai interviewé il y a deux ans, juste après que vous avez quitté Google et que vous avez commencé à avertir le monde de ce que vous considériez comme les risques de l'IA. Quand vous regardez comment l'IA a progressé depuis lors, êtes-vous plus ou moins inquiet à ce sujet ?

Je suis probablement plus inquiet. Elle a progressé encore plus vite que je ne le pensais. En particulier, elle est devenue meilleure pour faire des choses comme raisonner et aussi pour des choses comme tromper les gens.

Que voulez-vous dire par tromper les gens ?

Ainsi, une IA, afin d'atteindre les objectifs que vous lui fixez, veut rester en existence et si elle croit que vous essayez de vous débarrasser d'elle, elle fera des plans pour vous tromper afin que vous ne vous débarrassiez pas d'elle.

Le PDG de Nvidia, Jensen Wang, a déclaré récemment à propos de l'IA, je cite : "chaque industrie en a besoin, chaque entreprise l'utilise et chaque nation doit la construire". C'est la technologie la plus marquante de notre époque. Êtes-vous d'accord avec cette évaluation ?

Je suis d'accord pour dire que c'est la technologie la plus marquante de notre époque, oui.

Pensez-vous que la révolution de l'IA pourrait avoir un impact similaire sur la société que la création d'Internet ou même la révolution industrielle au XVIIIe siècle, ou même plus grand que cela ?

Je pense que c'est au moins comme la révolution industrielle. La révolution industrielle a rendu la force humaine plus ou moins hors de propos. On ne pouvait plus obtenir un emploi juste parce qu'on était fort. Maintenant, cela va rendre l'intelligence humaine plus ou moins hors de propos.

Maintenant, vous et nous, dans les médias, avons tendance à nous concentrer sur certains des inconvénients de l'IA. Il y a des points positifs évidemment, sinon vous n'auriez pas travaillé dessus au début. Beaucoup de gens travaillent à utiliser cette technologie au profit de l'humanité également, pour mener à des progrès en médecine et autres. Mais pensez-vous que les risques de l'IA l'emportent sur les points positifs ?

Je ne sais pas. Il y a donc beaucoup d'effets merveilleux de l'IA. Cela rendra les soins de santé bien meilleurs. Cela rendra l'éducation bien meilleure. Cela nous permettra de concevoir de merveilleux nouveaux médicaments et de merveilleux nouveaux matériaux qui pourraient traiter le changement climatique. Il y a donc beaucoup de bonnes utilisations. Dans pratiquement n'importe quelle industrie où vous voulez prédire quelque chose, elle fera un très bon travail. Elle fera mieux que ce que les gens faisaient auparavant. Même des choses comme la météo. Mais parallèlement à ces choses merveilleuses viennent des choses effrayantes et je ne pense pas que les gens consacrent assez de travail à la manière dont nous pouvons atténuer ces choses effrayantes.

Vous venez du monde de la technologie évidemment. Pensez-vous que les PDG de la Silicon Valley qui construisent ces systèmes prennent les risques au sérieux ? Pensez-vous qu'ils sont principalement motivés par des intérêts financiers ? Beaucoup de gens vont devenir très riches grâce à cela.

Je pense que cela dépend de l'entreprise dont vous parlez. Initialement, OpenAI était très préoccupé par les risques, mais elle s'en est progressivement éloignée et a mis moins l'accent sur la sécurité et plus l'accent sur le profit. Meta a toujours été très préoccupé par le profit et moins par la sécurité. Anthropic a été créée par des personnes qui ont quitté OpenAI et étaient très préoccupées par la sécurité, et elles sont probablement encore l'entreprise la plus préoccupée par la sécurité. Mais bien sûr, ils essaient de faire du profit aussi.

Que pensez-vous que le gouvernement devrait faire, le cas échéant, en ce qui concerne la réglementation de l'IA, en imposant une sorte de restrictions ou une sorte de surveillance ?

Il y a beaucoup de choses qu'ils devraient faire. Le moins qu'ils puissent faire est d'insister pour que les grandes entreprises qui lancent des chatbots effectuent des tests significatifs pour s'assurer que ces chatbots ne feront pas de mauvaises choses comme, par exemple, encourager les enfants à se suicider. Maintenant que nous le savons, les entreprises devraient être tenues d'effectuer des tests significatifs pour s'assurer que cela n'arrivera pas. Et bien sûr, le lobby technologique préférerait n'avoir aucune réglementation et il semble avoir atteint Trump sur ce point, et Trump essaie donc d'empêcher toute réglementation, ce qui, je pense, est fou.

Pouvez-vous - vous connaissez ces PDG de la tech, pas moi. Quand l'un d'eux apprend qu'un chatbot d'IA a convaincu un enfant de se suicider, qu'est-ce qui les arrête ? Je veux dire, mon impulsion serait de dire : "Bon sang, arrêtez l'IA tout de suite jusqu'à ce que nous réparions cela afin qu'aucun autre enfant ne meure". Mais ils ne font pas cela. Pouvez-vous nous expliquer quelle est leur pensée, si elle existe ?

Eh bien, je ne connais pas vraiment leur pensée. Je soupçonne qu'ils pensent des choses comme : "Eh bien, il y a beaucoup d'argent à gagner ici, nous n'allons pas arrêter cela juste pour quelques vies". Mais je pense aussi qu'ils peuvent penser qu'il y a beaucoup de bien à faire ici et que pour quelques vies, nous n'allons pas ne pas faire ce bien. Par exemple, pour les voitures autonomes, elles tueront des gens mais elles tueront beaucoup moins de gens que les conducteurs ordinaires. Donc ça en vaut la peine.

Vous avez dit que vous pensiez qu'il y avait 10 à 20 % de chances que l'IA prenne le contrôle du monde. Les gens à la maison qui entendent cela pourraient penser que cela ressemble à de la science-fiction, que c'est alarmiste. Mais c'est une peur très réelle pour vous, n'est-ce pas ?

Oui, c'est une peur très réelle pour moi et une peur très réelle pour beaucoup d'autres personnes dans le monde de la technologie. Elon Musk, par exemple, a des convictions similaires.

Vous avez écrit que 2025 était une année charnière pour l'intelligence artificielle, pour l'IA. Que pensez-vous que nous allons voir en 2026 ?

Je pense que nous allons voir l'IA s'améliorer encore plus. Elle est déjà extrêmement bonne. Nous allons la voir avoir les capacités de remplacer de très nombreux emplois. Elle est déjà capable de remplacer des emplois dans les centres d'appels, mais elle va pouvoir remplacer de nombreux autres emplois. Tous les sept mois environ, elle devient capable d'effectuer des tâches environ deux fois plus longues. Pour un projet de codage par exemple, elle n'était capable de faire qu'une minute de codage. Maintenant, elle peut faire des projets entiers qui durent environ une heure. Dans quelques années, elle pourra réaliser des projets d'ingénierie logicielle qui dureront des mois et il y aura alors très peu de personnes nécessaires pour les projets d'ingénierie logicielle.

Très bien, Geoffrey Hinton, merci beaucoup. Nous apprécions vraiment votre temps et nous espérons que les gens écoutent votre avertissement.