Bienvenue dans L'Expliqueur. Aujourd'hui, nous plongeons dans l'esprit d'un homme dont le travail d'une vie pourrait sauver l'humanité ou créer des risques que nous ne pouvons même pas imaginer.

Commençons par un avertissement assez frappant. Je ne suis pas du côté de ceux qui prônent d'avancer vite et de tout casser. Certains chercheurs ne savent pas qu'ils manipulent des matières dangereuses. Pensez à cela. C'était Demis Hassabis, l'un des principaux architectes de l'IA, qui disait cela en novembre 2022. C'était quelques semaines avant que ChatGPT ne sorte et ne change tout. Il tirait la sonnette d'alarme avant même que la plupart d'entre nous ne sachent qu'il y avait un incendie.

Voici le rebondissement, le paradoxe central que nous allons explorer aujourd'hui. L'homme derrière cet avertissement est aussi l'homme qui construit la technologie. Demis Hassabis, le PDG de Google DeepMind, s'est donné pour mission de créer la chose avec laquelle il nous demande d'être si prudents : l'Intelligence Artificielle Générale, ou IAG.

Cela soulève une question : si les risques sont si énormes, pourquoi diable la construire en premier lieu ? Pour comprendre cela, il faut saisir le futur incroyablement optimiste, presque utopique, que Hassabis croit sincèrement que l'IAG peut débloquer pour nous tous.

Quand on parle de l'IAG, c'est l'histoire de deux futurs complètement différents. Il n'y a presque pas d'entre-deux. Nous parlons d'une technologie qui pourrait être notre salut ou notre chute. C'est à ce point tranché.

Regardons le meilleur scénario possible. Hassabis voit l'IAG comme un outil incroyable, un multiplicateur de force pour le génie humain. Il s'agit de résoudre enfin les problèmes qui nous ont totalement dépassés pendant des générations. Les grands sujets : guérir les maladies, maîtriser la fusion pour l'énergie propre, réparer le changement climatique, la totale.

Il appelle cela la cavalerie venant à la rescousse. L'idée est que nous sommes bloqués. Nous luttons avec ces problèmes massifs et complexes, et peut-être que l'IAG est la percée dont nous avons besoin pour enfin franchir l'obstacle.

C'est le rêve. Mais nous devons maintenant retourner la pièce et regarder le cauchemar. Car pour chacune de ces promesses incroyables, il y a un risque terrifiant qui empêche des gens comme Demis Hassabis de dormir la nuit.

Hassabis résume toutes les menaces existentielles en deux grandes catégories. Premièrement, il y a le problème de l'usage abusif. Que se passe-t-il lorsque des acteurs malveillants s'emparent de cette technologie ? Deuxièmement, il y a le problème du contrôle. Que se passe-t-il si nous construisons quelque chose de si intelligent que nous ne pouvons plus le contrôler ?

Parlons de la première : l'usage abusif. C'est ce qu'on appelle une technologie à double usage. Pensez-y de cette façon : la même IA à laquelle vous pourriez demander de concevoir un remède contre le cancer pourrait, si vous changez un réglage, se voir demander de concevoir un agent biologique mortel. C'est un outil phénoménalement puissant, qui peut bâtir ou détruire.

Il y a le second risque, et celui-ci semble tout droit sorti d'un film de science-fiction, mais il est bien réel. À mesure que ces systèmes d'IA deviennent de plus en plus autonomes, comment nous assurer absolument qu'ils restent alignés avec ce que nous voulons qu'ils fassent ? Comment pouvons-nous construire des garde-fous qu'une machine plus intelligente que nous ne puisse pas contourner ? C'est cela, en résumé, le problème du contrôle.

Toute cette tension entre la promesse et le péril n'est pas un débat philosophique abstrait pour Hassabis. Cela l'a conduit à des choix concrets incroyablement difficiles pour lui et son entreprise.

Cela nous amène à une question pointue. Il faut la poser : la quête de l'IAG a-t-elle forcé son propre créateur à compromettre certains de ses idéaux d'origine ?

Regardons l'histoire. En 2014, quand Google a racheté DeepMind, une grande partie de l'accord était une promesse, un vœu explicite que son IA ne serait jamais utilisée à des fins militaires. Aujourd'hui, cet engagement a disparu. Google a désormais des contrats pour fournir des services d'IA à des armées, notamment aux États-Unis et en Israël.

Que s'est-il passé ? Comment justifie-t-il ce changement ? L'argument de Hassabis est que le monde lui-même a changé. Il dit qu'il est devenu plus dangereux, et pour cette raison, il croit maintenant qu'ils ont un devoir, voire un devoir éthique, d'aider les gouvernements démocratiques à se défendre, en particulier dans des domaines critiques comme la cybersécurité.

Prenons un peu de recul. Construire l'IAG n'est pas seulement une affaire de code et de politique. Cela nous oblige à affronter certaines des questions les plus profondes qui soient : sur ce que signifie être intelligent, sur le fonctionnement de notre société et sur ce à quoi ressemblera l'avenir de l'humanité.

Qu'est-ce que l'IAG ? On utilise beaucoup ce terme. À la base, c'est l'idée d'une machine qui possède toute la gamme des capacités cognitives humaines. Elle peut raisonner, apprendre, créer. Mais voici ce qui est curieux : même les experts qui la construisent ne parviennent pas à s'accorder sur une seule définition.

Cela nous amène à deux façons différentes de voir les choses. D'un côté, il y a la vision du scientifique. C'est celle de Hassabis. Pour lui, la barre est extrêmement haute. Il pense qu'une véritable IAG doit être capable de faire une découverte aussi profonde que la théorie de la relativité d'Einstein. Ensuite, il y a la vision du technologue, plus courante dans la Silicon Valley. Elle est beaucoup plus pratique : peut-elle faire votre travail mieux et moins cher que vous ? Deux objectifs différents.

Ne pensez pas que c'est un concept de science-fiction lointain. Hassabis lui-même dit que nous parlons de peut-être cinq à dix ans. Il ajoute qu'il ne serait pas surpris que ce soit encore plus tôt. Le calendrier se réduit d'année en année.

Que nous arrivera-t-il à tous lorsque l'IAG arrivera ? À quoi ressemblera ce monde ? Hassabis pense qu'elle déclenchera une transformation totale de la société. Il appelle cela une nouvelle ère d'abondance radicale.

Décortiquons cela car c'est une idée monumentale. C'est une cascade de percées. Étape un : l'IAG résout un problème scientifique massif, disons la fusion nucléaire. Tout d'un coup, l'énergie devient incroyablement bon marché, pratiquement gratuite. Étape deux : avec une énergie presque gratuite, vous pouvez résoudre d'autres problèmes, comme dessaler l'eau de l'océan pour créer de l'eau douce à l'infini. Étape trois : une fois que vous avez de l'énergie et de l'eau illimitées, tout le système économique, bâti sur l'idée de rareté, commence à s'effondrer.

C'est peut-être la partie la plus importante : ce monde d'abondance radicale ne devient pas automatiquement une utopie parfaite. Les problèmes technologiques résolus ne règlent pas magiquement les problèmes humains comme l'avidité, le pouvoir et l'inégalité. Hassabis est clair là-dessus. Il dit que nous allons avoir besoin d'une toute nouvelle philosophie politique pour comprendre comment vivre dans ce monde.

Voilà où nous en sommes. Nous avons cette technologie qui fonce vers nous. D'un côté, elle promet un monde au-delà de nos rêves les plus fous. De l'autre, elle nous menace de dangers que nous pouvons à peine comprendre. La technologie arrive ; cela semble presque certain. La seule question qui reste est : sommes-nous prêts ?