C'est une période très intense dans le domaine. Nous voulons toutes les choses brillantes que ces systèmes d'IA peuvent faire : trouver de nouveaux remèdes pour des maladies, de nouvelles sources d'énergie, des choses incroyables pour l'humanité. C'est la promesse de l'IA. Il y a des inquiétudes. Si les premiers systèmes d'IA sont construits avec de mauvais systèmes de valeurs ou s'ils sont construits de manière peu sûre, cela pourrait être très grave.

Wired s'est entretenu avec Demis Hassabis, PDG de Google DeepMind, qui est le moteur de l'intelligence artificielle de l'entreprise. Il est lauréat du prix Nobel et a également été anobli. Nous avons discuté de l'AGI, de l'avenir du travail et de la manière dont Google compte rivaliser à l'ère de l'IA. Voici la grande interview.

Bienvenue à la grande interview, Demis.

Merci. Merci de m'avoir invité.

Commençons par parler de l'AGI. Vous avez fondé DeepMind avec l'idée que vous résoudriez l'intelligence, puis que vous utiliseriez l'intelligence pour résoudre tout le reste. C'était une mission de 20 ans. Nous en sommes à 15 ans et vous êtes sur la bonne voie ?

Nous sommes exactement sur la bonne voie, selon notre estimation.

Cela signifie à cinq ans de ce que les gens appelleront l'AGI.

Au cours des cinq à dix prochaines années, il y a 50 % de chances que nous ayons ce que nous définissons comme l'AGI.

Certains de vos pairs disent deux ans, trois ans, d'autres disent un peu plus. C'est vraiment proche. Comment savons-nous que nous sommes si proches ?

Il y a un débat en cours dans le domaine sur les définitions de l'AGI et, en fonction de cela, il y a différentes prédictions sur le moment où cela se produira. Nous avons été cohérents dès le début. Shane Legg, l'un de mes cofondateurs et notre scientifique en chef, a aidé à définir le terme AGI au début des années 2001. Nous l'avons toujours considéré comme un système capable de manifester toutes les capacités cognitives que nous possédons en tant qu'humains. L'esprit humain est la seule preuve d'existence que nous ayons de la possibilité d'une intelligence générale. Pour revendiquer une intelligence générale, vous devez montrer qu'elle se généralise à tous ces domaines.

Est-ce quand toutes les cases sont cochées que nous l'avons ?

Il manque actuellement des capacités, comme le raisonnement, la planification et la mémoire. Je ne pense pas que les systèmes d'aujourd'hui puissent faire de la véritable invention ou créativité, ou émettre des hypothèses sur de nouvelles théories scientifiques. Ils sont utiles et impressionnants, mais ils présentent des lacunes. L'une des raisons pour lesquelles je ne pense pas que nous soyons encore à l'AGI est la cohérence des réponses. Dans certains domaines, nous avons des systèmes capables de résoudre des problèmes des Olympiades internationales de mathématiques au niveau de la médaille d'or avec notre système AlphaProof. Mais ces systèmes trébuchent encore parfois sur des mathématiques de lycée ou même sur le comptage du nombre de lettres dans un mot. Ce niveau de différence de performance globale n'est pas assez cohérent et montre que ces systèmes ne se généralisent pas encore complètement.

Quand nous l'aurons, s'agira-t-il d'un changement de phase où, tout d'un coup, les choses seront differentes ? Toutes les cases sont cochées et nous avons une chose capable de tout faire. Sommes-nous alors dans un nouveau monde ?

Cela fait débat et il n'est pas clair s'il s'agira d'une transition progressive ou d'une fonction en escalier. Je suppose que ce sera un changement progressif. Même avec un tel système, le monde physique fonctionne toujours avec des lois physiques, comme les usines et les robots. Il faudra un certain temps pour que les effets de cette intelligence numérique impactent les choses du monde réel, peut-être une autre décennie. Il existe d'autres théories selon lesquelles cela pourrait arriver plus rapidement.

Eric Schmidt, qui travaillait chez Google, a dit que c'est presque binaire. Il dit que si la Chine obtient l'AGI, nous sommes cuits car si quelqu'un l'obtient dix minutes avant la personne suivante, on ne pourrait jamais rattraper son retard parce qu'il maintiendrait des avances de plus en plus grandes. Vous n'y croyez pas ?

C'est une inconnue, parfois appelée le scénario de décollage brutal où les systèmes d'AGI sont capables de s'auto-améliorer, de coder les futures versions d'eux-mêmes et de le faire extrêmement rapidement. Une légère avance de quelques jours pourrait soudainement devenir un gouffre. Il y a beaucoup d'autres façons dont cela pourrait se passer, où c'est plus progressif et où les fonctions d'auto-amélioration ne sont pas capables d'accélérer de cette manière. Les systèmes en cours de construction porteront l'empreinte des valeurs et des normes des concepteurs et de la culture dans laquelle ils ont été intégrés. Ces questions internationales sont importantes.

Lorsque vous construisez l'IA chez Google, gardez-vous cela à l'esprit ? Ressentez-vous l'impératif concurrentiel d'être les premiers ?

C'est une période très intense dans le domaine. Tant de ressources y sont consacrées, avec beaucoup de pressions et de recherches nécessaires. Nous voulons toutes les choses brillantes que ces systèmes d'IA peuvent faire. À terme, nous pourrons faire progresser la médecine et la science, trouver de nouveaux remèdes pour des maladies, de nouvelles sources d'énergie et des choses incroyables pour l'humanité. C'est la promesse de l'IA. Mais il y a aussi des inquiétudes si les premiers systèmes d'IA sont construits avec de mauvais systèmes de valeurs ou sont construits de manière peu sûre. Je m'inquiète de deux risques : les acteurs malveillants détournant la technologie d'IA à usage général à des fins nuisibles, et le risque technique de l'IA elle-même à mesure qu'elle devient plus puissante et plus proactive. Nous devons nous assurer que les garde-fous sont sûrs et ne peuvent pas être contournés. Cela interagit avec l'idée de ce à quoi ressembleront les premiers systèmes construits par l'humanité. Il y a un impératif commercial et international, et un aspect de sécurité concernant celui qui est en tête.

Il y a quelques années, les entreprises demandaient une réglementation. Maintenant, aux États-Unis, l'administration actuelle semble moins intéressée par la régulation de l'IA que par son accélération pour battre les Chinois. Demandez-vous toujours une réglementation ? Pensez-vous que ce soit une erreur de notre part ?

J'ai été cohérent sur ce point : les enjeux géopolitiques doivent être pris en compte, et le monde est un endroit différent de ce qu'il était il y a cinq ans. Je continue de croire qu'une réglementation intelligente autour de systèmes de plus en plus puissants est importante. Elle doit être internationale, ce qui semble difficile pour le moment, car ce sont des systèmes numériques qui affecteront tout le monde. Si vous la limitez dans une zone, cela n'aide pas à la sécurité globale des systèmes construits pour le monde. Le plus gros problème est le besoin de coopération internationale et d'une réglementation agile qui évolue à mesure que les connaissances sur la recherche s'améliorent.

Atteindrait-on jamais un point où vous auriez l'impression que nous ne mettons pas en place les garde-fous, et que nous sommes tellement en compétition que nous devons vraiment nous arrêter ?

Beaucoup de dirigeants des principaux laboratoires se connaissent et se parlent régulièrement. Le problème est qu'il n'est pas clair que nous ayons les bonnes définitions pour convenir de ce moment-là. Les systèmes d'aujourd'hui sont impressionnants mais imparfaits, et je ne pense pas qu'ils posent un risque existentiel. C'est encore théorique. Il y a beaucoup d'inconnues concernant la rapidité avec laquelle ces risques apparaîtront et leur dangerosité. Je suis optimiste sur le fait que nous les surmonterons techniquement, mais les questions géopolitiques pourraient s'avérer plus délicates. Nous devons utiliser la méthode scientifique à mesure que nous approchons de ce point d'AGI.

C'est logique, mais si ce délai est correct, nous n'avons plus beaucoup de temps.

Nous n'avons pas beaucoup de temps. Nous consacrons de plus en plus de ressources à la sécurité et à la recherche sur la contrôlabilité et la compréhension de ces systèmes, parfois appelée l'interprétabilité mécaniste. De nombreuses branches de l'IA font l'objet d'investissements, et il faut en faire encore plus. Nous avons également besoin de débats sociétaux sur la construction institutionnelle, sur la manière dont la gouvernance devrait fonctionner et sur la manière dont nous allons parvenir à un accord international sur les principes fondamentaux entourant la construction et le déploiement de ces systèmes.

Qu'en est-il de l'effet sur le travail ? À quel point pensez-vous que l'IA va changer les emplois des gens et la façon dont ils sont répartis dans la population active ?

Si vous parlez aux économistes, ils ont l'impression que peu de choses ont encore changé. Les gens trouvent ces outils utiles dans certains domaines, comme AlphaFold, que les scientifiques utilisent pour accélérer leur travail. Cela semble être additif pour le moment. Nous verrons ce qui se passera au cours des cinq à dix prochaines années. Il va y avoir beaucoup de changements dans le monde du travail. Par le passé, de nouveaux emplois ont été créés qui étaient meilleurs et utilisaient de nouvelles technologies, comme l'internet et le mobile. Nous verrons si c'est différent cette fois-ci. Pour les prochaines années, il est fort probable que nous ayons des outils qui dynamisent notre productivité et nous rendent presque surhumains dans ce que nous sommes capables de produire individuellement. Il va y avoir une ère dorée pour ce que nous sommes capables de faire.

Si l'AGI peut faire tout ce que les humains peuvent faire, alors elle pourrait aussi faire les nouveaux emplois.

Même avec ces capacités, il y a des choses que nous ne voudrons pas faire avec une machine. Par exemple, le diagnostic d'un médecin pourrait être aidé par un outil d'IA ou un médecin IA. D'un autre côté, pour les soins infirmiers, vous ne voudriez pas qu'un robot s'en charge. Il y a quelque chose dans l'empathie et l'attention humaines qui est particulièrement humaniste. Ce sera un monde différent.

Si vous deviez parler à un diplômé aujourd'hui, quel conseil donneriez-vous pour continuer à travailler tout au long d'une vie à l'ère de l'AGI ?

Mon point de vue évolue à mesure que la technologie se développe, mais si l'on pense aux cinq à dix prochaines années, les gens pourraient être dix fois plus productifs s'ils sont familiers de ces outils. J'encouragerais les étudiants à s'immerger dans ces nouveaux systèmes et à les comprendre. Il est toujours important d'étudier les STEM et la programmation afin de comprendre comment ils sont construits et de pouvoir peut-être les modifier soi-même. Devenez incroyable en peaufinage, en ingénierie de requêtes et en instructions pour savoir comment tirer le meilleur parti de ces outils pour vos recherches et votre travail.

En regardant au-delà de la période de cinq à dix ans, qu'envisagez-vous pour notre avenir dans 20 ou 30 ans si cela se concrétise ? À quoi ressemble le monde quand l'AGI est partout ?

Si tout se passe bien, nous devrions être dans une ère d'abondance radicale. L'AGI pourrait résoudre les problèmes de fond auxquels la société est confrontée, comme la guérison des maladies, l'allongement de l'espérance de vie et la recherche de nouvelles sources d'énergie comme des batteries optimales, des supraconducteurs à température ambiante ou la fusion. Si cela se produit, cela devrait être une ère d'épanouissement humain maximal où nous voyagerons vers les étoiles et coloniserons la galaxie. Le début de cela pourrait se produire dans les 20 à 30 prochaines années.

Je suis sceptique à ce sujet. Nous avons l'abondance maintenant, mais nous ne la distribuons pas équitablement. Nous savons comment résoudre le changement climatique, mais nous ne le faisons pas.

Je conviens qu'en tant qu'espèce, nous n'avons pas été doués pour collaborer. Nous fonctionnons toujours dans une mentalité de jeu à somme nulle parce que la terre est finie par rapport à la population. C'est pourquoi les habitats naturels sont détruits, ce qui affecte la faune et le climat. Nous savons comment résoudre le problème du climat, mais cela exigerait que les gens fassent des sacrifices qu'ils ne veulent pas faire. L'abondance radicale ressemblerait à un jeu à somme non nulle.

Comment serions-nous entraînés là-dedans ? Nous avons des vaccins pour les maladies, et pourtant certaines personnes pensent que nous ne devrions pas les utiliser.

L'accès à l'eau est un problème majeur. Nous avons une solution : le dessalement. C'est facile car il y a beaucoup d'eau de mer, mais cela coûte beaucoup d'énergie. Si l'énergie était gratuite et propre, comme la fusion, vous résoudriez le problème de l'accès à l'eau. Le contrôle des rivières deviendrait beaucoup moins important. Si nous n'avons pas de solution dans 20 ans, cela pourrait mener à des conflits. Vous pourriez même créer du carburant pour fusée en séparant l'hydrogène et l'oxygène de l'eau de mer si vous aviez l'énergie.

Vous pensez que si ces problèmes sont résolus par l'AGI, notre vision changera et nous serons moins cupides.

C'est ce que j'espère. L'AGI nous donnera la capacité technique d'une abondance radicale. J'espère que cela fera évoluer notre mentalité en tant que société vers une somme non nulle. Il reste la question de diviser cette abondance équitablement, mais c'est plus probable une fois que les gens auront compris qu'il existe une réserve presque illimitée de matières premières et d'énergie.

Pensez-vous que stimuler cette innovation par le biais d'entreprises à but lucratif soit la bonne voie à suivre ?

Les systèmes démocratiques occidentaux se sont avérés être les meilleurs moteurs de progrès. Une fois que nous aurons atteint l'abondance radicale et l'après-AGI, l'économie changera, y compris les notions de valeur et d'argent. Nous avons besoin d'une nouvelle théorie économique pour cela.

Je suis d'accord que c'est important, mais je reçois beaucoup de réponses de gens qui sont en colère contre l'intelligence artificielle. Avez-vous connu ce rejet ? C'est presque comme la révolution industrielle.

Personnellement, je n'en ai pas vu beaucoup, mais j'en ai entendu parler. C'est compréhensible. Ce sera au moins aussi important que la révolution industrielle, probablement plus. C'est effrayant à cause des inconnues. Quand j'explique que je construis l'IA pour faire progresser la science et la médecine et que je montre des percées comme AlphaFold, les gens réalisent que nous pouvons guérir des maladies terribles. Il serait immoral de ne pas l'avoir si c'est à notre portée. Il en va de même pour le climat et l'énergie. Je serais plus inquiet pour notre avenir si quelque chose d'aussi révolutionnaire que l'IA ne venait pas aider à relever ces défis. C'est un défi en soi, mais elle peut aider à en résoudre d'autres si nous nous y prenons bien.

J'espère que votre optimisme tiendra bon et sera justifié. Merci.

Je fais de mon mieux. Merci.