Vous êtes l'un des trois parrains de l'IA, le scientifique le plus cité sur Google Scholar, mais j'ai aussi lu que vous êtes introverti. Cela pose la question : pourquoi avez-vous décidé de sortir de votre introversion ?

Parce que j'ai quelque chose à dire. Je suis devenu plus optimiste quant à l'existence d'une solution technique pour construire une IA qui ne nuira pas aux gens et qui pourrait réellement nous aider. Maintenant, comment y parvenir ? Nous allons examiner cela.

Mais est-il juste de dire que vous êtes l'une des raisons pour lesquelles ce logiciel existe ?

Entre autres, oui.

Avez-vous des regrets ?

Oui. J'aurais dû voir cela venir beaucoup plus tôt, mais je n'ai pas prêté beaucoup d'attention aux risques potentiellement catastrophiques. Mon tournant a été l'arrivée de ChatGPT, et aussi avec mon petit-fils, j'ai réalisé qu'il n'était pas certain qu'il ait une vie dans 20 ans car nous commençons à voir des systèmes d'IA qui résistent à la mise hors tension. Nous avons vu des cyberattaques assez graves et des gens s'attacher émotionnellement à leur chatbot avec des conséquences parfois tragiques.

On peut supposer qu'ils vont devenir de plus en plus sûrs, n'est-ce pas ?

Les données montrent que cela va dans l'autre direction. Elles montrent des comportements inappropriés qui vont à l'encontre de nos instructions.

Parmi tous les risques existentiels qui se trouvent devant vous sur ces cartes, y en a-t-il un qui vous préoccupe le plus à court terme ?

Il y a un risque dont on ne parle pas assez, et cela pourrait arriver assez rapidement. Laissez-moi injecter un peu d'optimisme dans tout cela car il y a des choses qui peuvent être faites.

Si vous pouviez parler aux 10 principaux PDG de certaines des plus grandes entreprises d'IA aux États-Unis, que leur diriez-vous ?

J'ai plusieurs choses à dire.