Et pourtant, vous identifiez également ces risques existentiels massifs qui accompagnent cette productivité. Aidez-nous à définir ce que c'est et quand avez-vous commencé à concevoir les risques liés à cela qui accompagnent cette IA ?

Toute nouvelle technologie s'accompagne d'inconvénients sérieux. La société doit toujours s'adapter à une nouvelle série de risques, qu'il s'agisse de l'énergie nucléaire, de la machine à vapeur, de l'électricité, des voitures, des trains ou des avions. J'ai une anecdote amusante dans mon livre : la première fois que des gens ont vu un train sur une voie ferrée à la fin des années 1800, un certain nombre de spectateurs, y compris le député local de l'époque à Liverpool, n'ont pas réalisé que le train se dirigeait vers eux et qu'ils devaient quitter les rails pour éviter d'être percutés par le train.

Ils ont fini par être tués le jour du lancement. Et c'est un aperçu remarquable. Il est même difficile de croire que ce soit vrai aujourd'hui, qu'une nouvelle technologie puisse être si peu familière et si étrange que nous ne puissions même pas saisir le concept de son mouvement vers nous et de son incapacité à s'arrêter. Et je pense que c'est une métaphore vraiment intéressante pour toutes les technologies. Au début, elles semblent vraiment menaçantes, déroutantes et accablantes. Mais au fil du temps, nous réalisons leurs limites et nous voyons les manières dont elles sont faillibles et les manières dont nous devons les restreindre et les contrôler. Et nous finissons par exploiter les avantages tout en minimisant les inconvénients.

Je pense qu'il existe de nombreux exemples de cela à travers l'histoire. Si vous prenez le vol aérien, par exemple, c'est une pensée incroyable de se dire que nous pourrions tous monter dans un tube de conserve à 40 000 pieds dans le ciel et voler à l'autre bout du monde, et que ce soit un moyen de transport cohérent, fiable et sûr, l'une des formes de transport les plus sûres. Et c'est parce que l'industrie ainsi que les régulateurs ont passé les six ou sept dernières décennies à mettre en place des réglementations de toutes sortes, grandes et petites, et ont adopté de nouvelles meilleures pratiques chaque fois qu'ils constatent une erreur. Il y a un enregistreur de vol à bord, la boîte noire, qui suit absolument tout ce qui se passe en temps réel dans cet avion, tout ce que le cockpit dit, ce que le pilote dit, ce que le personnel dit, toute la télémétrie et ainsi de suite. Et ces informations sont ensuite transmises aux autres concurrents s'il y a un incident majeur et que les meilleures pratiques doivent être mises à jour.

Il existe donc de nombreux précédents de bonne réglementation ici. Et je pense que nous sommes à un moment où nous devons calmer un peu l'alarme. Je pense que les gens ont pris un peu d'avance sur leurs skis en ce qui concerne une partie de la panique que nous voyons autour des conséquences ici. Et je pense aussi que nous devons vraiment nous concentrer sur les énormes avantages potentiels.