Soudain, l'IA est partout. Des gens qui ne savaient pas exactement ce que c'était s'amusent avec sur leurs téléphones. Est-ce une bonne ou une mauvaise chose ?

Je réfléchis à l'IA depuis longtemps, depuis l'université. C'était l'une des quatre ou cinq choses qui, selon moi, affecteraient radicalement l'avenir. C'est fondamentalement profond dans la mesure où les créatures les plus intelligentes, pour autant que nous le sachions, sur cette terre sont les humains. C'est notre caractéristique déterminante. Nous sommes plus faibles que les chimpanzés et moins agiles, mais nous sommes plus intelligents. Maintenant, que se passe-t-il quand quelque chose de bien plus intelligent que la personner la plus intelligente arrive sous forme de silicium ? Il est très difficile de prédire ce qui se passera dans cette circonstance. C'est ce qu'on appelle la singularité. C'est une singularité comme un trou noir parce qu'on ne sait pas ce qui se passe après. C'est difficile à prédire. Je pense que nous devrions être prudents avec l'IA et qu'il devrait y avoir une surveillance gouvernementale parce que c'est un danger pour le public. Quand vous avez des choses qui sont un danger pour le public, comme la nourriture et les médicaments, c'est pourquoi nous avons la Food and Drug Administration et la Federal Aviation Administration, la FCC. Nous avons ces agences pour superviser les choses qui affectent le public là où il pourrait y avoir un préjudice public. Vous ne voulez pas que les entreprises fassent des économies sur la sécurité et que les gens en souffrent. C'est pourquoi je suis depuis longtemps un fervent défenseur de la réglementation de l'IA. Non pas que je pense que la réglementation soit amusante. Ce n'est pas amusant d'être réglementé. C'est ardu d'être réglementé. J'ai beaucoup d'expérience avec les industries réglementées car l'automobile est hautement réglementée. On pourrait remplir cette pièce avec toutes les réglementations requises pour une voiture de série juste aux États-Unis. Ensuite, il y a un ensemble de réglementations totalement différent en Europe, en Chine et dans le reste du monde. Je suis très habitué à être surveillé par de nombreux régulateurs. La même chose est vraie pour les fusées. Vous ne pouvez pas simplement lancer des fusées, pas des grosses en tout cas, car la FAA surveille cela. Même pour obtenir une licence de lancement, il y a une demi-douzaine ou plus d'agences fédérales qui doivent l'approuver, plus des agences d'État. J'ai connu tellement de situations réglementaires, c'est insensé. Parfois, les gens pensent que je suis un rebelle de la réglementation qui défie régulièrement les régulateurs, mais ce n'est pas le cas. Une fois de temps en temps, je serai en désaccord avec les régulateurs, mais la grande majorité du temps, mes entreprises acceptent les réglementations et s'y conforment. Je pense que nous devrions prendre cela au sérieux et que nous devrions avoir une agence de réglementation. Je pense que cela doit commencer par un groupe qui cherche d'abord à comprendre l'IA, puis sollicite l'opinion de l'industrie, et propose ensuite des règles. Et ces règles seront, espérons-le, acceptées par les acteurs majeurs de l'IA. Je pense que nous aurons une meilleure chance que l'IA avancée soit bénéfique pour l'humanité dans cette circonstance.

Toutes les réglementations commencent par un danger perçu. Des avions tombent du ciel ou de la nourriture cause le botulisme. Je ne pense pas que la personne moyenne qui s'amuse avec l'IA sur son iPhone perçoive un danger. Pouvez-vous expliquer quels pourraient être les dangers selon vous ?

Le danger, l'IA est plus dangereuse qu'une conception d'avion mal gérée ou qu'une maintenance de production ou qu'une mauvaise production de voiture, dans le sens où elle a le potentiel, aussi faible que l'on puisse considérer cette probabilité, mais elle est non négligeable, elle a le potentiel d'une destruction civilisationnelle. Il y a des films comme Terminator, mais cela ne se passerait pas comme Terminator parce que l'intelligence serait dans les centres de données. Le robot n'est que l'effecteur final. Je pense que ce que vous insinuez peut-être ici, c'est que les réglementations ne sont mises en vigueur qu'après qu'une chose terrible s'est produite.

C'est exact.

Si c'est le cas pour l'IA et que nous ne mettons en place des réglementations qu'après qu'une chose terrible s'est produite, il sera peut-être trop tard pour réellement mettre les réglementations en place. L'IA pourrait être aux commandes à ce moment-là.

Vous pensez que c'est réel ? Il est concevable que l'IA puisse prendre le contrôle et atteindre un point où vous ne pourriez plus l'éteindre et où elle prendrait les décisions pour les gens ?

Absolument.

Absolument.

C'est définitivement vers cela que les choses se dirigent. Des choses comme ChatGPT, qui est basé sur GPT-4 d'OpenAI, une entreprise que j'ai joué un rôle crucial à créer, malheureusement.

À l'époque où c'était une organisation à but non lucratif ?

Oui. La raison pour laquelle OpenAI existe est que Larry Page et moi étions des amis proches et que je logeais chez lui à Palo Alto et je lui parlais tard dans la nuit de la sécurité de l'IA. Du moins, ma perception était que Larry ne prenait pas la sécurité de l'IA assez au sérieux.

Qu'a-t-il dit à ce sujet ?

Il semblait vouloir une superintelligence numérique, un dieu numérique, le plus tôt possible.

Il voulait ça ?

Oui. Il a fait de nombreuses déclarations publiques au fil des ans selon lesquelles l'objectif entier de Google est l'intelligence artificielle générale ou la superintelligence artificielle. Je suis d'accord avec lui sur le fait qu'il y a un grand potentiel pour le bien, mais il y a aussi un potentiel pour le mal. Si vous avez une nouvelle technologie radicale, vous voulez essayer de prendre l'ensemble d'actions qui maximisent la probabilité qu'elle fasse du bien et minimisent la probabilité qu'elle fasse de mauvaises choses. On ne peut pas simplement foncer tête baissée en espérant le meilleur. À un moment donné, j'ai dit, nous allons nous assurer que l'humanité s'en sorte bien ici, et il m'a traité de spéciste.

A-t-il utilisé ce terme ?

Oui. Et il y avait des témoins, je n'étais pas le seul présent quand il m'a traité de spéciste. C'était tout. Oui, je suis spéciste. Vous m'avez eu. Je suis totalement spéciste. Démasqué. C'était la goutte d'eau. À l'époque, Google avait acquis DeepMind, et Google et DeepMind ensemble possédaient environ les trois quarts de tous les talents en IA dans le monde. Ils avaient énormément d'argent et plus d'ordinateurs que n'importe qui d'autre. Nous avons un monde unipolaire ici où il n'y a qu'une seule entreprise qui a presque le monopole sur les talents en IA et l'informatique à grande échelle, et la personne qui est aux commandes ne semble pas se soucier de la sécurité. Ce n'est pas bon. Ensuite, j'ai pensé que la chose la plus éloignée de Google serait une organisation à but non lucratif totalement ouverte. Parce que Google était fermé et à but lucratif. Le 'Open' dans OpenAI fait référence au code source ouvert, à la transparence, pour que les gens sachent ce qui se passe. Bien que je soit normalement en faveur du but lucratif, nous ne voulons pas que ce soit un démon maximisant les profits venu de l'enfer qui ne s'arrête jamais. C'est ainsi qu'OpenAI a commencé.

Donc vous voulez des incitations spécistes ici ? Des incitations qui protègent les humains ?

Oui, je pense que nous voulons être pro-humains. Rendons l'avenir bon pour les humains parce que nous sommes des humains.

Je continue de vous presser, mais pour les gens qui n'ont pas réfléchi à cela et qui ne sont pas familiers avec le sujet, alors que les aspects cool de l'intelligence artificielle sont si évidents (rédiger votre devoir universitaire, écrire un poème sur vous-même, il y a beaucoup de choses amusantes et utiles), pouvez-vous être plus précis sur ce qui est potentiellement dangereux et effrayant ? Que pourrait-elle faire ? De quoi vous inquiétez-vous précisément ?

Pour reprendre de vieux dictons, la plume est plus forte que l'épée. Si vous avez une IA superintelligente capable d'écrire incroyablement bien et d'une manière très influente, convaincante, et qui comprend constamment ce qui est le plus convaincant pour les gens au fil du temps, puis qu'elle entre sur les réseaux sociaux, par exemple Twitter, mais aussi Facebook et d'autres, et qu'elle manipule potentiellement l'opinion publique de manière très néfaste, comment pourrions-nous seulement le savoir ?

Comment pourrions-nous seulement le savoir ? Pour résumer, selon les mots d'Elon Musk, durant toute l'histoire de l'humanité, les êtres humains ont été les êtres les plus intelligents de la planète. Maintenant, les êtres humains ont créé quelque chose qui est bien plus intelligent qu'eux, et les conséquences de cela sont impossibles à prédire. Et les gens qui l'ont créé s'en moquent. En fait, comme il l'a dit, le fondateur de Google, Larry Page, un ancien ami à lui, cherche à construire un 'dieu numérique' et pense que quiconque s'en inquiète est un spéciste. En d'autres termes, il cherche à protéger les êtres humains d'abord. Elon Musk a répondu qu'en tant qu'être humain, il est acceptable de protéger les êtres humains d'abord. Puis, à la fin, il a dit que le vrai problème avec l'IA n'est pas simplement qu'elle franchira les limites et deviendra autonome et qu'on ne pourra plus l'éteindre. À court terme, le problème avec l'IA est qu'elle pourrait contrôler votre cerveau par les mots. Et c'est l'application dont nous devons nous soucier maintenant, particulièrement à l'approche de la prochaine élection présidentielle. Le Parti démocrate, comme d'habitude, était en avance sur ce point. Ils ont réfléchi à la manière d'exploiter l'IA pour le pouvoir politique. La suite au prochain numéro. Abonnez-vous à la chaîne YouTube de Fox News pour suivre nos ouvertures nocturnes, des histoires qui changent le monde et votre vie, tirées de Tucker Carlson Tonight.