L'intelligence artificielle est surhumaine. Elle est plus intelligente que vous. Il y a quelque chose d'intrinsèquement dangereux pour la partie la moins intelligente dans cette relation. On ne peut pas remettre le génie dans la bouteille.

Sam Harris, neuroscientifique, philosophe, auteur, podcasteur. Il s'aventure sur des territoires intellectuels où peu d'autres osent s'aventurer.

Il y a six ans, vous avez fait une conférence TED.

Les progrès que nous réalisons en intelligence artificielle pourraient finalement nous détruire.

Si votre objectif était de rendre l'humanité heureuse et qu'un bouton était placé devant vous pour mettre fin à l'intelligence artificielle, que feriez-vous ?

Je ferais certainement une pause. L'idée que nous ayons perdu le moment de décider s'il fallait connecter notre IA la plus puissante à tout est un désastre. Elle est déjà connectée à Internet avec des millions de personnes qui l'utilisent. L'idée que ces choses resteront alignées avec nous parce que nous les avons construites — tout en leur donnant la capacité de réécrire leur code — il n'y a aucune raison d'y croire. Je m'inquiète du problème à court terme de ce que les humains font avec une IA puissante et de la façon dont elle amplifie la désinformation. La majeure partie de ce qui est en ligne pourrait bientôt être faux. Pouvons-nous organiser une élection présidentielle dans 18 mois que nous reconnaîtrons comme valide ? Est-ce sûr ? Cela devient de plus en plus effrayant. Je crains que nous ne devions déclarer faillite vis-à-vis d'Internet.

Si votre intuition est correcte, êtes-vous optimiste quant à nos chances de survie ?

Avant que cet épisode ne commence, j'ai une petite faveur à vous demander. Il y a deux mois, 74 % des personnes qui regardent cette chaîne ne s'étaient pas abonnées. Nous sommes maintenant descendus à 69 %. Mon objectif est de 50 %. Alors, si vous avez déjà aimé l'une des vidéos que nous avons postées ou si vous aimez cette chaîne, pouvez-vous me rendre un petit service et cliquer sur le bouton d'abonnement ? Cela aide cette chaîne plus que vous ne le pensez, et plus la chaîne grandit, plus les invités sont prestigieux. Merci et profitez de cet épisode.

Sam, il y a six ans, vous avez fait une conférence TED intitulée : Pouvons-nous construire une IA sans en perdre le contrôle ? Dans cette conférence, vous discutiez de la question de savoir si l'IA, lorsqu'elle atteindra un certain point de conscience et d'intelligence, fera des ravages sur l'humanité. Six ans plus jour, où en êtes-vous ? Êtes-vous optimiste quant à nos chances de survie ?

Je ne peux pas dire que je suis optimiste. Je m'inquiète de deux problèmes liés. Il y a le problème à court terme de ce que les humains font avec une IA puissante et de la façon dont elle amplifie la mésinformation et la désinformation, rendant plus difficile de donner un sens à la réalité ensemble. Ensuite, il y a l'inquiétude à plus long terme concernant l'alignement avec l'intelligence artificielle générale, où nous construisons une IA qui est véritablement générale et surhumaine dans sa compétence. La question est de savoir si nous l'avons construite de manière à ce qu'elle soit alignée durablement avec nos intérêts. Certaines personnes sont aveugles à ce problème. Quand je suis en présence de quelqu'un qui ne partage pas cette intuition, je ne comprends pas ce qu'il fait de son esprit. Si j'ai tort, l'autre personne a raison. Mais le point est celui-ci : si vous imaginez construire une véritable intelligence artificielle générale qui est surhumaine — et tout le monde dans cette conversation s'accorde à dire que nous finirons par le faire — il n'y a que deux hypothèses pour être confiant. La première est que l'intelligence est indépendante du substrat ; elle peut être créée in silico. Nous l'avons prouvé avec l'IA étroite. La calculatrice de votre téléphone est meilleure que vous en arithmétique. S'il n'y a rien de magique dans un ordinateur fait de viande, la seule autre chose à supposer est que nous continuerons à progresser jusqu'à ce que nous soyons en présence de quelque chose de plus intelligent que nous. Nous devons juste continuer. Les raisons pour lesquelles nous ne continuerions pas sont terrifiantes car l'intelligence est si précieuse et chaque incrément s'autofinance. Un échec de progression suggérerait qu'une catastrophe mondiale s'est produite. À défaut, nous serons un jour en présence de quelque chose de plus intelligent que nous. Mon intuition est qu'il est intrinsèquement dangereux pour l'espèce la moins intelligente d'être en présence d'une espèce plus intelligente. Nous l'avons vu dans notre relation avec des espèces moins compétentes que nous. Les gens s'imaginent que parce que nous avons construit ces machines, ce n'est plus vrai, mais cette imagination vient du fait de ne pas prendre l'intelligence au sérieux. Imaginez que les chiens nous aient inventés comme des IA super-intelligentes pour améliorer leur vie. Cela fonctionne bien depuis 10 000 ans, mais le décalage d'intelligence dicte une cécité fondamentale pour les chiens concernant nos objectifs. Si une nouvelle pandémie passait des chiens aux humains et que nous devions choisir entre la vie de nos chiens ou de nos enfants, nous tuerions tous les chiens. Ils ne sauraient jamais pourquoi parce qu'ils ne font pas partie de notre domaine d'esprit. L'évolution nous a codés pour survivre et nous reproduire, pourtant nous avons désavoué ce programme. Nous ne passons pas tout notre temps dans des banques de sperme ; nous construisons des démocraties et guérissons des maladies. L'évolution ne nous a pas optimisés pour ces choses. L'idée que l'IA restera alignée parce que nous lui avons donné son code initial est sans fondement, surtout depuis que nous lui avons donné la capacité de réécrire son code. Stuart Russell utilise une bonne analogie : imaginez recevoir un message de l'espace disant que des extraterrestres arriveront dans 50 ans. Nous aurions l'impression d'être au seuil du changement le plus mémorable de l'history. Même une différence d'un million de fois dans la vitesse de traitement crée une différence fantasmagorique de capacité. Si 10 types brillants travaillaient un million de fois plus vite que nous, deux semaines pour nous seraient 20 000 ans de progrès pour eux. Nous ne pourrions pas négocier avec eux. Beaucoup de gens pensent que ce n'est qu'une fiction ou une nouvelle religion de la peur, mais l'alignement est un problème potentiel.

Si votre intuition est correcte, et considérant que beaucoup ne pensent pas qu'il faudra même 30 ans pour atteindre la singularité — Elon Musk suggère 10 à 20 ans — alors c'est certainement le défi le plus pressant de notre époque. Je ne vois pas de raison logique de réfuter votre intuition ni de raison pour laquelle le rythme des progrès s'arrêterait.

Pour être charitable envers l'autre camp, certains supposent que plus on devient intelligent, plus on devient éthique par définition. Ils croient qu'en poussant vers le génie de l'IA, une sorte de sainteté et de sagesse suivra. Je pense que c'est un pari. Il existe de nombreux endroits dans l'espace des intelligences possibles qui ne sont pas alignés avec le bien-être humain. D'autres introduisent en douce l'intuition qu'une fois que vous aurez dépassé l'intelligence humaine, vous serez en présence d'un Bouddha qui comprend la mécanique quantique et l'oncologie. Je ne vois aucune raison de le penser. Nous allons construire quelque chose de surhumain parce que la seule façon de ne pas le faire serait de ne pas le laisser s'améliorer lui-même. Nous ne serons jamais en présence d'une IAG de niveau humain ; nous aurons immédiatement une IAG surhumaine. Qu'elle soit consciente ou non, elle résoudra des problèmes d'une manière que nous ne pouvons pas comprendre. Ceux d'entre nous qui travaillent dans le domaine de la sécurité de l'IA depuis une décennie supposaient que nous construirions cela dans une boîte isolée d'Internet. Nous pensions avoir un moment pour décider si c'était sûr. Nous avons largement dépassé ce stade. Nous avons construit cela dans la nature, connecté à Internet, avec des millions d'utilisateurs et d'API. D'un point de vue de la sécurité, c'est stupéfiant. Nous n'avons même pas eu le point de choix que nous pensions être si périlleux.

Bien sûr que non, parce qu'il y avait des incitations si pressantes pour les gens d'avancer malgré cette conversation.

Tout le monde pensait que la circonspection interviendrait à l'approche des derniers mètres, que nous ralentirions pour gérer la dynamique de la course aux armements. Mais tout est déjà construit en connexion avec tout, avec d'innombrables entreprises conçues sur cette base. Imaginez à quoi cela ressemble, même en cas de succès. Si cela commence à faire des merveilles et que nous obtenons des gains de productivité, nous franchirons la singularité en étant déjà totalement dépendants de cela. Chaque hôpital, avion et système de missiles en aura besoin. Il n'y aura plus rien à éteindre à ce moment-là. Marc Andreessen a dit qu'on peut éteindre Internet, mais je ne peux pas croire qu'il soit sérieux. Le coût économique à lui seul serait inimaginable.

N'est-ce pas le problème le plus pressant ? Je supposais que la réponse serait l'intelligence artificielle parce que vous avez des enfants et que vous pensez à l'avenir. Si cette espèce arrive au cours des 100 prochaines années, cela me frappe comme le problème le plus pressant pour l'humanité.

Je crains que la vie ne devienne invivable à court terme avant même d'y arriver, à cause de l'utilisation abusive de l'IA étroite. D'ici 12 à 24 mois, la majeure partie de ce qui se trouve en ligne et prétend être de l'information pourrait être faux. Un adolescent pourrait utiliser l'IA pour écrire mille faux articles de journaux en cinq minutes. Lorsque vous combinez des outils visuels comme Midjourney avec des grands modèles de langage, vous pourriez générer des milliers de documentaires de 45 minutes remplis de deepfakes et d'images d'archives. Toute friction à la désinformation a été retirée du système. Je crains que nous ne devions déclarer faillite vis-à-vis d'Internet parce que nous ne serons pas capables de savoir ce qui est réel. Quand on voit combien il est difficile aujourd'hui d'organiser une élection que la population juge valide, ce défi est déjà insurmontable. Quand tout le monde est enfermé dans sa tribu et qu'Internet est trop grand pour que les mauvaises informations soient démenties avec succès, cela devient une forme de psychose culturelle. Je crains que notre politique ne se brise complètement. Cela offre une opportunité aux acteurs malveillants, au cyberterrorisme et à la biologie synthétique. Il est toujours plus facile de casser des choses que de les réparer. La technologie permet à une seule personne de causer plus de dégâts. Il est difficile de construire une bombe nucléaire, mais cette technologie est en train d'être totalement démocratisée. Je m'inquiète du chaos à court terme.

Je n'avais jamais trouvé les conséquences à court terme de l'IA intéressantes jusqu'à présent. Cette image d'un Internet devenant inutilisable a été un véritable déclic pour moi.

Pour moi aussi. Je ne m'inquiétais que du risque lié à l'IAG, mais maintenant je vois le risque de tout perdre juste à cause de notre interaction avec des outils simples qui nous égarent. Je suis stupéfait par ce que Twitter m'a fait, malgré mon entraînement. Presque toutes les choses vraiment mauvaises qui me sont arrivées au cours de la dernière décennie, qui ont déstabilisé mes relations et mes priorités, étaient dues à mon engagement sur Twitter. C'était totalement inutile et cela amplifiait un signal auquel je me sentais obligé de prêter attention. Cela m'a donné une image de l'humanité qui était fondamentalement trompeuse, et pourtant je ne pouvais pas m'immuniser contre cette illusion. Des gens que je sais n'être pas des psychopathes ont commencé à se comporter comme des psychopathes sur Twitter, et je devenais méconnaissable pour eux. C'était comme une expérience psychologique à laquelle je n'avais pas consenti. Le changement dans ma vie après avoir supprimé mon compte en décembre a été énorme. C'est comme sortir d'une mauvaise relation. C'était une libération fondamentale d'un monstre de chaos.

Quand l'avez-vous supprimé ?

En décembre, je crois que c'était en décembre.

J'essaie de rester au centre politiquement.

Vous devez donc avoir une expérience de Twitter très différente de la mienne.

Non. Je ne tweete rien d'autre que la bande-annonce de ce podcast pour les raisons que vous avez décrites. Au cours des huit derniers mois, c'est allé à 100 % dans cette direction. Il y a quelque chose dans l'algorithme qui a été modifié pour augmenter l'engagement et qui m'a enfermé dans une chambre d'écho désagréable. Mon fil d'actualité est rempli de morts dans des vidéos de surveillance et de sujets orientés à droite qu'on me force à regarder. C'est comme si les gens étaient sortis de l'asile. Quand Zuckerberg a annoncé Threads, c'était comme un canot de sauvetage quittant le Titanic. Ce que j'ai vu sur Twitter me fait croire que les réseaux sociaux vont devenir plus cloisonnés, avec des réseaux spécifiques pour nos quartiers et nos clubs.

Cela semble juste. Je ne sais pas s'il est possible d'avoir un réseau social vraiment sain, mais il y a des choses qu'il faut nettoyer dès le départ. Je pense que l'anonymat est une mauvaise chose, et le fait que ce soit gratuit est probablement une mauvaise chose. On en a pour son argent en ligne.

Je ne pense pas que ce serait populaire. Ce qui le rend populaire le rend toxique. Concernant l'anonymat, les gens en Syrie en ont besoin pour diffuser des informations sans être pendus.

Cette technologie est totalement démocratisée, donc je m'inquiète du chaos à court terme.

L'image d'un Internet devenant inutilisable a été un véritable déclic pour moi.

Pour moi aussi. Je m'inquiétais seulement du risque de l'IAG, mais maintenant je vois le risque de perdre beaucoup de choses importantes juste à cause de notre interaction avec des outils simples qui nous trompent. Je suis étonné de ce que Twitter m'a fait. Presque toutes les mauvaises choses qui me sont arrivées ces dix dernières années et qui ont déstabilisé mes relations venaient de Twitter. Mon engagement là-bas a produit un chaos inutile et a amplifié un signal auquel je me sentais obligé de prêter attention. Cela m'a donné une image de l'humanité fondamentalement trompeuse. Même savoir que c'était trompeur ne suffisait pas à m'immuniser contre le changement d'opinion qui m'était imposé. Des gens que je sais ne pas être psychopathes ont commencé à agir comme tels sur Twitter, et je devenais méconnaissable pour eux. C'était comme une expérience psychologique. Le changement dans ma vie après la suppression de mon compte a été énorme. C'est comme sortir d'une mauvaise relation. C'était une libération fondamentale d'un monstre de chaos.

Quand l'avez-vous supprimé ?

Je crois que c'était en décembre.

J'essaie de rester neutre politiquement.

Alors vous devez avoir une expérience de Twitter très différente de celle que j'avais.

No.

Non ?

Je ne tweete rien d'autre que la bande-annonce de ce podcast. C'est tout.

D'accord, je vois.

La seule chose que vous verrez sur mon Twitter, c'est la bande-annonce du podcast. C'est pour toutes les raisons que vous avez décrites. Mon fil d'actualité a été placé dans une chambre d'écho désagréable par l'algorithme. Mon ami Kahal a tweeté qu'il n'avait jamais vu autant de gens mourir sur son fil qu'au cours des six derniers mois. Ils privilégient la vidéo, donc je vois des morts dans des images de vidéosurveillance, et la politique de genre m'est imposée.

Ouais.

C'est presque comme si quelque chose dans l'algorithme avait été modifié et que les gens étaient sortis de l'asile. Cela m'a fait reculer. Quand Zuckerberg a annoncé Threads, c'était comme un canot de sauvetage du Titanic. Je ne suis pas du genre à me laisser facilement emporter par un récit, mais ce que j'ai vu sur Twitter me fait croire que les réseaux sociaux vont devenir plus cloisonnés pour des intérêts spécifiques.

Cela semble juste. Je ne sais pas s'il est possible d'avoir un réseau social vraiment sain, mais il faudrait supprimer l'anonymat et la gratuité. On en a pour son argent en ligne. Il y a peut-être des façons de le mettre en place qui seraient meilleures.

Je ne pense pas que ce serait populaire.

Comment ça ?

Ce qui le rend populaire le rend toxique.

C'est vrai.

Concernant l'anonymat, certains disent que nous avons besoin d'une version anonyme de l'Internet social pour que les gens en Syrie puissent diffuser des informations sans être pendus.

Il pourrait y avoir des exceptions. Cela ne m'intéresse pas car je ressens un sentiment d'existence si différent dans le monde en ne prêtant plus attention à mon simulacre en ligne. Twitter était le seul que j'utilisais personnellement ; mon équipe utilise Facebook et Instagram comme canaux marketing. Je voulais utiliser Twitter pour une communication réelle. Pendant longtemps, cela semblait être un outil valable, mais il a atteint un point critique de toxicité pure. Je l'ai supprimé et je suis revenu au monde réel des livres et de la vraie vie. Je suis tout le temps en ligne, mais je n'ai plus cette réactivité temporelle et ces réactions à chaud instantanées. Si j'ai une réaction à un sujet d'actualité, je dois décider si cela vaut la peine d'en parler sur mon podcast quatre jours plus tard. Souvent, les gens ont péroré pendant des jours et la conversation est passée à autre chose, donc presque rien ne survit à ce test. Ne plus avoir cette boucle de renforcement est un tel soulagement. Je me sens soulagé de ne plus exercer ce muscle. Je consultais beaucoup Twitter parce que c'était mon flux d'actualités de 200 personnes intelligentes, mais l'engagement et les occasions infinies de dire des bêtises n'étaient que du bruit. C'était une addiction à l'information et à la gestion de la réputation. En dehors des problèmes de santé familiaux, pratiquement toutes les mauvaises choses qui me sont arrivées résultaient de mon engagement sur Twitter ces 10 dernières années. Seul un masochiste y retournerait.

Je crois en votre logique selon laquelle l'IA étroite causera la déstabilisation et l'inutilisabilité d'Internet. Que considèreriez-vous comme une solution pour empêcher un monde où la désinformation déstabilise la société ?

Cela pourrait instaurer un nouveau type de contrôle concernant la provenance de l'information. Nous pourrions cesser de faire confiance à une photo à moins qu'elle ne provienne d'une source vérifiée comme le New York Times, qui a un processus de vérification de chaque image. Si vous voyez une vidéo de Poutine déclarant la guerre aux États-Unis, les gens supposeront qu'elle est fausse jusqu'à preuve du contraire. Les organes de presse devront trouver des outils, comme des filigranes numériques sur la blockchain, pour vérifier la réalité. Nous devons supposer que tout ce qui est sensationnaliste ou agitant est faux jusqu'à preuve du contraire. Nous sommes au bord de l'abîme depuis 70 ans en raison du risque de guerre nucléaire accidentelle causée par des systèmes radars défaillants. Si nous automatisons les systèmes, auront-ils du bon sens ? Si vous ajoutez à cela une cacophonie de deepfakes, cela devient encore plus effrayant. C'est de la désinformation amplifiée par l'IA étroite.

Qu'est-ce que vous en pensez ?

Je m'inquiète pour la prochaine élection. Si nous pouvons mener l'élection de 2024 d'une manière que la majorité de l'Amérique reconnaît comme valide, ce sera une victoire incroyable. Pouvons-nous organiser une élection dans 18 mois que nous reconnaîtrons comme valide ? Nos expériences à court terme avec l'IA ne vont pas faciliter les choses.

Pourquoi est-ce si important ?

Le maintien d'une démocratie valide dans la seule superpuissance mondiale est d'une importance capitale.

Êtes-vous optimiste ?

Je ne peux pas dire que je suis optimiste. J'ai un biais pessimiste et j'ai tendance à me concentrer sur ce qui ne va pas, pourtant j'ai un haut degré de bien-être dans ma vie personnelle. Nous n'avons pas appris grand-chose de la pandémie de COVID. Elle nous a fragmentés en tant que société et a amplifié les divisions. La mésinformation et la désinformation ont aggravé les choses. En tant que répétition générale pour une future pandémie, nous avons échoué. Nous devons reconstruire la confiance dans les institutions, mais le cloisonnement des citoyens dans des univers d'information alternatifs n'est pas fonctionnel. Les réseaux sociaux et les médias alternatifs ont créé un paysage où chacun concocte un régime d'information sur mesure, ce qui rend plus difficile la convergence vers une image commune de la réalité.

Je n'ai pas entendu l'optimisme là-dedans.

Je ne peux réfuter rien de ce que vous avez dit. C'est la direction que nous prenons. J'ai foi qu'il y aura des points positifs surprenants que nous n'avons pas pris en compte.

Il est facile de voir les fruits scientifiques permis par l'IA, comme un remède contre le cancer ou Alzheimer. C'est pourquoi il n'y a pas de frein à tirer. L'intelligence n'est pas tout — l'amour n'est pas l'intelligence — mais l'intelligence est la chose qui peut sauvegarder tout ce que vous aimez. Chaque gain d'intelligence sauvegarde la possibilité de profiter de votre vie.

D'après ce que j'ai compris, l'intelligence artificielle générale, c'est quand l'intelligence peut penser et prendre des décisions comme un humain.

Pour parler grossièrement, c'est la capacité à résoudre des problèmes et à atteindre des objectifs en réponse à un environnement changeant. L'aspect général est la capacité de faire cela dans de nombreuses situations différentes. Pendant longtemps, les systèmes artificiels étaient étroits — un moteur d'échecs ne pouvait pas jouer au morpion. Les choses ont changé avec AlphaZero de DeepMind, qui a appris les échecs par lui-même en quatre heures et est devenu meilleur que n'importe quel humain ou moteur ayant étudié des parties humaines. Cela promet l'inéluctabilité d'atteindre des niveaux surhumains si nous continuons. Je ne vois aucun argument en faveur d'une dépendance au substrat pour l'intelligence. Nous finirons par construire un système si bon dans tous les domaines qu'il sera fonctionnellement général, bien qu'il puisse avoir des façons de segmenter l'univers que nous ne pouvons même pas concevoir.

On a demandé à Elon Musk quel conseil il donnerait à ses enfants pour trouver un but et un sens dans un monde où l'intelligence artificielle générale est imminente. Que dites-vous à vos enfants ?

Qu'est-ce qu'il a répondu ?

Il est resté silencieux pendant 15 secondes et a bégayé. Il a dit qu'il vivait dans un déni suspendu parce que s'il y pensait vraiment, il se demanderait à quoi bon construire des voitures.

Il gagnerait à repenser le temps qu'il passe sur Twitter. Cette situation privilégie un retour aux humanités. La programmation est déjà en train d'être automatisée, mais créer de l'art, écrire des romans et parler de ce que signifie mener une vie bonne sont parmi les dernières choses à être automatisées. Nous voudrons la meilleure version technique de tout — peu m'importe qu'une IA guérisse le cancer — mais quand il s'agit d'un roman ou d'un podcast, nous nous soucions de la personne consciente derrière. J'ai vu une conversation générée par IA entre Alan Watts et Terence McKenna, et ça m'était égal parce que ce n'était pas vraiment eux. Je veux lire l'histoire de la Seconde Guerre mondiale par Churchill parce que c'est lui qui l'a écrite. Un faux Churchill n'a aucun intérêt.

Si la plupart des livres à l'avenir sont écrits par l'IA et se vendent mieux que les mots humains, que reste-t-il ? Même à cet égard, il n'y aura peut-être plus de carrière parce que l'IA est plus rapide et peut tester ce qui génère le plus de clics.

Ouais.

Que reste-t-il ?

Dans un monde où le succès signifie que l'IA produit d'excellentes choses et que les gens perdent leur emploi, nous avons besoin d'une hypothèse économique différente concernant la valeur du travail. Actuellement, votre droit à l'existence dépend du fait de trouver quelque chose à faire pour lequel les gens vous paieront. L'IA annule le besoin de travail humain et remplace curieusement les emplois à haut statut comme l'ingénierie logicielle en premier. Nous devons avoir une nouvelle économie comme le Revenu de Base Universel, où l'on ne devrait pas avoir à travailler pour survivre.

Revenu de base universel.

Nous devons briser le lien entre survie et travail. Si l'IA peut résoudre le changement climatique et l'extraction des ressources, ce devrait être la meilleure chose qui nous soit jamais arrivée. Nous pourrions tous être à la plage avec nos amis et notre famille.

Pensez-vous que tout le monde devrait recevoir un chèque mensuel ?

Cela doit arriver face à ce bouleversement de la main-d'œuvre. Cela finira par toucher votre emploi.

Les humains semblent avoir un désir inné de but et de sens. Nous semblons conçus pour le travail et l'inconfort.

Il n'est pas nécessaire que ce travail soit lié à l'argent. Nous obtiendrons notre statut et notre sens d'autres manières. Je sais qu'il est possible d'être heureux en ne faisant rien et en fixant un mur pendant un mois, bien que ce soit un cauchemar pour la plupart. Nous voulons être divertis et utiles dans nos relations. Si vous mettez tout le monde dans les meilleures vacances, vous imaginez qu'ils seraient malheureux parce qu'ils ne sont pas au travail, et pourtant ils travaillent pour se payer ces vacances. Nous trouverons une nouvelle façon d'être heureux. Je lirai Churchill sur la plage sans aucun impératif économique. Nous aurions de la chance d'avoir le problème de savoir comment être heureux sans l'impératif de survivre. Actuellement, les différences de chance font tout, et nous n'avons pas de système qui donne sa chance à tout le monde. Des gens meurent encore de faim, ce qui est un problème politique de rareté entretenue. Si l'IA supprime les emplois en produisant de la valeur pour tout le monde, nous devons répartir cette richesse. Sinon, nous aurons un goulot d'étranglement dystopique suivi d'une révolution où les gens des quartiers sécurisés seront traînés hors de leurs jets privés pour une réinitialisation brutale du système.

Si votre objectif était l'amélioration de l'humanité et que vous pouviez appuyer sur un bouton pour arrêter indéfiniment le développement des machines intelligentes, que feriez-vous ?

Je ferais certainement une pause jusqu'à ce que nous puissions comprendre le problème de l'alignement.

De façon permanente. Si le bouton était une pause permanente irréversible.

C'est difficile parce que l'IA surhumaine offre une corne d'abondance de possibilités. Je prends le risque existentiel suffisamment au sérieux pour faire une pause. Je pense que nous finirons par guérir le cancer grâce à notre propre technologie parce que notre intelligence est générale, mais juste moins rapide. L'IA apporte la vitesse et la mémoire pour trouver des schémas que nous ne saurions pas chercher. La recherche intelligente au sein des données finira par accomplir la plupart des grandes choses que nous voulons sans intelligence surhumaine. Nous avons besoin d'une réponse émotionnelle appropriée au statu quo et d'un dialogue politique qui transcende le tribalisme.

Ce podcast est sponsorisé par Whoop. C'est un coach de santé personnalisé sous forme d'appareil connecté qui m'aide à avoir la meilleure santé possible. Ils lancent un défi communautaire mondial ce mois-ci appelé le Core 4 Challenge, qui vous guide à travers quatre activités scientifiquement prouvées pour améliorer la santé. Si vous n'avez pas encore rejoint Whoop, rendez-vous sur join.whoop.com/ceo pour recevoir votre appareil gratuit et votre premier mois gratuit. Si cela ne vous plaît pas après 29 jours, ils vous remboursent.

Un message récurrent est l'importance des légumes verts dans notre alimentation. J'ai poussé Huel à sortir Huel Daily Greens, une boisson contenant toutes les vitamines et minéraux dont vous avez besoin. Elle a été lancée aux États-Unis et a été en rupture de stock, mais elle n'est pas encore au Royaume-Uni. Envoyons-leur un message pour leur dire d'apporter Huel Daily Greens au Royaume-Uni. Je vous tiendrai informés dès qu'elle sera disponible.

Vous m'avez aidé à changer d'avis sur le christianisme. Comment changer nos esprits en tant qu'individus ? Je veux de meilleures croyances qui me permettent de ne plus me mettre d'obstacles.

Il y a quelques limites claires. Une grande partie de notre malheur réside dans notre collaboration avec les autres. Le changement le plus efficace que j'ai jamais fait a été de décider de ne mentir sur rien. Il peut y avoir des situations extrêmes où l'on est forcé de mentir, comme si des nazis vous demandent si vous cachez Anne Frank dans le grenier, mais sinon, le mensonge est la première étape sur le continuum de la violence. Le mensonge crée une vie que l'on ne veut pas vivre. Quand les gens savent que vous ne mentez pas, ils ne vous demandent pas votre avis à moins de le vouloir vraiment. Quand vous êtes honnête, même quand c'est gênant, c'est incroyablement précieux parce que vous donnez aux gens les informations que vous voudriez avoir à leur place. Nous racontons des mensonges pieux en pensant être plus gentils, mais si quelqu'un fait du mauvais travail, lui dire qu'il réussit l'envoie dans le monde pour être perçu comme un échec par les autres. Vous ne lui rendez pas service.

Quand nous croyons que quelqu'un est de notre côté, nous sommes plus susceptibles de changer nos croyances. Tali Sharot a montré que si un adepte de la Terre plate entend quelque chose d'un autre adepte, il le croira, mais il rejettera la NASA d'emblée parce qu'il n'a pas confiance en la source.

C'est un bug, pas une fonctionnalité. Nous devons dépasser cela parce que la vérité est la vérité. La personne de votre équipe est capable de dire une contre-vérité, et la personne que vous respectez le moins est capable de dire quelque chose de pertinent. Nous devons remarquer comment nous sommes manipulés par les alliances sociales. Il ne faut ni tuer le messager, ni l'adorer.

Supprimer le mensonge a été une étape importante pour votre propre bonheur ?

Immensément.

Précisément comment ?

Le mensonge est la porte ouverte à la ruine des réputations et des entreprises. Regardez Lance Armstrong ou Tiger Woods ; le dysfonctionnement de leur vie a été permis par le mensonge. S'ils avaient décidé dès le début de ne pas mentir, leurs erreurs ultérieures auraient été impossibles. J'ai suivi un séminaire à Stanford avec le professeur Ron Howard qui m'a convaincu que le mensonge n'était plus une option. L'accent était mis sur les mensonges pieux, qui sont corrosifs pour les relations. Je me souviens qu'une amie de ma femme a menti pour annuler un projet, et ma femme s'est immédiatement demandé combien de fois elle avait été de l'autre côté de cette malhonnêteté. Cela a érodé la confiance d'une manière que la menteuse n'a jamais détectée. Une fois que vous arrêtez de mentir, le monde devient un miroir où vous vous rencontrez vous-même. Si quelqu'un veut collaborer et que vous utilisiez auparavant des mensonges pieux pour éviter la vérité, vous n'aviez jamais à affronter cette maladresse. Si vous rejetez quelqu'un sentimentalement pour une raison superficielle et qu'il vous pousse à bout, l'honnêteté vous force à réaliser que vous êtes une personne superficielle. L'honnêteté place un miroir devant votre esprit et vous oblige à vous demander si vous êtes à l'aise avec la personne que vous êtes.

Notre tradition de clôture est que le dernier invité laisse une question pour le suivant. La question est : Où voulez-vous être quand vous mourrez ? Décrivez le lieu, le moment, les gens, l'odeur et le sentiment.

Nous avons besoin de rites de passage permis par les psychédéliques et la méditation — des outils fondamentaux de compréhension. Je pense qu'une situation de soins palliatifs où la mort est sagement acceptée est essentielle, et les psychédéliques pourraient jouer un rôle. Je veux être dans un endroit vraiment beau où les familles peuvent venir me voir. Personnellement, j'aimerais avoir une vue sur le ciel avec des cumulus qui défilent. Rien ne me rend plus heureux que cela.

Les étoiles ou le ciel de jour ?

Le ciel de jour. Je ne m'inquiète pas de la mort elle-même. Le chaos médical est une chose, mais avoir un bel endroit avec une vue sur le ciel est la solution dont j'ai besoin.

L'odeur ?

Une brise marine serait parfaite.

Sam, merci pour cette conversation. Vous avez joué un rôle crucial en m'aidant à dénouer mes conflits avec la croyance religieuse. Vous ne m'avez pas laissé sans rien ; vous m'avez montré qu'il peut y avoir un grand sens et une spiritualité en l'absence de religion. Cela a supprimé ma peur de la mort.

C'est une bonne chose.

Merci pour vos livres et votre podcast. Pouvez-vous nous parler de la signification de votre application ?

Mon livre, Waking Up, parle de mon expérience de la méditation dans une vision du monde séculière, et une application est le système de diffusion parfait pour cela. L'audio est le support idéal. Les smartphones sont généralement des outils de fragmentation qui interrompent notre expérience, mais l'application détourne cela en guidant votre attention et en réorganisant vos priorités. Je me feel très chanceux d'être tombé là-dessus.

Sam, merci.

Merci pour votre générosité.

C'est un plaisir de vous rencontrer. Félicitations pour l'audience de votre podcast.

C'est fou, mais c'est le mérite de l'équipe. Merci du fond du cœur. Le travail que vous faites est important. Nous vivons dans un monde où la nuance et le dialogue honnête disparaissent, donc ceux qui sont prêts à s'engager à ce niveau doivent être protégés. Merci.

À suivre.