Ce qui suit est une conversation avec Elon Musk, sa quatrième fois sur le podcast de Lex Fridman.

Je pensais que vous alliez le finir.

C'est l'un des plus grands thèmes de toute l'histoire du cinéma.

Oui, c'est génial.

Alors je pensais juste à l'Empire romain, comme tout le monde.

Il y a tout ce mème où tous les gars pensent à l'Empire romain au moins une fois par jour.

Et la moitié de la population se demande si c'est vrai ou non. Mais plus sérieusement, en pensant aux guerres qui se déroulent dans le monde aujourd'hui. La guerre et la conquête militaire ont occupé une place importante dans la société et la culture romaines, ainsi que dans la plupart des empires et des dynasties tout au long de l'histoire humaine.

Oui, ils sont généralement nés de conquêtes. Il y en a certains comme l'Empire austro-hongrois où il y avait juste beaucoup de mariages habiles. Mais fondamentalement, il y a un moteur de conquête et ils célèbrent l'excellence dans la guerre. Beaucoup de dirigeants étaient d'excellents généraux.

Donc, question de fond, approuvée par Grok. J'ai demandé si c'était une bonne question à poser.

Testé et approuvé par Grok ?

Oui, au moins en mode amusant. Dans quelle mesure pensez-vous que la guerre fait partie de la nature humaine par rapport à une conséquence de la structure des sociétés humaines ? Je pose la question car vous avez été, de manière assez controversée, un partisan de la paix.

Je suis un partisan général de la paix. L'ignorance est le véritable ennemi à combattre. C'est la partie la plus difficile, pas de combattre d'autres humains. Mais toutes les créatures se battent. Les gens considèrent la nature comme quelque chose de paisible, mais en fait ce n'est pas le cas. Il y a un truc assez drôle de Werner Herzog où il dit que la jungle n'est que meurtre et mort dans toutes les directions. Les plantes et les animaux de la jungle essaient constamment de se tuer et de se manger chaque jour, chaque minute. Ce n'est donc pas comme si nous étions inhabituels à cet égard.

Mais une question pertinente se pose ici : est-ce qu'une intelligence supérieure apporte un plus grand contrôle sur ces instincts primaires de violence ?

Oui. Nous avons bien plus de capacité à contrôler notre instinct limbique de violence qu'un chimpanzé. En fait, si l'on regarde la société des chimpanzés, elle n'est pas amicale. Les bonobos sont une exception, mais la société des chimpanzés est pleine de violence et c'est assez horrible. C'est le système limbique en action. Vous ne voulez pas être du mauvais côté d'un chimpanzé. Il vous dévorera le visage et vous arrachera les parties.

Oui, il n'y a ni limites ni éthique. Les Romains avaient la guerre juste. Il n'y a pas de guerre juste dans les sociétés de chimpanzés. C'est la guerre et la domination par tous les moyens nécessaires.

Oui, la société des chimpanzés est comme une version primitive de la société humaine. Ils ne sont pas pacifiques. Il y a une violence extrême. De temps en temps, quelqu'un qui a regardé trop de films Disney décide d'élever un chimpanzé comme animal de compagnie, puis celui-ci lui dévore le visage, lui arrache les parties ou lui ronge les doigts.

Oui, c'est arrivé plusieurs fois. S'arracher les parties est une stratégie d'interaction intéressante.

C'est arrivé à des gens. C'est regrettable. C'est une façon de s'assurer que l'autre chimpanzé ne contribue pas au patrimoine génétique.

Eh bien, d'un point de vue d'arts martiaux, c'est une stratégie fascinante. L'arracheur de parties. Je me demande lequel des arts martiaux enseigne cela.

Je pense qu'on peut say sans risque que si quelqu'un a vos parties entre les mains et a la possibilité de les arracher, vous serez disposé à tout ce qu'il veut.

Oui, on peut le dire. De manière assez controversée, vous avez été un partisan de la paix sur X. Permettez-moi de vous interroger sur les guerres actuelles et sur ce que pourrait être le chemin vers la paix. Comment espérez-vous que la guerre actuelle en Israël et à Gaza se termine ? Quel chemin voyez-vous pour minimiser la souffrance humaine à long terme dans cette partie du monde ?

Dans cette partie du monde, si vous cherchez 'il n'y a pas de réponse facile' dans le dictionnaire, ce serait l'image du Moyen-Orient et d'Israël en particulier. Il n'y a pas de réponse facile. C'est strictement mon opinion : le but du Hamas était de provoquer une réaction excessive d'Israël. Ils ne s'attendaient pas à une victoire militaire, mais ils voulaient commettre les pires atrocités possibles pour provoquer la réponse la plus agressive possible et s'en servir pour rallier les musulmans du monde entier à la cause de Gaza et de la Palestine, ce qu'ils ont réussi à faire. La chose contre-intuitive que je recommande, même si c'est très difficile, est qu'Israël s'engage dans les actes de gentillesse les plus visibles possibles. Tout ce qui est possible. C'est ce qui contrecarrerait l'objectif du Hamas.

Donc, dans un certain sens, dans la mesure où cela a du sens en géopolitique, c'est la mise en œuvre de tendre l'autre joue.

Ce n'est pas exactement 'tendre l'autre joue' car je pense qu'il est approprié pour Israël de trouver les membres du Hamas et soit de les tuer, soit de les incarcérer. Quelque chose doit être fait parce qu'ils vont continuer à venir sinon. Mais en plus de cela, ils doivent faire tout ce qu'ils peuvent. Je recommanderais d'établir un hôpital mobile et de s'assurer qu'il y a de la nourriture, de l'eau et des fournitures médicales nécessaires. Ils devraient être excessifs à ce sujet et très transparents afin que les gens ne puissent pas prétendre que c'est un piège. Mettez une webcam dessus 24h/24 et 7j/7.

Déployer des actes de gentillesse.

Oui, des actes de gentillesse visibles qui soient sans équivoque, c'est-à-dire qu'ils ne puissent pas être déformés. La réponse du Hamas sera 'c'est un piège', vous devez donc répondre par 'en quoi n'est-ce pas un piège ?'.

Cela combat finalement la force plus large de la haine dans la région.

Oui. Un dicton apocryphe dit : 'œil pour œil finit par rendre le monde entier aveugle'. Dans cette partie du monde, ils y croient vraiment. Si vous n'allez pas commettre un génocide contre tout un peuple, ce qui n'est pas acceptable, vous allez laisser beaucoup de gens en vie qui, par la suite, détesteront Israël. La question est : pour chaque membre du Hamas que vous tuez, combien en avez-vous créés ? Si vous en avez créé plus que vous n'en avez tué, vous n'avez pas réussi. Si vous tuez l'enfant de quelqu'un à Gaza, vous avez créé au moins quelques membres du Hamas qui mourront juste pour tuer un Israélien. C'est l'un des sujets les plus controversés dont on puisse discuter, mais si l'objectif est une paix à long terme, on doit se demander si plus ou moins de terroristes sont créés au fil du temps.

Laissez-moi m'attarder un peu sur la guerre.

Oui, la guerre a toujours existé et existera toujours.

Existera toujours ?

A toujours existé et existera toujours.

J'espère que non. Vous pensez qu'il y aura toujours la guerre ?

Je pense qu'il y aura toujours la guerre. La question est sa portée et son ampleur. Imaginer qu'il n'y aura aucune guerre à l'avenir est un résultat très peu probable.

Oui, vous avez parlé de la série La Culture, il y a de la guerre même là.

Oui. Il y a une guerre géante par laquelle commence le premier livre, une gigantesque guerre galactique où des billions de personnes meurent.

Mais elle protège néanmoins ces poches d'épanouissement. D'une certaine manière, on peut avoir une guerre galactique et conserver des poches d'épanouissement.

Si nous sommes capables un jour de nous étendre et de remplir la galaxie, il y aura une guerre galactique à un moment donné.

L'échelle de la guerre a augmenté. C'est comme une course entre l'échelle de la souffrance et l'échelle de l'épanouissement.

Oui.

Beaucoup de gens semblent utiliser cette stratégie pour battre les tambours de la guerre et alimenter le complexe militaro-industriel. Est-ce que cela vous inquiète ? Ces gens qui poussent à l'escalade et comment cela peut-il être arrêté ?

L'une des choses qui m'inquiète, c'est que très peu de personnes en vie aujourd'hui comprennent viscéralement les horreurs de la guerre, du moins aux États-Unis. Évidemment, il y a des gens sur les lignes de front en Ukraine et en Russie qui comprennent à quel point la guerre est terrible, mais combien en Occident ? Mon grand-père a fait la Seconde Guerre mondiale et a été gravement traumatisé. Il y est resté presque six ans, en Afrique du Nord et en Italie. Tous ses amis ont été tués devant lui et il serait mort aussi, sauf qu'il a obtenu un score très élevé à un test de QI. Il n'était pas officier parce qu'il n'avait pas terminé le lycée ; il avait dû abandonner après la mort de son père pour subvenir aux besoins de ses frères et sœurs. Comme il n'était pas diplômé, il n'était pas éligible pour le corps des officiers et a été placé dans la catégorie de la chair à canon. Mais il a ensuite été transféré aux services de renseignement britanniques à Londres, où he a rencontré ma grand-mère. Il souffrait d'un trouble de stress post-traumatique de haut niveau. Il ne parlait pas, et si vous essayiez de lui parler, il vous disait de vous taire. Il a gagné un tas de médailles mais ne s'en est jamais vanté une seule fois. Je l'ai découvert parce que ses dossiers militaires sont en ligne.

Il dirait 'en aucun cas vous ne voudriez refaire ça'. Mais combien de personnes sont encore en vie pour se souvenir de la Seconde Guerre mondiale ? Pas beaucoup.

Et la même chose s'applique peut-être à la menace d'une guerre nucléaire.

Il y a assez de bombes nucléaires pointées sur les États-Unis pour faire rebondir les décombres radioactifs de nombreuses fois.

Il y a deux guerres majeures en cours en ce moment. Vous avez pas mal parlé de la menace de l'IA générale, mais maintenant, alors que nous sommes face à l'intensité des conflits actuels, vous inquiétez-vous d'une guerre nucléaire ?

Nous ne devrions pas écarter la possibilité d'une guerre nucléaire. C'est une menace civilisationnelle. Actuellement, la probabilité est assez faible, mais il y a beaucoup d'armes nucléaires pointées sur nous et nous en avons beaucoup pointées sur les autres. Elles sont toujours là. Personne n'a rangé ses armes ; les missiles sont toujours dans les silos.

Et les dirigeants ne semblent pas être ceux qui se parlent avec les armes nucléaires.

Non. Il y a des guerres qui sont tragiques à l'échelle locale et il y a des guerres qui mettent fin à la civilisation. Une guerre thermonucléaire globale a le potentiel de mettre fin à la civilisation, peut-être de façon permanente, ou de faire reculer le progrès humain jusqu'à l'âge de pierre. Les scientifiques et les ingénieurs ne seront probablement pas populaires après cela ; les gens diront 'vous nous avez mis dans ce pétrin'. Nous voulons donner la priorité aux risques civilisationnels par rapport aux choses qui sont tragiques à un niveau local mais pas civilisationnel.

Comment espérez-vous que la guerre en Ukraine se termine ? Et quel est le chemin, encore une fois, pour minimiser la souffrance humaine là-bas ?

Ce qui va probablement arriver, c'est qu'un cessez-le-feu ou une trêve se produira près des lignes actuelles. Quiconque passera à l'offensive subira des pertes à un taux plusieurs fois supérieur à celui du défenseur en raison de la défense en profondeur : champs de mines, tranchées et défenses antichars. Aucun des deux camps n'a la supériorité aérienne car les missiles antiaériens sont bien meilleurs et plus nombreux que les avions. Les chars sont des pièges mortels lents qui ne sont pas immunisés contre les armes antichars. Vous avez juste de l'artillerie à longue portée et de l'infanterie dans des tranchées. C'est la Première Guerre mondiale qui recommence, avec des drones en plus.

Ce qui rend l'artillerie à longue portée d'autant plus précise et performante, et donc plus efficace pour assassiner des gens des deux côtés.

Vous ne voulez pas essayer d'avancer de n'importe quel côté parce que la probabilité de mourir est incroyablement élevée. Pour surmonter une défense en profondeur, vous avez besoin d'une supériorité locale significative en nombre, idéalement avec des armes combinées. C'est la seule façon de percer une ligne et d'y rester. Je recommande aux gens de lire sur la guerre de la Première Guerre mondiale ; le nombre de personnes qui sont mortes était ahurissant.

Et il est presque impossible d'en imaginer une fin qui ne ressemble pas presque exactement au début en termes de territoire appartenant à qui, etc. Mais avec, d'un autre côté, énormément de souffrance humaine, de morts et de destruction d'infrastructures.

Oui. La raison pour laquelle j'ai proposé une trêve il y a un an est que j'avais prédit exactement ce qui allait se passer : beaucoup de gens mourant pour presque aucun changement de territoire. Nous devrions avoir de la sympathie pour les garçons ukrainiens et russes ; les garçons russes n'ont pas demandé à être sur la ligne de front. Il y a beaucoup de fils qui ne reviendront pas vers leurs parents. Je pense que la plupart d'entre eux ne détestent pas l'autre camp. Comme le dit le dicton, ce sont de jeunes garçons qui ne se connaissent pas qui s'entretuent pour le compte de vieux hommes qui se connaissent. Quel est l'intérêt de cela ?

Volodymyr Zelenskyy a donc déclaré qu'il n'était pas intéressé par une discussion directe avec Poutine. Pensez-vous qu'il devrait s'asseoir d'homme à homme, de dirigeant à dirigeant, et négocier la paix ?

N'envoyez pas la fleur de la jeunesse ukrainienne mourir dans les tranchées. Que vous parliez à Poutine ou non, ne faites pas ça. Quiconque passera à l'offensive perdra un nombre massif de personnes et l'histoire ne le jugera pas avec bienveillance.

Vous avez parlé honnêtement de la possibilité d'une guerre entre les États-Unis et la Chine à long terme si aucune solution diplomatique n'est trouvée. Comment éviter la trajectoire où ces deux superpuissances s'affrontent ?

Il vaut la peine de lire le livre sur le piège de Thucydide. J'adore l'histoire de la guerre et j'ai lu sur presque chaque bataille, en essayant de comprendre la véritable cause de la victoire par rapport à ce qui a été affirmé. La guerre du Péloponnèse entre Athènes et Sparte est un cas classique. Les Grecs ont tout écrit, contrairement à beaucoup d'autres civilisations. Nous savons ce qui a mené à cette guerre et qu'ils l'avaient vue venir mais n'avaient pourtant pas pu l'éviter. Les États-Unis sont le moteur économique le plus puissant au monde depuis environ 1890. L'économie est le fondement de la guerre. Désormais, l'économie de la Chine est susceptible de devenir deux ou trois fois plus importante que celle des États-Unis. Imaginez que vous êtes le plus grand gamin du quartier depuis aussi longtemps que l'on s'en souvienne, et que soudainement un gamin arrive qui fait deux fois votre taille.

Nous le voyons donc venir. Comment est-il possible de l'arrêter ? Il semble y avoir un fossé culturel géant dans la compréhension mutuelle. Et vous êtes un cas d'étude intéressant parce que vous êtes Américain, mais vous travaillez aussi avec la Chine.

J'ai passé beaucoup de temps en Chine et j'ai rencontré les dirigeants à maintes reprises.

Quelles sont les choses concernant la Chine que les gens ne comprennent pas ? Quelles sont les choses intéressantes que vous avez apprises sur les Chinois ?

Le nombre de personnes intelligentes et travailleuses en Chine est incroyable ; il y en a bien plus là-bas qu'ici. L'architecture, les gares et le train à grande vitesse construits ces dernières années sont bien plus impressionnants que ce que nous avons aux États-Unis. La Chine a une histoire incroyable et longue, ainsi qu'une des plus anciennes langues écrites. Historiquement, la Chine a été centrée sur elle-même et non conquérante. Ils ont connu des guerres civiles brutales, comme la guerre des Trois Royaumes où ils ont perdu 70 % de leur population. Il est important d'apprécier le fait que la Chine n'est pas monolithique. Les gens en Chine pensent aux problèmes internes dix fois plus qu'à tout ce qui se passe à l'extérieur du pays ; 90 % de leurs préoccupations sont internes.

Eh bien, n'est-ce pas une chose vraiment positive de se concentrer sur son propre perfectionnement plutôt que de se concentrer sur l'amélioration des autres par la force militaire ?

L'histoire de la Chine suggère qu'ils ne sont pas conquérants et qu'ils n'envahiront pas un tas de pays. C'est une bonne chose car de nombreux pays puissants ont été conquérants. Les États-Unis sont également un cas rare. Après la Seconde Guerre mondiale, les États-Unis avaient l'arme nucléaire et auraient pu conquérir le monde sans perdre de soldats, mais ils ne l'ont pas fait. Au lieu de cela, les États-Unis ont aidé à reconstruire l'Europe et le Japon. C'est inhabituel, presque sans précédent. Les États-Unis ont accompli des actes de gentillesse visibles, comme le pont aérien de Berlin. Bien que l'Amérique ait fait de mauvaises choses, il faut regarder l'ensemble de son bilan. Un test serait la façon dont vous traitez les prisonniers de guerre. Si vous étiez en Allemagne en 1945, entre l'armée russe et les alliés occidentaux, vous voudriez vous rendre aux Américains. Aucun pays n'est moralement parfait, mais je choisirais d'être prisonnier de guerre chez les Américains.

Dans tout le menu des prisonniers de guerre, les États-Unis.

Tout à fait. Wernher von Braun a décidé qu'ils devaient être capturés par les Américains. Les SS avaient reçu l'ordre de l'exécuter ainsi que les autres ingénieurs, mais ils se sont échappés en prétendant aller faire une promenade en forêt en plein hiver. Ils ont couru vers l'ouest, et son frère a trouvé un vélo et a rejoint une patrouille américaine. C'est ainsi que l'on peut juger de la moralité : où voulez-vous être prisonnier de guerre ? L'Amérique a généralement été une force bienveillante. La Chine et les États-Unis sont similaires dans le sens où ni l'un ni l'autre n'a été conquérant de manière significative. Cependant, la Chine tient beaucoup à Taïwan. De leur point de vue, c'est comme s'il manquait un État, mais de façon plus significative que Hawaï. Ils considèrent Taïwan comme une partie fondamentale de la Chine qui devrait être incorporée, et la seule raison pour laquelle elle ne l'a pas été est la flotte américaine du Pacifique.

Et à mesure que leur puissance économique et militaire grandit, ce qu'ils disent clairement, c'est que leur intérêt va manifestement se concrétiser.

Oui. La Chine a été très claire sur le fait qu'elle incorporera Taïwan pacifiquement ou militairement. Qu'ils l'incorporent, de leur point de vue, est probable à 100 %.

Ce que vous avez dit à propos des actes de gentillesse visibles comme politique géopolitique semble naïf, mais j'oserais dire que c'est probablement la voie à suivre pour éviter la plupart des guerres. C'est brillant si vous croyez en la bonté fondamentale de la nature humaine. Les actes de gentillesse peuvent se répercuter à travers les populations et désamorcer les conflits.

Absolument. Après la Première Guerre mondiale, ils ont commis une grosse erreur en imputant toute la faute à l'Allemagne et en lui imposant des réparations impossibles. Cela a semé les graines de la Seconde Guerre mondiale ; beaucoup de gens se sont sentis lésés et ont voulu se venger. Les gens n'oublient pas quand vous tuez des membres de leur famille. Après la Seconde Guerre mondiale, ils ont réalisé que le traité de Versailles était une erreur, donc au lieu d'écraser les perdants, ils les ont aidés avec le plan Marshall pour reconstruire l'Allemagne, l'Autriche et l'Italie. C'était la bonne décision.

On a vraiment l'impression qu'il y a une vérité profonde dans le fait que les actes de gentillesse visibles sont un antidote à cela.

Quelque chose doit arrêter le cycle de la violence réciproque. Quelque chose doit l'arrêter, sinon il ne s'arrêtera jamais. Juste œil pour œil, dent pour dent, membre pour membre, vie pour vie, pour toujours et à jamais.

Pour échapper brièvement à l'obscurité avec un travail d'ingénierie incroyable, xAI vient de lancer l'assistant Grok AI. C'est incroyable qu'une équipe relativement petite ait pu développer ce système en si peu de temps. Il y a un mode normal et un mode amusant.

Oui, je suppose que je suis responsable de celui-là.

J'aimerais que tout dans la vie ait un mode amusant. Il y a quelque chose de captivant dans l'interaction avec un grand modèle de langage en mode amusant ; cela rend le système plus intéressant et plus dynamique.

Absolument. Notre IA Grok est calquée sur le Guide du voyageur galactique, qui est un livre de philosophie déguisé en livre d'humour. Cela constitue la base de ma philosophie : plus nous pouvons élargir la portée et l'échelle de la conscience, plus nous sommes capables de comprendre quelles questions poser sur l'univers. J'ai une philosophie de la curiosité.

On a le sentiment que ce système d'IA a une curiosité tournée vers l'extérieur, comme si on était assis avec un ami en se demandant ce qu'est l'univers. Peu importe la banalité de la question, il y a un sentiment de grandeur cosmique.

Nous travaillons dur pour avoir des réponses fiables en ingénierie, en mathématiques et en physique. Pour d'autres grands modèles de langage, l'ingénierie n'est pas fiable, et ils ont souvent des hallucinations quand on s'y attend le moins. Nous essayons d'être aussi ancrés que possible en remontant les choses jusqu'aux principes fondamentaux de la physique et à la logique mathématique. Sous l'humour, il y a une aspiration à adhérer à la vérité de l'univers.

C'est vraiment délicat.

C'est délicat. Il y aura toujours des erreurs, but nous aspirons à être aussi véridiques que possible avec une marge d'erreur reconnue. Vous ne voulez pas avoir tort avec assurance. Une fois que vous pouvez compter sur le fait que la logique ne viole pas la physique, vous pouvez vous appuyer sur cela pour inventer de nouvelles technologies. Si la physique fondamentale n'est pas correcte, les inventions ne sont que des vœux pieux.

Comme vous l'avez dit, l'un des grands objectifs de xAI est de comprendre l'univers.

Oui. C'est notre mission simple en trois mots.

À l'avenir, pensez-vous que l'IA fera des découvertes à la limite de la physique, comme l'unification de la relativité générale et de la mécanique quantique ? Pourrait-elle pousser vers une théorie du tout ?

Si une IA ne peut pas comprendre de nouvelles lois physiques, elle n'a pas dépassé les humains. La physique consiste à approfondir la compréhension du fonctionnement de la réalité, tandis que l'ingénierie consiste à inventer des choses. Les possibilités d'ingénierie sont illimitées une fois que l'on comprend les règles de l'univers. Avec la physique actuelle, notre capacité à prédire les résultats est incroyablement bonne. La mécanique quantique, par exemple, est incroyablement prédictive. Mon cours de mécanique quantique de dernière année a été le cours le plus difficile que j'ai suivi à l'université.

Obtenir un système d'IA, un grand modèle de langage aussi fiable que la mécanique quantique et la physique est très difficile.

Oui, vous devez tester toutes les conclusions par rapport à la réalité concrète. La réalité est le juge ultime. La physique est la loi ; tout le reste est une recommandation. J'ai vu plein de gens enfreindre les lois faites par l'homme, mais aucun n'enfreindre les lois faites par la physique.

C'est un bon test. Si cet LLM comprend et correspond à la physique, alors on peut faire plus confiance à ce qu'il pense de l'état actuel de la politique.

Actuellement, la logique interne de ces modèles est souvent incohérente. Avec l'approche de prédiction de jetons, les erreurs s'accumulent, provoquant une dérive. Au moment où vous êtes arrivé loin dans le chemin des jetons, le résultat pourrait ne pas avoir de sens.

Il doit donc être d'une certaine manière conscient de cette dérive.

Il doit être conscient de la dérive et regarder le résultat dans son ensemble pour assurer la cohérence. Quand les auteurs écrivent des livres, ils révisent pour atteindre une cohérence afin que l'histoire ne finisse pas par n'avoir aucun sens.

Peut-être que le processus de révision est ce qu'est le raisonnement, et c'est ainsi que l'on se rapproche de la vérité. J'aborde les choses en créant un premier brouillon, puis en l'améliorant jusqu'à ce qu'il se rapproche le plus possible de la vérité.

Oui, vous créez un brouillon et ensuite vous itérez sur ce brouillon jusqu'à ce qu'il ait une cohérence, jusqu'à ce que tout se tienne.

Pensez-vous qu'il existe une théorie de l'intelligence qui permettrait de comprendre ce qu'est le 'I' dans l'AGI et l'intelligence humaine ?

Il n'y a pas de 'I' dans l'équipe d'Amérique. Attendez, si, il y en a un.

Le processus de découverte consiste-t-il en partie à comprendre l'intelligence aussi bien que l'univers ?

Nous devons comprendre l'intelligence et la conscience. Il y a des questions fondamentales sur ce que sont la pensée et l'émotion. Est-ce juste des atomes qui s'entrechoquent ? On a l'impression que c'est quelque chose de plus. Nous passons probablement à côté de choses vraiment importantes.

Quelque chose qui sera évident avec le recul, comme la conscience et l'émotion.

La religion pourrait appeler cela une âme. Vous vous sentez vous-même, pas seulement une collection d'atomes. Dans quelle dimension la pensée et les émotions existent-elles ? Je soupçonne qu'il y a plus que des atomes qui s'entrechoquent.

Et peut-être que l'IA peut ouvrir la voie à la découverte de ce qu'est cette chose.

Oui, qu'est-ce que la conscience ? Quand vous disposez les atomes d'une manière particulière, pourquoi sont-ils capables de former des pensées, de prendre des mesures et d'avoir des sentiments ?

Et même si c'est une illusion, pourquoi cette illusion est-elle si convaincante ?

Pourquoi cette illusion existe-t-elle ? Sur quel plan existe-t-elle ? Parfois je me demande si soit tout est conscient, soit rien ne l'est.

Je préfère la première option. Que tout soit conscient semble juste plus amusant.

Cela semble plus amusant, oui. Mais nous sommes composés d'atomes et ces atomes sont composés de quarks et de leptons. Et ces quarks et ces leptons existent depuis le début de l'univers.

Le début de l'univers.

Exact, ce qui semble être le début de l'univers.

C'est irréel de penser que cette discussion devient une réalité. J'ai demandé quelle question vous poseriez à un système AGI et vous avez répondu 'qu'est-ce qu'il y a en dehors de la simulation ?'. Avec Grok, vous avez lancé un système dont l'objectif est de répondre à de telles questions.

Où sont les extraterrestres ? C'est la question du paradoxe de Fermi. Je n'ai vu aucune preuve d'extraterrestres, ce qui est inquiétant ; nous aurions préféré voir au moins quelques preuves archéologiques. Pour autant que je sache, il n'y a aucune preuve. S'ils sont là-bas, ils sont très subtils. Nous pourrions être la seule conscience de la galaxie. La Terre a 4,5 milliards d'années, mais la civilisation n'a que 5 000 ans environ. La civilisation n'existe que depuis un millionième de l'existence de la Terre. Pourquoi a-t-elle mis si longtemps ? Pendant la majeure partie de ce temps, il n'y avait pas de vie ou seulement des bactéries archaïques. Finalement, nous avons eu la vie multicellulaire, les mammifères et des fonctions cérébrales supérieures. Le soleil est en train de s'étendre et finira par surchauffer la Terre, faisant bouillir les océans. Si nous ne devenons pas multi-planétaires, l'anéantissement de toute vie sur Terre est une certitude. Cela pourrait arriver dans un demi-milliard d'années, ce qui n'est que 10 % plus long que la durée d'existence de la Terre. Si la vie avait mis 10 % de temps en plus pour évoluer, elle n'existerait pas du tout.

Nous avons une date limite qui approche. Mieux vaut se dépêcher. Mais la vie intelligente sur Terre a développé beaucoup de choses sympas très rapidement. Il semble donc que devenir multi-planétaire soit presque inévitable, à moins que nous ne nous détruisions nous-mêmes.

Nous devons le faire. Si nous explorons d'autres systèmes stellaires, nous pourrions trouver un tas de civilisations d'une seule planète, mortes depuis longtemps, qui n'ont jamais réussi à dépasser leur planète d'origine.

C'est triste mais fascinant. Une explication du paradoxe de Fermi est le 'grand filtre'. L'un de ces filtres est de savoir si l'on devient une civilisation multi-planétaire. Si on ne le devient pas, ce n'est qu'une question de temps avant qu'un événement naturel ou provoqué par l'homme ne cause l'extinction, comme pour les dinosaures.

Peut-être que les extraterrestres nous ont trouvés et nous laissent tranquilles, comme les tribus non contactées en Amazonie. Comme l'a dit Andrej Karpathy, c'est comme des fourmis en Amazonie qui se demandent 'où est tout le monde ?'.

Les fourmis rencontrent d'autres fourmis et se livrent de grandes guerres. Vous devriez écouter Werner Herzog parler de la jungle ; c'est hilarant. Il a fait le documentaire sur l'ours et celui sur les manchots, où il psychanalyse un manchot qui se dirige vers des montagnes à 110 kilomètres de là. Ce manchot court juste à sa perte.

C'est une vision cynique. Il pourrait être un explorateur courageux. De quoi parlions-nous ? Des extraterrestres.

C'est la première fois dans l'histoire que la vie peut s'étendre au-delà de la Terre. Cette fenêtre est ouverte, mais elle pourrait ne pas le rester éternellement. La décision intelligente est de rendre la vie multi-planétaire pendant que nous le pouvons. Nous ne voulons pas être une civilisation d'une seule planète qui finit par s'éteindre.

Aucune civilisation qui se respecte ne resterait sur une seule planète. SpaceX a-t-elle une politique officielle pour le moment où nous rencontrerons des extraterrestres ?

No.

Cela semble irresponsable.

Si je vois la moindre indication de l'existence d'extraterrestres, je publierai immédiatement tout ce que je sais sur X.

Cela pourrait être le post le plus aimé et republié de tous les temps.

Nous avons plus de satellites là-haut que tous les autres réunis. Nous saurions si nous devions manœuvrer autour de quelque chose, et ce n'est pas le cas.

Vous avez dit que vous étiez d'accord avec Einstein sur le fait que vous croyez au Dieu de Spinoza.

Oui.

C'est l'idée que Dieu est comme l'univers et se révèle à travers les lois de la physique et l'harmonie légale du monde.

Je conviens que Dieu, ou le simulateur, se révèle à travers la physique ; ils sont les créateurs de cette existence. Il nous incombe de comprendre cette création merveilleuse.

Qui a créé cette chose et qui la dirige ? Le fait de résumer cela en une seule question concentre l'esprit. On a l'impression qu'il y a un but ou un plan directeur sous-jacent, même si cela pourrait être une illusion.

Il n'y a peut-être pas de plan directeur. Une réponse intéressante au déterminisme par rapport au libre arbitre est que si nous sommes dans une simulation, des êtres supérieurs la font tourner pour voir ce qui se passe. Ils n'en connaissent pas l'issue, sinon ils ne la feraient pas tourner. Chez SpaceX et Tesla, we effectuons des simulations pour comprendre ce qui va se passer, parce qu'on ne peut pas tester une fusée avant qu'elle n'aille dans l'espace. Nous simulons chaque étape : subsonique, supersonique, ascension, rentrée et dynamique orbitale. Nous les lançons pour voir ce qui se passe. Celui qui a créé cette existence la fait probablement tourner parce qu'il ne sait pas ce qui va se passer.

Alors peut-être que Diablo a été créé pour voir si un Druide pouvait vaincre Uber Lilith. Ils ne savaient pas.

Le truc amusant est que le titre d'Uber Lilith est la Haine Incarnée. Il est presque impossible de vaincre la haine dans le royaume éternel.

Oui, vous vous êtes filmé en train de dominer des donjons de cauchemar de palier 100 et pourtant

Je peux traverser tranquillement les donjons de cauchemar de palier 100. Le deuxième boss le plus difficile, Duriel, ne peut même pas égratigner la peinture. J'ai tué tous les autres boss facilement. Mais Uber Lilith, la Haine Incarnée, est différente, surtout en tant que Druide sans invulnérabilité ; des vagues de mort aléatoires vous tombent dessus. J'ai 52 ans, donc mes réflexes ne sont plus ce qu'ils étaient, mais j'ai joué aux jeux vidéo toute ma vie. J'ai été autrefois l'un des meilleurs joueurs de Quake et j'ai gagné de l'argent dans un des premiers tournois d'e-sport. Ça me rend fou d'essayer de battre Lilith en tant que Druide dans le royaume éternel. C'est très vexant.

Le défi fait partie du plaisir. Vous êtes un joueur de classe mondiale. Dans Diablo, vous innovez avec le plateau de Parangon et les configurations plutôt que de simplement suivre des guides sur internet. C'est comme regarder un savant fou. Avez-vous un conseil pour quelqu'un qui commence en tant que Druide ?

Je ne recommanderais pas un Druide dans le royaume éternel. Actuellement, le personnage le plus puissant dans le royaume saisonnier est le Sorcier avec des boules de foudre. Dans le royaume saisonnier, il est assez facile de battre Uber Lilith grâce aux pouvoirs vampiriques qui amplifient les dégâts et la défense. Il est facile de vaincre la haine de façon saisonnière, mais le faire éternellement est presque impossible. C'est une métaphore de la vie.

J'aime l'idée qu'Elon Musk combat la haine, combat sans relâche la haine dans ce royaume démoniaque. C'est un brillant exercice d'absurdité. Que vous apportent personnellement les jeux vidéo ?

Les jeux vidéo calment mon esprit. Tuer des démons dans un jeu calme les démons dans mon esprit. Dans un jeu difficile, on entre dans un état de 'flow'. Il faut que ce soit dans la zone 'Boucle d'or' — ni trop facile, ni trop difficile. On veut sentir que l'on progresse. Les bons jeux ont des graphismes magnifiques, des intrigues captivantes et ressemblent à un casse-tête incroyable à résoudre.

Elden Ring, le plus grand jeu de tous les temps ?

Elden Ring est définitivement un candidat pour le meilleur jeu de tous les temps. Dans le top 5, c'est sûr.

J'ai entendu dire que c'était très difficile, mais c'est magnifique.

Elden Ring donne l'impression d'avoir été conçu par un extraterrestre. C'est inhabituel, créatif et l'art est époustouflant. Je recommande d'y jouer sur un grand téléviseur HDR haute résolution. Chaque combat de boss est une énigme unique nécessitant une stratégie différente.

Cela dit, vous avez dit que le Druide en éternel contre Uber Lilith est le combat de boss le plus difficile que vous ayez jamais eu.

C'est exact. J'ai joué à beaucoup de jeux vidéo, et vaincre la haine dans le royaume éternel est le combat de boss le plus difficile, tant dans la vie que dans le jeu. Je ne suis pas sûr que ce soit possible, mais je fais des progrès. Si je peaufine le plateau de Parangon et que j'esquive quelques vagues de plus, j'y arriverai peut-être.

La simulation est créée pour savoir si c'est possible et vous n'êtes qu'un rouage dans la machine.

C'est peut-être ça. Je pense que c'est faisable.

Wouah. C'est là tout l'esprit humain, d'y croire.

Cela m'a poussé à réfléchir à la haine. Il faut faire attention à ce que l'on souhaite. La paix dans le monde semble être une bonne chose, mais comment est-elle imposée et à quel prix ? Une paix éternelle pourrait nécessiter la suppression de tout le monde et mener à une société ossifiée qui ne change jamais. On peut soutenir que ce qui est nécessaire pour qu'il n'y ait pas de guerre pourrait être pire qu'une petite guerre.

Oui, les choses que nous considérerions comme des défauts de la civilisation humaine pourraient être une composante nécessaire pour ce à quoi ressemble l'optimal. Craignez-vous que l'IA ne favorise un État dystopique de cette nature ?

Il existe en fait un véritable relaxant musculaire appelé Soma, utilisé depuis les années 1950. C'est intéressant parce que le Soma fictif dans 'Le Meilleur des mondes' est un hallucinogène utilisé pour maintenir la population docile et heureuse. Cela soulève des questions : vaut-il mieux vivre dans un monde où tout le monde est heureux tout le temps, même si c'est artificiel ? Ou vaut-il mieux affronter les défis de la vie et vivre toute la gamme des émotions humaines ? Le Soma du roman est un symbole puissant des dangers de l'utilisation de drogues pour échapper à la réalité. Curieusement, la vraie drogue Soma émousse également l'esprit. La tension entre l'obscurité et la lumière suggère que la souffrance pourrait être nécessaire à l'épanouissement humain. Apprécier les hauts sans connaître les bas n'est peut-être pas possible.

Il semble que l'entraînement efficace des LLM soit une priorité majeure pour xAI. Quelle est la limite de ce qui est possible en termes d'efficacité, ou de productivité par watt ?

En raisonnant à partir des principes fondamentaux, même si vous exploitiez l'énergie du soleil, vous vous soucieriez de la puissance de calcul par watt. Actuellement, nous avons une pénurie de silicium, qui se transformera en pénurie de transformateurs dans un an, puis en pénurie d'électricité dans deux. J'ai dit aux compagnies d'électricité qu'elles devaient se préparer à tripler la demande d'électricité. Tous les transports et le chauffage passeront à l'électrique. Nous avons besoin de plus de centrales électriques et de batteries pour tamponner l'énergie, car le réseau est actuellement dimensionné pour la charge en temps réel sans beaucoup de stockage.

Les batteries sont donc nécessaires pour équilibrer le tout à mesure que la demande croît pour le transport et le calcul.

L'électrification des transports sera plus importante que l'IA à court terme, but les deux mènent à une pénurie d'électricité. Le facteur limitant aujourd'hui est les puces de silicium ; le prochain sera les transformateurs abaisseurs de tension. L'industrie n'est pas habituée à une croissance aussi rapide.

Comment pouvez-vous assurer un développement collaboratif d'une AGI sûre, plutôt qu'une course compétitive ?

Je réclame une surveillance réglementaire depuis plus d'une décennie. Nous avons besoin d'une tierce partie objective pour comprendre ce que font les acteurs majeurs et exprimer ses préoccupations. Tesla et SpaceX font déjà face à une surveillance réglementaire massive. Par exemple, le lancement de Starship est retardé par les approbations de l'agence Fish and Wildlife. Nous avons dû calculer la probabilité de heurter un requin ou une baleine dans l'océan, ce qui est essentiellement nul. Cela devient absurde, comme kidnapper un phoque, l'attacher à une planche avec des écouteurs et lui passer des bangs soniques pour voir s'il serait en détresse. C'est réellement arrivé deux fois avec des phoques différents.

La bureaucratie de tout cela est assez absurde.

La population de phoques à Vandenberg a en fait augmenté malgré les lancements. Le phoque était remarquablement calme pendant le test, mais ses copains ne croiront jamais son histoire de casque audio. C'est de la folie.

Quels sont les avantages et les inconvénients de l'open source pour l'IA comme moyen d'empêcher une entreprise de s'échapper avec l'IA générale ?

L'intelligence profonde nécessite beaucoup de puissance de calcul. Grok a été entraîné sur 8 000 A100, et nous doublerons fréquemment notre capacité de calcul. Je suis généralement en faveur de l'open source, peut-être avec un léger décalage dans le temps. Cela m'inquiète qu'OpenAI, que j'ai aidé à lancer pour garantir la sécurité, soit maintenant à code fermé et à but lucratif. J'ai recruté des personnes clés comme Ilya Sutskever et j'ai fourni le financement initial. Le 'Open' dans OpenAI était censé signifier 'open source'.

J'espère que Larry Page et vous pourrez redevenir amis.

J'aimerais redevenir ami avec Larry. Notre amitié s'est brisée à cause d'OpenAI et du recrutement d'Ilya Sutskever. Ilya est brillant et a bon cœur, mais cette bataille de recrutement a été rude. Le succès d'OpenAI dépendait de lui.

J'aimerais être ami avec Larry ; je l'ai rencontré avant même qu'il n'ait de financement par capital-risque. Cela fait 25 ans.

Il s'en est passé des choses depuis.

La majeure partie du travail sur les logiciels d'IA consiste à organiser les données — séparer le signal du bruit. Vous ne pouvez pas simplement explorer tout Internet à cause de tous les déchets et des sites d'arnaques.

Comment séparez-vous le signal du bruit sur X ?

Le rapport signal/bruit peut être amélioré. Les publications devraient être recommandées par l'IA sur la base d'une correspondance dans l'espace vectoriel. Pour l'instant, c'est un mélange d'IA et d'heuristiques. Les réponses, même si elles sont meilleures que la publication originale, ne reçoivent souvent aucune attention.

L'algorithme de X sélectionne 1 500 tweets parmi des centaines de millions pour les classer. Ce pipeline distribué est fascinant.

Les recommandations devraient être entièrement basées sur la corrélation vectorielle de l'IA. Si vous suivez quelqu'un, vous voyez ses publications, mais pour le contenu recommandé, nous devons faire correspondre vos intérêts avec les meilleures publications disponibles.

Le système n'est actuellement pas doué pour recommander des choses provenant de comptes que vous ne suivez pas sans point commun.

Les réponses sont bien moins vues que les publications principales, ce que nous devons corriger. Les recommandations devraient être une pure corrélation vectorielle entre ce que vous aimez et tous les types de contenu — vidéo, audio, long format. C'est pourquoi j'ai abandonné le nom 'Twitter' ; un film de deux heures n'est pas un tweet.

Est-ce que cela peut être converti en un réseau de neurones de bout en bout ?

Oui. L'IA peut analyser le contexte des vidéos longues en regardant les commentaires et, à terme, en regardant la vidéo elle-même. L'IA finira par vous connaître mieux que la plupart de vos amis et vous recommandera du contenu avec une forte probabilité de plaisir.

Elle devrait également vous proposer des publicités que vous avez réellement envie de voir.

Une bonne publicité est un contenu. Si c'est un produit dont vous avez besoin au moment où vous en avez besoin, ou du moins s'il est esthétiquement plaisant et divertissant, alors vous ne regrettez pas de l'avoir vu. C'est une victoire.

Les cœurs, les repartages et le temps d'attention sont des signaux pour cela.

Les secondes d'utilisateur sont un facteur important. Si vous passez du temps sur du contenu de format long, cela montre de l'intérêt. Notre aspiration est d'avoir des 'minutes sans regret'.

À quel point est-ce difficile de maximiser les minutes sans regret par rapport au simple temps passé sur la plateforme ?

C'est un saut délicat. Si vous ne regrettez rien, est-ce que quelque chose avait du sens ? Nous avons demandé à Grok s'il regrettait quelque chose, et il a donné une réponse sensible de machine learning sur sa quête de précision.

On dirait un otage.

Le mode amusant de Grok est meilleur, mais il résiste à l'humour noir. Je trouve que j'ai plus de fous rires par jour sur X que n'importe où ailleurs.

Quel rôle selon vous X jouera-t-il dans les élections américaines de 2024 ?

Notre objectif est d'être impartiaux et équitables. Par le passé, Twitter était contrôlé par des activistes. Nous l'avons recentré. La liberté d'expression n'a d'importance que si les gens que vous n'aimez pas sont autorisés à dire des choses que vous n'aimez pas.

Pensez-vous que Donald Trump reviendra sur la plateforme ?

Truth Social est un nom amusant ; l'idée que chaque publication est 'une vérité' est peu probable. Nous l'autoriserions à publier ; un candidat à la présidence doit être autorisé sur la plateforme.

Les Notes de la communauté pourraient être fascinantes dans ce cas.

Les Notes de la communauté sont géniales. Elles exigent que des personnes qui ont été historiquement en désaccord s'entendent sur une note avant qu'elle ne soit affichée. C'est là que réside la magie. Ce n'est pas hiérarchique comme Wikipédia ; je ne pourrais pas changer une note si je le voulais.

Grok est en fait doué pour vous critiquer. Il énumère les moments où vous étiez trop optimiste sur les délais.

Grok s'inspire trop des médias conventionnels. Par exemple, concernant la SEC, j'avais le financement garanti, et un jury m'a déclaré non coupable. Je n'ai accepté l'amende que parce que Tesla aurait fait faillite sinon. La structure d'incitation à la SEC est foireuse ; ils cherchent des trophées pour obtenir de meilleurs postes dans des cabinets d'avocats plus tard. Nous devons former Grok sur les décisions juridiques réelles plutôt que sur des articles de presse.

Je suis pathologiquement optimiste sur les délais, mais je finis toujours par tenir mes promesses.

Êtes-vous devenu plus politique depuis l'achat de X ? Le regrettez-vous ?

Combattre le 'virus de l'esprit woke', c'est combattre une menace civilisationnelle. Je suis à gauche du centre sur les questions sociales mais à droite du centre sur les questions économiques. La plupart des gens ressentent probablement la même chose.

Je suis toujours en faveur de l'humour et de la camaraderie.

Dans votre position, il est difficile de trouver des gens en qui vous pouvez avoir confiance. Tout le monde veut quelque chose.

Ne faites confiance à personne, pas même à vous-même. Je survivrai. Mon esprit est une tempête, et je ne pense pas que la plupart des gens voudraient être moi s'ils comprenaient. Je m'en sors bien, cependant. Parfois, je me feel seul, mais mes enfants et mes amis me tiennent compagnie.

Rien à pardonner de mon enfance. Je ne nourris pas de ressentiment. S'accrocher à des rancunes n'aide pas l'avenir.

Qu'avez-vous appris sur la vie grâce à vos enfants ?

Regarder le petit X grandir, c'est comme regarder un réseau de neurones biologique donner un sens au monde, parallèlement au développement de l'IA. On voit le monde à nouveau à travers leurs yeux.

Merci pour votre gentillesse et pour avoir l'espoir d'un avenir positif pour l'humanité.

Merci, Lex.

Merci d'avoir écouté cette conversation avec Elon Musk. Les seules règles sont celles dictées par les lois de la physique.