Mesdames et messieurs, accueillons Elon Musk, cofondateur et PDG de Tesla, et Jack Ma, coprésident du Groupe de haut niveau sur la coopération numérique de l'ONU. Applaudissons-les chaleureusement.

Bienvenue. C'est un plaisir de vous avoir tous les deux avec nous aujourd'hui. Cette session est très attendue. Nous avons affiché des mots-clés et des questions sur le grand écran, et vous pourrez choisir plus tard les sujets qui vous intéressent. La parole est à vous.

Qu'est-ce que nous sommes censés dire ? Peut-être juste des choses sur l'IA ? On m'a dit que l'IA ressemble au mot pour l'amour. C'est un joli nom.

Je déteste le terme « intelligence artificielle ». Je l'appelle « Intelligence Alibaba ».

Cela pourrait finir par être vrai. En général, les gens sous-estiment les capacités de l'IA. Ils pensent que c'est comme un humain intelligent, mais ce sera bien plus que cela. Ce sera plus intelligent que l'humain le plus intelligent. Un chimpanzé peut-il vraiment comprendre les humains ? Pas vraiment ; nous leur semblons être d'étranges extraterrestres. Ce sera la situation en termes d'intelligence relative. Si la différence n'est que si petite, ce serait incroyable ; elle est probablement bien plus grande. La plus grande erreur des chercheurs est de supposer qu'ils sont intelligents. Ils ne le sont pas, comparés à l'IA. Beaucoup d'entre eux ne peuvent pas imaginer quelque chose de plus intelligent qu'eux-mêmes, mais l'IA sera bien plus intelligente. Je ne sais pas trop quoi faire dans cette situation ; j'espère qu'ils seront gentils. Si vous ne pouvez pas les battre, rejoignez-les. C'est l'objectif de Neuralink : pouvons-nous accompagner l'IA dans cette aventure ? Je pense qu'il devrait y avoir plus d'entreprises comme Neuralink pour créer une interface à large bande passante vers le cerveau. Nous sommes déjà des cyborgs parce que nous sommes si bien intégrés à nos téléphones et à nos ordinateurs. Le téléphone est presque comme une extension de soi-même ; si on l'oublie, c'est comme un membre manquant. Mais la bande passante de communication avec le téléphone est très faible. La bande passante d'entrée a en fait diminué à cause de la frappe avec deux pouces par opposition à dix doigts. À un certain point, nous serons trop lents pour quelque chose qui a une capacité de calcul d'un exaflop. Une milliseconde est une éternité pour lui, mais rien pour nous. La parole humaine ressemblera à une respiration sifflante tonale très lente, comme des chants de baleines.

Je ne suis pas un expert en technologie ; je pense davantage à la vie. L'IA va ouvrir un nouveau chapitre pour la société où les gens essaieront de mieux se comprendre plutôt que de comprendre seulement le monde extérieur. Il est difficile de prédire l'avenir. 99,99 % des prédictions humaines dans l'histoire concernant l'avenir se sont révélées fausses.

Y compris celle-là ?

Seul un infime pourcentage de prédictions sont correctes, et généralement par accident.

Il est également vrai que 80 % des statistiques sont fausses. Public difficile. Allez les gars, c'était une blague.

Je suis heureux que l'Intelligence Alibaba comprenne mieux l'intérieur de l'humain. Quand les gens s'inquiètent de l'IA, ils devraient avoir plus confiance en eux. Les solutions que nous n'avons pas aujourd'hui seront trouvées par les jeunes demain. Je suis optimiste et je ne pense pas que l'IA soit une menace. Les êtres humains sont assez intelligents pour apprendre. Les gens qui s'inquiètent aujourd'hui sont ceux que j'appelle les « intelligents académiques ». Les gens comme nous qui ont l'intelligence de la rue n'ont jamais peur ; nous pensons que c'est très amusant et nous voulons l'adopter.

Cela ressemble à de célèbres dernières paroles. La vitesse de progression des ordinateurs est folle. Il y a 40 ou 50 ans, nous avions Pong, qui n'était que deux rectangles et un carré. Maintenant, nous avons des simulations photoréalistes en temps réel avec des millions de personnes jouant simultanément. Si vous supposez un quelconque taux d'amélioration, les jeux seront indiscernables de la réalité. Soit cela, soit la civilisation prendra fin. Même si le rythme de l'amélioration technologique ralentissait par mille, ce serait encore un temps infime par rapport à l'âge de l'univers. La civilisation existe depuis environ 7 000 ans, ce qui est une infime fraction de 13,8 milliards d'années. Le rythme du changement technologique dépasse notre capacité à le comprendre. J'ai un jour pensé à l'humanité comme à un chargeur d'amorçage biologique pour une superintelligence numérique. Un chargeur d'amorçage est le code minimal nécessaire au démarrage d'un ordinateur. La biologie était nécessaire pour faire évoluer les circuits en silicium.

Parlons de quelque chose d'amusant. J'admire le fait que vous vouliez aller sur Mars. À quoi ressemblera la vie là-bas ? Je ne suis pas intéressé par Mars moi-même ; j'en reviens tout juste, donc je suis plus intéressé par ce qui va se passer ici sur Terre. Pourquoi êtes-vous si curieux de Mars ?

Je pense qu'il est important de prendre des mesures les plus susceptibles de perpétuer la conscience dans le futur. Nous ne devrions pas tenir pour acquis que la conscience perdurera, d'autant plus que nous n'avons pas rencontré d'extraterrestres. C'est le paradoxe de Fermi. Certaines personnes pensent que nous avons trouvé des extraterrestres, mais croyez-moi, je le saurais. Ce n'est pas le cas. SpaceX a la « Zone 59 », soit huit de mieux que la Zone 51. Pour accroître la portée et l'échelle de la conscience, nous devons devenir une espèce multi-planétaire. Ce n'est pas parce que la Terre est condamnée, mais parce qu'il existe une probabilité irréductible que quelque chose se produise malgré nos meilleures intentions. C'est la première fois dans l'histoire de la Terre qu'il est possible d'étendre la vie au-delà de cette planète. Nous devrions sécuriser l'avenir de la conscience aussi rapidement que possible tant que cette fenêtre est ouverte.

Il est difficile de sécuriser l'avenir de la Terre, mais nous pouvons sécuriser les 100 prochaines années. J'admire votre courage à explorer Mars, mais j'admire aussi ceux qui améliorent la Terre. C'est génial d'envoyer un million de personnes sur Mars, mais nous devons nous soucier des 7,4 milliards de personnes sur Terre. Je n'aime pas Mars ; c'est facile d'y aller, mais on ne peut jamais en revenir. Je pense que nous devrions passer plus de temps à réfléchir à la façon de profiter de la vie ici. Peu importe la durée de la civilisation humaine, nous n'avons personnellement que 100 ans. Nous ne pouvons pas résoudre tous les problèmes futurs, mais nous pouvons être responsables de l'avenir en profitant du présent. L'IA nous aidera à mieux nous comprendre afin que nous puissions améliorer le monde. Je lis les nouvelles sur votre intérêt pour l'espace avec grand respect. Nous avons besoin de héros comme vous, mais nous avons aussi besoin de héros qui travaillent dur pour améliorer les choses sur Terre chaque jour.

Je suis très pro-Terre. Étendre la vie au-delà de la Terre devrait utiliser moins de 1 % de nos ressources. Nous devrions consacrer au moins un demi pour cent du PIB de la Terre à rendre la vie multi-planétaire. 99 % des ressources seraient toujours dépensées sur Terre, donc cela ne nous nuira pas. Je passe une grande partie de mon temps sur l'énergie durable avec Tesla. Je suis enthousiasmé par la Gigafactory de Shanghai ; l'équipe de Tesla Chine a fait un travail incroyable, époustouflant. Je n'ai jamais rien vu avancer aussi vite. La Chine, c'est l'avenir. Il y a aussi de grands progrès dans les entreprises de fusées entrepreneuriales en Chine ; atteindre l'orbite est très difficile, et j'ai beaucoup de respect pour cela.

Voulez-vous choisir un autre sujet ? Commençons par les emplois.

Bien sûr, n'importe quoi.

Pourquoi avons-nous besoin de tant d'emplois ? À chaque révolution technologique, les gens craignent que la nouvelle technologie ne supprime des emplois, mais en réalité, nous en créons davantage. Dans les 20 ou 30 prochaines années, la technologie des sciences de la vie permettra aux gens de vivre 100 ou 120 ans. Pourquoi devrions-nous avoir beaucoup d'emplois ? Je pense que les gens devraient travailler trois jours par semaine, quatre heures par jour. L'électricité a donné aux gens plus de temps pour profiter de la vie, et l'IA fera de même. J'ai visité 300 villes, alors que mon grand-père n'en a visité que trois. Mes petits-enfants visiteront probablement 3 000 villes, voyageant en Tesla ou en robot. Je ne m'inquiète pas pour les emplois car nous en aurons beaucoup, et ils se concentreront sur le bonheur des gens. À l'époque agricole, l'âge moyen était de 35 ans ; à l'époque industrielle, il était de 70 ans ; à l'ère de l'IA, il sera de 120 ans. Quand la vie s'améliore, les gens ne veulent pas avoir d'enfants. Nous entrerons dans une ère où tout le monde vit jusqu'à 120 ans et nous serons confrontés à de nouveaux problèmes. Ne vous inquiétez pas ; nous aurons des emplois.

Si vous travaillez sur quelque chose qui implique des personnes ou de l'ingénierie, c'est une bonne approche. L'art est également important. Nous allons devoir régler la situation de Neuralink rapidement, sinon nous serons distancés. Nous n'avons pas beaucoup de temps.

Nous n'avons pas beaucoup de temps pour quoi ?

Je vois la conscience technologique comme une carte topologique : elle est essentiellement plate avec quelques flèches très hautes. À moins d'être sur l'une de ces flèches, la topologie n'est pas évidente.

Je ne m'inquiète jamais des choses que je ne peux pas résoudre ; je laisse les autres les résoudre. Parlons d'éducation. Quelles connaissances ou compétences seront utiles à l'avenir ? Je ne pense pas que nous aurons des professionnels de l'IA. Les systèmes éducatifs d'aujourd'hui sont conçus pour la période industrielle. Les machines seront bien plus habiles que les humains pour mémoriser et calculer. Nous devrions changer l'éducation pour nous concentrer sur le fait de rendre les humains plus sages, plus créatifs et plus constructifs. Je veux passer plus de temps à former les enfants aux arts comme la peinture, le chant et la danse. Les ordinateurs ont des puces, mais les humains ont des cœurs, et c'est de là que vient la sagesse. Les gouvernements devraient réformer les systèmes éducatifs pour s'assurer que les enfants puissent trouver des emplois en ne travaillant que trois jours par semaine. Nous devons changer nos systèmes ou nous aurons des ennuis.

Essayez d'en apprendre le plus possible pour pouvoir prédire ou créer l'avenir. La meilleure façon de prédire l'avenir est de le créer. Évaluez si ce que vous apprenez vous aide à réduire l'erreur dans vos prédictions. Plus tard avec Neuralink, vous pourrez télécharger n'importe quel sujet instantanément, comme dans Matrix. L'éducation actuelle a une bande passante extrêmement faible et est lente. Les cours magistraux sont les pires. Essayez de prédire l'avenir avec moins d'erreurs. C'est difficile, mais vous devez essayer puis ajuster en fonction de vos résultats.

Essayer est une très bonne chose ; nous devrions avoir la confiance nécessaire pour essayer pour l'avenir. Je ne m'inquiète jamais des erreurs ; elles sont les meilleurs atouts de la vie humaine. Ce ne sont pas les catastrophes dont les gens devraient s'inquiéter avec l'IA, mais les erreurs humaines. Nous serons capables de les corriger. La Chine compte 18 millions de naissances chaque année, ce qui n'est pas suffisant. Les meilleures ressources sur Terre sont les cerveaux humains. Nous devons nous assurer que les machines sont toujours des outils pour les humains plutôt que des contrôleurs. Il est impossible pour les humains d'être contrôlés par des machines parce que nous sommes différents. Selon la science, les humains ne pourront jamais créer un animal plus intelligent qu'eux.

Je ne suis pas du tout d'accord avec cela. Nous devrions supposer que nous sommes très bêtes et que nous pouvons certainement fabriquer des choses plus intelligentes que nous. Notre première civilisation était très primitive, sans technologie. Maintenant, nous avons le chauffage et de la nourriture produite en masse. Les choses sont devenues bien plus intelligentes, et cela continuera. Nous ne sommes pas la dernière étape de l'évolution. L'erreur la plus importante que commettent les gens intelligents est de supposer qu'ils sont intelligents. Ils ne le sont pas.

Donnez-moi un exemple de quelque chose que les êtres humains ont fabriqué et qui est plus intelligent qu'eux-mêmes.

Les ordinateurs sont déjà plus intelligents que les gens sur de nombreuses dimensions. Nous ne cessons de déplacer les poteaux. Nous pensions autrefois qu'être bon aux échecs était un signe d'intelligence humaine, mais Kasparov a été écrasé par Deep Blue il y a 22 ans. Maintenant, votre téléphone portable pourrait écraser le champion du monde. Les humains étaient meilleurs au Go, puis Lee Sedol a été battu par AlphaGo. Ensuite, AlphaZero a écrasé AlphaGo 100 à zéro. Les êtres humains essayant de jouer contre un ordinateur au Go, c'est comme essayer de combattre Zeus. Chaque année, la part des activités intellectuelles où les humains sont meilleurs que les ordinateurs se réduit. Bientôt, nous serons surpassés de toutes les manières, ou la civilisation prendra fin.

Les ordinateurs sont peut-être habiles, mais les êtres humains sont beaucoup plus intelligents.

Certainement pas.

L'habileté est académique et basée sur la connaissance. L'intelligence est basée sur l'expérience. Les ordinateurs sont habiles, mais les humains les ont inventés. Je n'ai jamais vu un ordinateur inventer un humain. Il est inutile de rivaliser avec un ordinateur au Go ou aux échecs, tout comme il est impossible de courir plus vite qu'une voiture. Ces jeux ont été conçus pour que les humains jouent avec les humains. Pourquoi combattre un ordinateur ? Je préférerais voir deux ordinateurs se battre l'un contre l'autre. Nous devrions nous en tenir à ce pour quoi nous sommes bons.

Quel serait un exemple de quelque chose pour lequel les humains sont meilleurs qu'un ordinateur ? Voyons si cela reste vrai.

Les ordinateurs ne sont qu'un des outils habiles créés par l'homme. Il y aura d'autres outils créés qui seront bien plus habiles que les ordinateurs.

Vous pouvez considérer le progrès de l'IA comme la résolution de problèmes avec des degrés de liberté croissants. Ce qui a le plus de degrés de liberté, c'est la réalité. L'IA a progressé régulièrement à travers les dames, les échecs et le Go. Elle va arriver au point où elle pourra simuler complètement une personne. Il y a un argument solide selon lequel nous sommes actuellement dans une simulation. Cela me rappelle la blague selon laquelle si la vie était un jeu vidéo, les graphismes seraient incroyables, l'intrigue confuse et le temps de réapparition très long. Il faut 20 ans pour qu'un humain soit pleinement conscient. Je m'inquiète du taux de natalité. L'idée qu'il y a trop de gens sur la planète est dépassée. Le plus gros problème auquel le monde sera confronté dans 20 ans est l'effondrement de la population. Il est facile de voir l'avenir du monde dans 20 ans car les humains ont une séquence de démarrage de 20 ans.

Je suis tout à fait d'accord. Le problème de la population va être un défi énorme. 1,4 milliard de personnes, cela semble beaucoup, mais dans les 20 prochaines années, cela posera de gros problèmes à la Chine. La vitesse de la baisse de la population va s'accélérer.

C'est un effondrement qui s'accélère. La réfutation habituelle est de suggérer l'immigration, mais d'où ?

Vous voulez aller sur Mars, peut-être que des gens de Mars immigreront ici.

Mars a aussi besoin de gens. Il n'y a personne là-bas en ce moment ; c'est juste une planète de machines avec quelques robots.

Nous devrions y accorder une attention particulière. Nous devrions passer plus de temps à créer la vie et à mieux la traiter. Nous appelons l'IA Intelligence Alibaba parce que lorsque les choses ont une logique, les machines réussissent mieux. Mais quand les choses sont sans logique, les humains réussissent mieux. Par exemple, il n'y a souvent aucune raison quand on aime quelqu'un. Mais quand on veut faire de mauvaises choses, il y a une logique. L'IA peut apprendre cette logique et arrêter les méchants.

IA signifie amour.

Si l'IA peut apporter l'amour, nous avons besoin du « CQ » ou « Quotient d'amour » pour survivre. Sinon, vous ne pourrez pas survivre à l'époque de l'intelligence artificielle.

Je suis d'accord que l'amour est la réponse. Beaucoup de chansons disent cela.

Voulez-vous choisir un dernier sujet ?

Excusez-moi, messieurs. Le temps étant limité, il ne nous reste que cinq minutes. Dernière question, s'il vous plaît.

Voulez-vous choisir le dernier sujet ? La vie, les machines ou l'autonomie ?

On dirait une étape dans un jeu vidéo où il faut choisir un chemin. Je choisis la vie.

Combien de temps les gens pourront-ils vivre de plus avec l'aide de l'IA ? L'IA peut-elle aider à la durabilité environnementale ?

Je pense que les humains résoudront la question de la durabilité environnementale. Je ne cherche pas à suggérer de la complaisance ; nous devons prendre des mesures immédiates et spectaculaires. La Chine est en fait le leader mondial dans ce domaine ; la moitié de toutes les voitures électriques au monde ont été fabriquées en Chine l'année dernière. Si nous réalisons Neuralink, l'âge n'importera plus beaucoup car vous pourrez sauvegarder et restaurer votre état comme dans une partie sauvegardée. Nous pourrions résoudre le vieillissement biologique en modifiant l'ADN, bien que les gens puissent être réticents. C'est probablement une bonne chose que nous finissions par mourir. Les vieux physiciens ne changent pas d'avis, ils meurent tout simplement. C'est bien d'avoir un cycle de vie.

L'IA peut certainement aider à la durabilité environnementale. Quand les humains se connaîtront mieux, ils seront plus sages. Les gens habiles savent ce qu'ils veulent ; les gens sages savent ce qu'ils ne veulent pas. L'IA nous aidera à nous comprendre afin que nous puissions continuer à vivre et protéger une Terre plus saine. Je veux rester sur Terre et faire tout ce que je peux pour aider. Même si aller dans l'espace est génial, consacrer des ressources à ramasser les déchets dans les océans est plus difficile. L'IA peut nous aider à y parvenir. Nous devons vivre non seulement plus longtemps, mais en meilleure santé. La plupart des maladies sont causées par le comportement. Je suis sûr à 100 % que les gens vivront plus longtemps et en meilleure santé, mais pas nécessairement plus heureux, à moins qu'ils ne se concentrent sur les valeurs et la mission. La technologie devrait s'accompagner de rêves. J'espère que nous pourrons améliorer le monde pour 7,4 milliards de personnes et faire en sorte qu'elles soient plus heureuses et se soucient de la famille et de la santé. Faites confiance aux êtres humains et faites confiance aux jeunes. Prenons nos responsabilités pour aujourd'hui sans retirer les solutions pour demain. C'est une excellente chose que les humains fassent des erreurs et en tirent des leçons. C'est même une excellente chose de mourir.

C'est probablement vrai. Merci.

Battez-vous pour la lumière de la conscience.

Merci, Elon. Ravi de vous avoir parlé.

Merci beaucoup pour ce dialogue inspirant, futuriste et instructif. On dirait un dialogue typique entre la Terre et l'espace.