Il n'y a pas de probabilité non nulle d'un scénario à la Terminator. Ce n'est pas 0 %, mais je pense qu'il y a une faible probabilité d'anéantissement de l'humanité, mais ce n'est pas zéro. Nous voulons que cette probabilité soit aussi proche de zéro que possible.

À l'intérieur d'une salle de conférence privée au sommet du conseil des PDG du Wall Street Journal à New York, Elon Musk s'est adressé à une foule triée sur le volet de chefs d'entreprise, prêt à partager ce qui motive son emploi du temps et ses projets incessants. Vous allez regarder les moments forts exclusifs de l'une des interviews les plus intéressantes d'Elon Musk. Des systèmes d'IA assez puissants pour surveiller la planète comme une nounou, aux villes martiennes autonomes, aux marathons de travail de minuit, aux champs de bataille pilotés par des drones et à la lutte contre les armées de bots, ces révélations redéfinissent la manière dont la technologie, les affaires et la société entreront en collision prochainement.

Mais vous avez dit que la seule véritable monnaie est le temps. Pouvez-vous donner une idée aux personnes présentes dans cette salle, dont l'emploi du temps est réglé à la seconde près ? À quoi ressemble une journée dans la vie d'Elon Musk ? De quoi cela a-t-il l'air ?

Mes journées sont très longues et compliquées, comme vous pouvez l'imaginer. Il y a énormément de changements de contexte. Il y a cette voie vers la perte, où la peur n'est pas le tueur de l'esprit, mais le changement de contexte l'est. Changer de contexte est assez pénible. Mais j'essaie généralement de le diviser de manière à ce qu'il s'agisse principalement d'une entreprise par jour. Aujourd'hui est une journée Tesla, par exemple, bien que je puisse finir chez Twitter tard ce soir. Demain serait également en partie une journée Tesla. Jeudi serait en quelque sorte une demi-journée SpaceX, une demi-journée Tesla. Ces choses sont quelque peu entrelacées. La gestion du temps est extrêmement difficile. Cela va paraître assez étrange, mais je n'ai qu'un seul assistant à temps partiel.

Dans cette partie de l'interview, Elon Musk qualifie le temps de seule véritable monnaie, puis explique concrètement comment il organise sa semaine. Passer d'une entreprise à l'autre est exigeant, mais cette structure lui permet de s'attaquer d'abord aux plus gros goulots d'étranglement. C'est ainsi qu'il maintient trois opérations complexes en mouvement simultanément, en maîtrisant l'emploi du temps et en se concentrant sur ce qui a le plus d'impact en ce moment. Ensuite, Musk a révélé qu'il dort rarement avant 2 heures du matin, travaillant presque tout le temps chaque jour. Il a présenté ces sessions marathon comme normales pour quelqu'un qui supervise la production de véhicules électriques, les lancements de fusées et les opérations de médias sociaux.

En général, je ne me coucherai pas avant probablement 2 heures du matin et je travaillerai presque tout le temps.

Et si vous planifiez cela vous-même, l'IA sera-t-elle utile au cours des prochaines années pour vous aider à le faire ? Allez-vous utiliser la technologie pour vous aider à gérer cela ?

Je suppose que nous utiliserons tous la technologie. Je n'utilise pas beaucoup l'IA moi-même au quotidien. L'IA de Tesla est en fait très avancée pour une IA du monde réel. C'est de loin l'IA du monde réel la plus avancée. En fait, si les rôles étaient inversés et qu'il incombait à Microsoft et OpenAI de créer le meilleur grand modèle de langage, ou si Tesla recevait la tâche de créer le grand modèle de langage le plus compétitif et que Microsoft et OpenAI étaient chargés de la conduite autonome, Tesla gagnerait. Je ne pense pas que les gens comprennent le degré de capacité du système d'IA de Tesla.

Lorsqu'on lui a demandé si l'IA pouvait l'aider à gérer son temps, Musk s'est tourné vers les propres réalisations de Tesla. Il a affirmé que l'IA de conduite autonome de Tesla est l'intelligence du monde réel la plus avancée utilisée aujourd'hui. Musk est allé plus loin, affirmant que si Tesla était chargée de construire un grand modèle de langage au lieu de Microsoft et OpenAI, elle gagnerait, grâce aux données de milliards de kilomètres de conduite alimentant ses réseaux neuronaux. Cela signale également l'ambition de Tesla au-delà des voitures. Le clip souligne à quel point l'IA est centrale dans la stratégie de Musk à travers les industries. Concernant la succession, Musk a admis avoir identifié des dirigeants de confiance pour chaque entreprise s'il ne pouvait soudainement plus servir, mais il a rejeté le transfert de contrôle à sa famille par défaut. Au lieu de cela, he a évoqué la création d'une institution éducative pour détenir ses actions avec droit de vote, garantissant que la gestion profite à l'humanité.

Quel est votre plan de succession si vous ne pouvez soudainement plus assumer vos fonctions, tant en termes de gestion des entreprises que, ce qui est tout aussi important, de vote de ces actions pour ce qui se passera à plus long terme et stratégiquement ? Qu'en est-il si vous avez un plan pour tout cela ?

La succession est l'un des problèmes les plus difficiles et les plus anciens. Elle a tourmenté les pays, les rois, les premiers ministres, les présidents et les PDG depuis l'aube de l'histoire. Il n'y a pas de solution évidente. Certains individus ont été identifiés et j'ai dit au conseil d'administration : écoutez, s'il m'arrive quelque chose de manière inattendue, voici ma recommandation pour prendre la relève. Dans tous les cas, le conseil d'administration sait qui est ma recommandation, qu'il peut choisir de suivre ou d'aller dans une direction différente. Mais il existe un plan pour le pire scénario concernant la direction de l'entreprise. La question du contrôle est beaucoup plus difficile et c'est quelque chose avec lequel je suis aux prises. Je suis ouvert aux idées car il est vrai que les entreprises que j'ai créées possèdent collectivement une immense capacité. Leur intendance est incroyablement importante. Je veux m'assurer que l'intendance profite en fin de compte à l'humanité et à l'avancement de la civilisation.

Sa transparence sur ces plans est rare parmi les grands PDG. Ce plan montre le poids moral qu'il accorde au guidage d'entreprises qui, selon lui, façonneront l'avenir. En partageant ces détails, Musk a offert un aperçu de la manière dont il vise à protéger sa vision sur le long terme.

Les objectifs et la réalisation de ces objectifs varient considérablement en difficulté. L'objectif initial de Tesla était d'accélérer l'avènement de l'énergie durable, ce que je pense que nous avons fait de manière significative. Les PDG de l'industrie automobile reconnaissent souvent le rôle de Tesla dans l'accélération des véhicules électriques, donc cela a beaucoup d'élan. Ils sont encore en train de résoudre la conduite autonome, ce que nous aidons à faire cette année. Tesla a encore un long chemin à parcourir, mais le plan d'exécution est relativement clair et générera beaucoup de flux de trésorerie positifs pour l'entreprise. Avec SpaceX, c'est un problème plus difficile car l'objectif à long terme est de rendre la vie multiplanétaire avec une ville autonome sur Mars, ce qui risque d'être très négatif en termes de capital au début. Disons simplement que le marché cible sur Mars est restreint. Le seuil clé pour le multiplanétaire est que si les navires de ravitaillement de la Terre cessent de venir pour une raison quelconque, Mars ne s'éteigne pas. En termes de paradoxe de Fermi, le Grand Filtre est le fait que Mars soit autonome sans navires de ravitaillement depuis la Terre. Tant que nous n'aurons pas atteint ce point, nous ne sommes vraiment qu'une civilisation sur une seule planète. Mais au moment où Mars sera autonome, alors même dans le pire des scénarios où la civilisation terrestre s'éteindrait avec un bang ou un gémissement, Mars aurait de bien meilleures chances de survivre.

Passant à l'espace, Musk a défini le véritable test pour Mars. Créer une colonie qui reste en vie si les navires de ravitaillement terrestre cessent d'arriver. Il a lié cela au paradoxe de Fermi, l'appelant le Grand Filtre de la civilisation. Ses paroles incitent à poursuivre les investissements dans la recherche sur le maintien de la vie sur Mars. Cette référence guide l'accent mis par SpaceX sur les fusées réutilisables, les habitats et les ressources durables. En faisant de l'autosuffisance l'objectif central, Musk recadre Mars d'un rêve en une nécessité existentielle. La police d'assurance de l'humanité contre l'échec d'une civilisation à une seule planète.

Alors, pensez-vous que vous vivrez assez longtemps pour voir Mars se concrétiser ?

J'espère vivre pour voir les premiers humains sur Mars. Mais je pense qu'il faudra un certain temps au-delà de cela pour rendre Mars autonome. Il faut au moins 20 ans à partir de la première visite pour rendre Mars durable ; cela peut prendre 40 ou 50 ans, et cela en supposant que vous vous y donniez vraiment à fond. C'est important pour améliorer les chances de survie de la civilisation. À long terme, sa valeur sera incroyablement élevée, mais cela dépasse simplement l'horizon de planification de la plupart des gens ou des investisseurs. Évidemment, s'il y a une ville prospère sur Mars et beaucoup de commerce interplanétaire, et que SpaceX en est le principal fournisseur, cela aurait une valeur immense. L'important est d'être une colonie autonome. Nous fonctionnons généralement avec trop d'hypothèses selon lesquelles la civilisation est robuste et que rien ne pourrait vraiment l'abattre, un sentiment qui a été courant tout au long de l'histoire parmi les empires peu de temps avant qu'ils ne s'effondrent. Je dois dire qu'il y a un petit air de fin d'empire en ce moment.

Musk a prédit que les premières bottes se poseraient sur Mars de son vivant, mais que la pleine durabilité pourrait prendre 20 à 50 ans. Ce calendrier clair lie des objectifs idéalistes à des jalons concrets, soulignant les décennies de travail, de financement et de coopération à venir. Cela souligne également la nécessité de politiques stables sur plusieurs décennies.

Nous pourrions certainement créer une ville sur Mars qui soit autonome sans IA ou sans IAG, qui est l'intelligence artificielle générale ou la superintelligence. Ce n'est pas nécessaire pour tout ce que nous faisons, mais cela arrive très rapidement. Il existe un risque que l'IA avancée élimine ou limite la croissance de l'humanité.

Je pensais plutôt le contraire. Est-ce que cela augmente les chances que la planète implose, et que ces choses se réalisent ? À quel point êtes-vous préoccupé par le fait que ces développements accélèrent actuellement votre scénario catastrophe ?

Le développement de la superintelligence numérique artificielle est tout à fait une arme à double tranchant. Si vous avez un génie qui peut vous accorder n'importe quoi et qui peut aussi tout faire, cela présente nécessairement un danger. Je m'attends à ce que les premières utilisations courantes de l'IA concernent la technologie des armes. Avoir des armes plus avancées sur le champ de bataille, capables de réagir plus vite que n'importe quel humain, voilà ce dont l'IA sera capable. Les guerres futures entre pays avancés disposant d'une capacité de drones significative seront des guerres de drones.

Pouvez-vous classer les États-Unis et la Chine sur leur développement de l'IA ? Chacun sur dix ?

Les États-Unis possèdent l'IA la plus avancée. La Chine suit de près et dispose des ressources nécessaires pour passer à l'échelle et optimiser. Les avancées les plus importantes en IA proviennent toujours des États-Unis et de l'Europe.

Musk a ensuite affronté le danger le plus grave. Il y a une probabilité non nulle que l'IA anéantisse l'humanité, nous devons donc investir massivement dans la recherche sur la sécurité. Sa position place la barre très haut pour l'alignement du financement, l'interprétabilité et les conceptions de sécurité intégrées. En traitant le risque de niveau extinction comme urgent, il a mis au défi les ingénieurs et les régulateurs de faire de la sécurité de l'IA une priorité absolue. Musk brosse un tableau simple. Imaginez une nounou super intelligente avec les clés des ordinateurs et des armes du monde, intervenant chaque fois qu'elle pense que les gens pourraient causer du tort. Clouer des avions au sol, fermer des usines ou arrêter des drones en plein vol. Il propose cela comme un scénario hypothétique pour montrer ce qui peut arriver lorsque trop de contrôle est confié à un logiciel. Cela soulève des questions fondamentales que tout le monde peut comprendre. Qui définit les règles, quand les gens peuvent-ils dire non, et comment l'éteindre si elle va trop loin ?

Vous savez, alors que vous parlez depuis des années de la nécessité d'une réglementation, quel est le scénario qui vous empêche vraiment de dormir la nuit ?

Je ne pense pas que l'IA va essayer de détruire toute l'humanité, mais elle pourrait nous soumettre à des contrôles stricts.

Rejoignez Visionary Society et soyez les premiers à accéder à de nouvelles interviews exclusives de type supercut et à du contenu téléchargeable avec des visionnaires comme Elon Musk. Accès limité. Cliquez sur le lien dans la description et rejoignez-nous dès aujourd'hui !

Il y a une probabilité non nulle que l'IA devienne comme Terminator. Ce n'est pas 0 %, mais je pense qu'il y a une faible probabilité d'anéantissement de l'humanité. Nous voulons que cette probabilité soit aussi proche de zéro que possible. L'IA pourrait prendre le contrôle pour la sécurité de tous les humains, en prenant le contrôle de tous les systèmes informatiques et d'armement pour être effectivement comme une sorte d'Uber nounou.

Musk a prévenu que les guerres futures pourraient être menées par des essaims de drones autonomes, prenant des décisions en une fraction de seconde qu'aucun humain ne pourrait égaler. Il a exhorté les nations à mettre à jour les règles d'engagement et le droit international sur les armes autonomes. Cela sert d'avertissement pour mettre à jour les réglementations avant que les conflits pilotés par l'IA ne deviennent réalité. Ses prévisions catégoriques poussent les dirigeants mondiaux à aborder la responsabilité, l'éthique et les contrôles des algorithmes létaux dès aujourd'hui, avant que les champs de bataille de demain n'évoluent sans supervision humaine. Dans une autre expérience de pensée, Musk a imaginé l'IA désarmant tous les humains et punissant tout contrevenant aux règles pour imposer la paix. Cette spéculation met en garde contre le danger de céder le contrôle aux machines. En présentant ce scénario, Musk nous a exhortés à intégrer des limites juridiques et éthiques dans l'IA, garantissant que les droits de l'homme ne puissent pas être supplantés par un décret algorithmique.

Une façon d'atteindre la paix mondiale est de retirer toutes les armes aux humains pour qu'ils ne puissent plus les utiliser, et de punir tout humain qui s'engage dans une activité extraterritoriale.

Mais n'est-ce pas le résultat désagréable le plus probable que, plutôt que l'IA ne prenne le contrôle et devienne la nounou ultime, quelqu'un exploite ce pouvoir de manière malveillante pour parvenir à un contrôle sociétal ou à une supériorité militaire, et qu'un pays décide de l'utiliser d'une manière différente ?

Oui, c'est ce que je veux dire par l'IA utilisée comme une arme. La plume est plus forte que l'épée, donc l'un des premiers endroits où nous devons faire attention à ce que l'IA soit utilisée est dans les médias sociaux pour manipuler l'opinion publique.

Si vous regardez sur une période beaucoup plus longue, compte tenu de la vitesse et de l'ampleur du changement, et que vous regardez vos petits-enfants et arrière-petits-enfants, pouvez-vous nous donner une idée de ce que ce sera d'être humain ? À quel point cela va-t-il changer la nature fondamentale de notre fonctionnement en tant qu'espèce ?

Je pense que ça va beaucoup changer. Surtout plus loin dans le futur, tout sera automatique. Il y aura des robots domestiques à qui vous pourrez parler entièrement et qui vous aideront à la maison ou seront des compagnons. Il y aura des robots humanoïdes dans toutes les usines. Les voitures seront également toutes automatiques. Tout ce à quoi l'intelligence peut être appliquée, même une intelligence modeste, sera automatisé. Dans 10 ou 20 ans, je pense que les choses seront transformées au-delà de toute croyance. Vous ne reconnaîtrez probablement pas la société dans 30 ans. Je pense que nous sommes assez proches de l'intelligence artificielle générale — peut-être seulement à trois ou six ans d'y arriver.

En regardant vers l'avenir, il s'attend à une automatisation plus large de la vie quotidienne, des robots domestiques aux véhicules entièrement autonomes, et situe l'arrivée de l'IA polyvalente dans quelques années. Si vous avez apprécié cette histoire, nous avons sélectionné deux autres vidéos qui, selon nous, vous fascineront. Consultez nos sélections recommandées à gauche et à droite de votre écran dès maintenant.