D'accord. Très bien. Eh bien, bonsoir à tous. Bienvenue. Elon, merci d'être ici.

Merci de m'avoir invité.

Nous nous sentons très privilégiés, nous sommes ravis de vous recevoir. Je vais commencer par quelques questions, puis nous ouvrirons la discussion. Entrons directement dans le vif du sujet. Bill Gates a déclaré qu'il n'y avait personne à notre époque qui ait fait plus que vous pour repousser les limites de l'innovation scientifique.

C'est gentil de sa part de dire cela.

Eh bien, c'est une chose agréable à entendre de la part de n'importe qui, encore plus venant de Bill Gates. Mais curieusement, en ce qui concerne l'IA, depuis environ une décennie, vous avez presque fait le contraire en disant : "Attendez, nous devons réfléchir à ce que nous faisons et à ce que nous poussons ici, et que faisons-nous pour rendre cela sûr et peut-être que nous ne devrions pas pousser aussi vite et aussi fort que nous le faisons". Vous faites cela depuis dix ans. Qu'est-ce qui vous a amené à y réfléchir de cette manière et pourquoi devons-nous nous inquiéter ?

Oui, j'ai été en quelque sorte une Cassandre pendant un bon moment, où je disais aux gens que nous devions vraiment nous inquiéter de l'IA et ils me répondaient : "De quoi parles-tu ?". Ils n'avaient jamais vraiment eu d'expérience avec l'IA. Mais comme je suis immergé dans la technologie depuis longtemps, je pouvais la voir venir. Je pense que cette année, il y a eu un certain nombre de percées. Le point où quelqu'un peut voir une vidéo de lui-même créée de manière dynamique, quelqu'un pourrait créer une vidéo de vous disant n'importe quoi en temps réel, ou de moi. Il y a des vidéos de deepfake qui sont vraiment incroyablement bonnes, en fait parfois plus convaincantes que les vraies. Et le deep real. Et puis des choses comme ChatGPT étaient tout à fait remarquables. J'ai vu GPT-1, GPT-2, GPT-3, GPT-4, toute la progression vers cela. Il était donc facile pour moi de voir où cela allait. Si vous extrapolez simplement les points sur une courbe et supposez que cette tendance se poursuivra, alors nous aurons une intelligence artificielle profonde à un niveau qui dépasse de loin l'intelligence humaine. Je suis heureux de voir qu'à ce stade, les gens prennent la sécurité au sérieux et je voudrais vous dire merci d'avoir organisé cette conférence sur la sécurité de l'IA. Je pense qu'elle restera dans l'histoire comme étant très importante. Je pense que c'est vraiment assez profond. Et je pense globalement que le potentiel est là pour que l'intelligence artificielle ait un effet très probablement positif et crée un futur d'abondance où il n'y a pas de pénurie de biens et de services. Mais c'est un peu le problème du génie magique où, si vous avez un génie magique qui peut exaucer tous vos vœux, généralement ces histoires ne finissent pas bien. Faites attention à ce que vous souhaitez, y compris vos vœux.

Oui. Vous avez donc parlé un peu du sommet et merci d'y avoir participé, ce qui a été formidable et les gens ont apprécié votre présence et votre participation à ce dialogue. L'une des choses que nous avons accomplies aujourd'hui lors des réunions entre les entreprises et les dirigeants a été un accord selon lequel, idéalement, les gouvernements devraient effectuer des tests de sécurité des modèles avant leur sortie. Je pense que c'est quelque chose dont vous avez un peu parlé. C'est quelque chose sur lequel nous avons travaillé très dur parce que mon rôle au sein du gouvernement est de dire : "Attendez, il y a un risque potentiel ici, pas un risque certain, mais un risque potentiel de quelque chose qui pourrait être mauvais". Mon travail est de protéger le pays. Et nous ne pouvons le faire que si nous développons les capacités dont nous avons besoin dans notre institut de sécurité, puis que nous nous assurons de pouvoir tester les modèles avant qu'ils ne soient diffusés. Je suis ravi que cela se soit produit aujourd'hui, mais quel est votre point de vue sur ce que nous devrions faire ? Vous avez parlé du risque potentiel. Encore une fois, nous ne savons pas, mais quels sont les types de choses que des gouvernements comme le nôtre devraient faire pour gérer et atténuer ces risques ?

Eh bien, je pense généralement qu'il est bon que le gouvernement joue un rôle lorsque la sécurité publique est en jeu. Pour la vaste majorité des logiciels, la sécurité publique n'est pas menacée. Si l'application plante sur votre téléphone ou votre ordinateur portable, ce n'est pas une catastrophe massive. Mais quand on parle d'une superintelligence numérique, qui pose un risque pour le public, alors le gouvernement a un rôle à jouer pour sauvegarder l'intérêt du public. C'est bien sûr vrai dans de nombreux domaines : l'aviation, les voitures. Je traite avec des régulateurs dans le monde entier parce que Starlink relève des communications, les fusées de l'aérospatiale et les voitures du transport de véhicules. Je suis très familier avec les régulateurs et je suis en fait d'accord avec la grande majorité des réglementations. Il y a une certaine inquiétude de la part des gens de la Silicon Valley qui n'ont jamais traité avec des régulateurs auparavant et ils pensent que cela va simplement écraser l'innovation et les ralentir. Mais ce sera ennuyeux, c'est vrai. Ils n'ont pas tort là-dessus. Mais je pense que nous avons appris au fil des ans qu'avoir un arbitre est une bonne chose. Si vous regardez n'importe quel match de sport, il y a toujours un arbitre et personne ne suggère d'avoir un match de sport sans lui. Je pense que c'est la bonne façon d'envisager la chose : que le gouvernement soit un arbitre pour s'assurer qu'il y a une conduite sportive et que la sécurité publique est prise en compte. Je pense qu'il peut y avoir parfois trop d'optimisme à l'égard de la technologie et je dis cela en tant que technologue, donc je devrais le savoir. Tout bien considéré, je pense que l'IA sera une force bénéfique, très probablement, mais la probabilité que cela se passe mal n'est pas de 0 %. Nous devons donc simplement atténuer le potentiel négatif.

Et comment, vous parlez d'arbitre et c'est ce que nous essayons de créer.

Vous voyez Demis juste là.

Oui. Eh bien, voilà. Nous en avons parlé et Demis et moi en avons discuté il y a longtemps.

Nous lui faisons littéralement face.

Et en fait, Demis, à son crédit et à celui des gens de l'industrie, nous l'a dit. Demis dit que ce n'est pas juste que Demis et ses collègues notent leurs propres devoirs. Il doit y avoir quelqu'un d'indépendant et c'est pourquoi nous avons développé l'institut de sécurité ici. Pensez-vous que les gouvernements puissent développer l'expertise ? L'une des choses que nous devons faire est de dire : "Attendez, Demis, Sam et tous les autres ont beaucoup de gens très intelligents qui font cela". Les gouvernements doivent s'équiper rapidement en termes de capacités et de personnel, ce que nous faisons. Pensez-vous qu'il soit possible pour les gouvernements de le faire assez vite étant donné la rapidité avec laquelle la technologie évolue, ou que devons-nous faire pour nous assurer de le faire assez vite ?

Non, je pense que c'est un excellent point que vous soulevez. Le rythme de l'IA est plus rapide que n'importe quelle technologie que j'ai vue dans l'histoire, et de loin. Elle semble croître en termes de capacités d'au moins cinq fois, peut-être dix fois par an. Elle va certainement croître d'un ordre de grandeur l'année prochaine. Le gouvernement n'est pas habitué à bouger à cette vitesse. Mais je pense que même s'il n'y a pas de réglementations fermes, même s'il n'y a pas de capacité d'application, le simple fait d'avoir une vision globale et de pouvoir souligner les préoccupations du public sera très puissant. Donc, même si c'est tout ce qui est accompli, ce sera déjà très, très bien.

D'accord. Espérons que nous pourrons faire mieux que cela. Non, mais c'est utile. Et vous avez mentionné la Chine. J'ai pris la décision d'inviter la Chine au sommet ces deux derniers jours et ce ne fut pas une décision facile ; beaucoup de gens m'ont critiqué pour cela. Mon point de vue était que si vous voulez essayer d'avoir une conversation sérieuse, vous devez le faire. Mais qu'en pensez-vous ? Vous faites des affaires partout dans le monde, vous venez d'en parler. Devrions-nous engager le dialogue avec eux ? Pouvons-nous leur faire confiance ? Est-ce la bonne chose à avoir faite ?

Si la Chine n'est pas de la partie pour la sécurité de l'IA, la situation est sans objet. La plus grande objection que je reçois à tout type de réglementation ou de contrôle de sécurité de l'IA est que la Chine ne va pas le faire et qu'elle prendra donc les devants et nous dépassera tous. Mais en réalité, la Chine est prête à participer à la sécurité de l'IA et merci de les avoir invités. Je pense que we devrions remercier la Chine d'être venue. Quand j'étais en Chine plus tôt cette année, mon principal sujet de discussion avec les dirigeants chinois était la sécurité de l'IA, en disant que c'était vraiment quelque chose dont ils devraient se soucier et ils l'ont pris au sérieux, tout comme vous, ce qui est formidable. Leur présence ici était vraiment essentielle. S'ils ne sont pas participants, cela n'a aucun sens.

Cela n'a aucun sens. Oui. Non, et je pense que nous étions satisfaits. Ils ont participé hier aux discussions et ont fini par signer le même communiqué que tout le monde, ce qui est un bon début. Comme je l'ai dit, nous avons besoin que tout le monde aborde cela de manière similaire si nous voulons avoir une chance réaliste de le résoudre. J'allais, vous avez parlé d'innovation tout à l'heure et du fait que la réglementation est ennuyeuse. Il y a été un bon débat aujourd'hui sur l'open source. Je pense que vous avez été un partisan de la transparence algorithmique et du fait de rendre publics certains des algorithmes de X. En fait, nous parlions de Geoffrey Hinton en arrivant. Il est particulièrement préoccupé par l'utilisation de modèles open source par des acteurs malveillants. Vous avez un groupe de personnes qui disent qu'ils sont essentiels à l'innovation de cette manière distribuée. C'est un sujet délicat, il n'y a probablement pas de réponse parfaite et il y a un équilibre difficile à trouver. Quel est votre avis sur la façon dont nous devrions aborder cette question de l'open source ou sur quoi devrions-nous cibler les réglementations ou la surveillance que nous allons mettre en place ?

Eh bien, les algorithmes et les données en open source ont tendance à avoir six à douze mois de retard sur le code propriétaire. Étant donné le rythme d'amélioration, c'est en fait une différence assez importante entre le code propriétaire et l'open source. Si les choses s'améliorent d'un facteur cinq ou plus, avoir un an de retard signifie que vous êtes cinq fois moins performant. C'est une différence assez notable. Et cela pourrait être une situation acceptable. Mais on arrivera certainement au point où l'IA en open source commencera à approcher l'intelligence de niveau humain ou peut-être à la dépasser. Je ne sais pas trop quoi faire à ce sujet. Je pense qu'il est en quelque sorte inévitable qu'il y ait une certaine quantité d'open source et j'imagine que j'aurais un léger penchant pour l'open source parce qu'au moins vous pouvez voir ce qui se passe, alors qu'avec le code propriétaire, vous ne savez pas ce qui se passe. Maintenant, il faut dire avec l'IA que même si c'est de l'open source, vous ne savez pas nécessairement ce qui se passe parce que si vous avez un fichier de données gigantesque avec des milliards de poids et de paramètres, vous ne pouvez pas simplement le lire et voir ce qu'il va faire. C'est un fichier gigantesque de nombres impénétrables. Vous pouvez le tester lorsque vous l'exécutez pour voir ce qu'il va faire, mais c'est probabiliste plutôt que déterministe. Ce n'est pas comme la programmation traditionnelle où vous avez une logique très discrète et où le résultat est très prévisible. Un réseau neuronal n'est qu'un ensemble de probabilités. Cela finit par être un géant fichier de valeurs séparées par des virgules. C'est comme si notre dieu numérique était un fichier CSV ? Vraiment ? D'accord. Mais c'est ce que c'est.

Non, ce point que vous venez de soulever est celui dont nous avons beaucoup parlé, car les conversations avec les personnes qui développent la technologie soulignent le même point. Ce n'est pas comme un logiciel normal où il y a une prévisibilité sur les entrées menant à une sortie particulière. À mesure que les modèles itèrent et s'améliorent, nous ne savons pas exactement ce qui va en sortir. Je pense que Demis serait d'accord avec cela, c'est pourquoi il y a cette volonté d'intervenir pendant que les cycles d'entraînement sont effectués, avant que les modèles ne soient publiés, pour comprendre ce que cette nouvelle itération a apporté en termes de capacité. J'allais changer de sujet. Vous avez beaucoup parlé de la conscience humaine et de l'action humaine, ce qui peut paraître étrange pour les gens étant donné que vous êtes connu pour être un innovateur technologique si brillant, mais c'est sincère quand je vous entends parler de l'importance de maintenir cette action et de préserver la conscience humaine. Cela est lié à la question que j'allais poser : quand je fais des interviews ou que je parle de l'IA aux gens, le sujet qui revient le plus souvent est celui de l'emploi. Est-ce que cela signifie que je n'aurai plus de travail ou que mes enfants n'en auront pas ? Ma réponse en tant que responsable politique est que l'IA crée déjà des emplois et vous pouvez le voir dans les entreprises qui se créent. De plus, la façon dont elle est utilisée est celle d'un copilote plutôt que de remplacer la personne. Il y a toujours l'action humaine, mais elle vous aide à mieux faire votre travail. Il y a clairement des changements sur le marché du travail. Je citais une étude du MIT aujourd'hui selon laquelle environ 60 % des emplois actuels n'existaient pas il y a 40 ans. Il est donc difficile de prédire. Mon travail est de créer un système éducatif incroyable car, en fin de compte, si nous avons une population qualifiée, elle pourra suivre le rythme du changement et avoir une vie agréable. Mais cela reste une préoccupation. Quelle serait votre observation sur l'IA et l'impact sur les marchés du travail et sur ce que les gens devraient ressentir à ce sujet ?

Eh bien, je pense que nous assistons ici à la force la plus perturbatrice de l'histoire. Pour la première fois, nous aurons quelque chose qui est plus intelligent que l'humain le plus intelligent. C'est difficile de dire exactement quand ce moment arrivera, mais il viendra un point où aucun travail ne sera nécessaire. Vous pourrez avoir un travail pour votre satisfaction personnelle, mais l'IA pourra tout faire. Je ne sais pas si cela rend les gens à l'aise ou mal à l'aise. C'est pourquoi je dis que si vous souhaitez un génie magique qui vous donne tous les vœux que vous voulez et qu'il n'y a pas de limite, vous avez juste autant de vœux que vous le souhaitez. C'est à la fois bon et mauvais. L'un des défis à l'avenir sera de savoir comment trouver un sens à la vie si vous avez un génie magique qui peut faire tout ce que vous voulez. Dans ce cas, nous allons être sur la portion exponentielle de la courbe en S pendant longtemps. Ce ne sera pas que nous aurons un revenu universel de base, nous aurons un revenu universel élevé. En un sens, ce sera un égaliseur parce que je pense que tout le monde aura accès à ce génie magique. Ce sera certainement bon pour l'éducation ; ce sera le tuteur le plus patient. Et il n'y aura pas de pénurie de biens et de services ; ce sera une ère d'abondance. Je recommanderais aux gens de lire Iain Banks. Les livres sur la Culture de Banks sont de loin la meilleure vision d'un futur avec l'IA. Il n'y a rien qui s'en rapproche. J'en suis un très grand fan. Tous ses livres sont bons. Cela vous donnera une idée de ce qu'est un futur assez utopique ou pro-topique avec l'IA.

Ce qui est bon d'un point de vue matérialiste, une ère d'abondance. Cela mène alors à la question que vous avez posée. Je suis quelqu'un qui croit que le travail donne un sens et un but à la vie. Si vous en supprimez une grande partie, qu'est-ce que cela signifie ? D'où tirez-vous cette motivation, cet élan et ce but ? Vous en parliez ; vous travaillez énormément d'heures.

Je le fais. Comme je le mentionnais quand nous parlions plus tôt, je dois en quelque sorte m'engager dans une suspension délibérée de l'incrédulité. Parce que si je mets tant de sang, de sueur et de larmes dans un projet de travail et que je travaille jusqu'à 3 heures du matin, je me dis : "Attends, pourquoi est-ce que je fais ça ? Je pourrais simplement attendre que l'IA le fasse". Je dois être un masochiste ou quelque chose comme ça. Alors appelez Demis et dites-lui de se dépêcher, et ensuite vous pourrez prendre des vacances. C'est le plan.

Oui. C'est une chose délicate car je pense qu'une partie de notre travail consiste à s'assurer que nous pouvons naviguer vers cet endroit largement positif que vous décrivez et aider les gens à traverser cette période d'ici là, car ces choses apportent beaucoup de changements sur le marché du travail.

Oui. Je pense que c'est probablement une bonne chose en général car il y a beaucoup d'emplois qui sont inconfortables, dangereux ou fastidieux et l'ordinateur n'aura aucun problème à les faire. Ils sont heureux de le faire toute la journée. C'est amusant de cuisiner, mais ce n'est pas si amusant de faire la vaisselle. Mais l'ordinateur est parfaitement heureux de faire la vaisselle. Je suppose que nous avons toujours des sports où les humains s'affrontent, comme les Jeux olympiques, et une machine peut courir plus vite que n'importe quel humain, mais nous faisons toujours courir les humains les uns contre les autres. Même si les machines sont meilleures, nous rivalisons toujours pour voir qui peut être le meilleur humain dans un domaine. Les gens trouvent de l'épanouissement là-dedans. Donc je suppose que c'est un bon exemple de la façon dont, même quand les machines sont plus rapides que nous et plus fortes que nous, nous apprécions toujours de rivaliser avec d'autres humains.

Oui. C'est une bonne analogie. Nous avons beaucoup parlé de la gestion des risques. Avant de continuer, je veux terminer sur l'IA en parlant des opportunités. Vous êtes impliqué dans beaucoup d'entreprises différentes, Neuralink en étant une évidente, qui fait des choses passionnantes. Vous avez touché à ce qui me passionne probablement le plus, à savoir l'éducation. C'est comme un tuteur personnel pour chaque enfant. Un tuteur personnel incroyable, et nous connaissons la différence d'apprentissage qu'apporte ce tuteur personnalisé par rapport à l'apprentissage en classe. Si chaque enfant peut avoir un tuteur personnel spécifiquement pour lui, qui évolue avec lui au fil du temps, cela pourrait être extraordinaire. Pour moi, c'est à portée de main à ce stade et c'est l'un des avantages qui m'enthousiasme le plus. Quand vous regardez le paysage des choses que vous voyez comme possibles, qu'est-ce qui vous enthousiasme particulièrement ?

Je pense que les tuteurs IA vont certainement être incroyables, peut-être qu'ils le sont déjà. Je pense qu'il y a aussi peut-être la camaraderie, ce qui peut sembler étrange car comment un ordinateur peut-il vraiment être votre ami ? Mais si vous avez une IA qui a de la mémoire et se souvient de toutes vos interactions et que vous lui donnez la permission de lire tout ce que vous avez fait, elle vous connaîtra vraiment mieux que quiconque, peut-être même mieux que vous-même. Vous aurez en fait un grand ami. Tant que cet ami peut rester votre ami et ne pas être éteint. N'éteignez pas mon ami. Je pense que ce sera une réalité. L'un de mes fils a des difficultés d'apprentissage et a du mal à se faire des amis en fait, et je me disais qu'un ami IA serait vraiment génial pour lui.

Oh, d'accord. C'était une réponse surprenante, mais qui mérite réflexion. C'est vraiment intéressant. Nous le voyons déjà puisque nous pratiquons la psychothérapie désormais de manière beaucoup plus numérique et par téléphone, et cela fait une énorme différence. On peut imaginer un monde dans lequel l'IA peut apporter ce bénéfice social aux gens. Juste une question rapide sur X et ensuite nous ouvrirons la discussion à tout le monde. Vous avez fait de nombreux changements.

Oui, pas mal. Vous adorez cette lettre.

Oui. J'ai un vrai truc avec ça. Vraiment. L'un des changements, qui touche à l'équilibre entre la liberté d'expression et la modération, est une question avec laquelle nous débattons en tant qu'hommes politiques. Vous étiez aux prises avec votre propre version de cela. Et vous êtes passé d'une modération humaine manuelle aux notes de la communauté. Je pense que c'était un changement intéressant. Ce n'est pas ce que tout le monde a fait. Quel était le raisonnement derrière cela et pourquoi pensez-vous que c'est une meilleure façon de faire ?

Oui, une partie du problème est que si vous donnez le pouvoir de censeur à des gens, ils auront forcément un certain parti pris. Quiconque nomme les censeurs contrôle effectivement l'information. L'idée derrière les notes de la communauté est : comment avoir une approche de la vérité basée sur le consensus ? Comment rendre les choses le moins faux possible ? On ne peut peut-être pas atteindre la vérité pure, mais on peut aspirer à être plus véridique. La particularité des notes de la communauté est qu'elles ne suppriment rien, elles ajoutent simplement du contexte. Ce contexte pourrait être que cette chose est fausse pour les raisons suivantes. Surtout avec les notes de la communauté, tout est en open source, vous pouvez donc voir chaque ligne du logiciel et toutes les données qui ont servi à une note, et vous pouvez créer cette note de manière indépendante. Si vous voyez une manipulation des données, vous pouvez souligner qu'il semble y avoir un détournement du système et suggérer des améliorations. C'est une transparence maximale combinée à la sagesse des foules pour arriver à une meilleure réponse. L'un des éléments clés est que pour qu'une note soit affichée, des personnes qui étaient historiquement en désaccord doivent être d'accord. Il y a un peu d'utilisation de l'IA ici, nous remplissons donc un espace de paramètres autour de chaque contributeur aux notes de la communauté ; chacun a ces vecteurs qui lui sont associés. Ce n'est pas aussi simple que droite ou gauche ; ce sont plusieurs centaines de vecteurs parce que les choses sont plus compliquées qu'un simple clivage droite/gauche. Et ils feront une corrélation inverse : ces personnes sont généralement en désaccord, mais elles sont d'accord sur cette note, ce qui donne de la crédibilité à la note. Cela fonctionne assez bien. Je n'ai pas encore vu de note présente depuis plus de quelques heures qui soit incorrecte. La moyenne de réussite est extrêmement bonne. Quand les gens disent qu'ils craignent que les notes de la communauté soient de la désinformation, je réponds : "Envoyez-m'en une", et ils n'y arrivent pas. L'aspiration générale de la plateforme X est d'informer et de divertir le public et d'être aussi précis et véridique que possible, même si la vérité ne plaît pas à tout le monde. La vérité est payante. En supposant que vous ne vouliez pas vous bercer d'illusions, c'est la stratégie la plus intelligente.

Excellent. Très utile. Bien, ouvrons la discussion à tous nos invités ici. Nous avons des micros, ils arriveront si vous levez la main, ils viendront vous trouver. Avons-nous oui, allez-y. Merci.

Bonsoir. Alice Bentinck de Entrepreneur First. Merci pour cette conversation fascinante. J'ai une question pour chacun de vous. Monsieur le Premier Ministre, le Royaume-Uni possède certaines des meilleures universités au monde. Nous avons le talent. Que faudra-t-il pour que le Royaume-Uni soit un véritable vivier de licornes ? Et Elon, être fondateur au Royaume-Uni n'est toujours pas un choix de carrière évident pour les talents techniques les plus exceptionnels. Quels sont les éléments culturels que nous devons mettre en place pour changer cela ? Merci à vous deux.

Eh bien, vous voulez commencer ? Allez-y.

Bien sûr. Eh bien, vous avez raison de dire qu'il y a des éléments culturels où la culture devrait célébrer la création de nouvelles entreprises. Et il devrait y avoir un parti pris en faveur du soutien aux petites entreprises parce que ce sont elles qui ont besoin d'être accompagnées. Les plus grandes entreprises n'ont vraiment pas besoin de soutien. Vous pouvez voir cela comme un jardin : s'il s'agit d'une petite pousse, elle a besoin de soins, s'il s'agit d'un chêne puissant, il n'en a pas besoin d'autant. Je pense que c'est un changement de mentalité important. Londres et San Francisco, ou la Bay Area, sont vraiment les deux centres pour l'IA. Londres se porte donc très bien sur ce front. Ce sont les deux sites principaux sur terre et San Francisco est probablement devant Londres, mais Londres est vraiment très forte. Je dis simplement objectivement que c'est le cas. Mais vous avez besoin de l'infrastructure, vous avez besoin de propriétaires prêts à louer à de nouvelles entreprises, vous avez besoin de cabinets d'avocats et de comptables prêts à soutenir de nouvelles entreprises et, de manière générale, d'un changement de mentalité. Une partie de cela est en train de se produire, mais culturellement, les gens doivent vraiment décider que c'est une bonne chose.

Merci pour ce que vous avez dit sur le Royaume-Uni. Mon travail consiste à régler les détails concrets, à m'assurer que vous tous qui créez des entreprises puissiez lever les capitaux dont vous avez besoin, du financement de démarrage avec nos allégements fiscaux EIS jusqu'aux cycles de financement plus avancés. Nous avons besoin d'une réforme de nos fonds de pension pour débloquer les capitaux de tous ceux qui en possèdent et les déployer dans des actions de croissance. C'est un travail en cours, mais nous progressons bien. Nous avons besoin de talents. Cela signifie un système éducatif qui donne la priorité aux choses importantes, c'est pourquoi je j’insiste sur plus de mathématiques. Et aussi attirer les meilleurs et les plus brillants ici. Si vous regardez nos entreprises à la croissance la plus rapide dans ce pays, plus de la moitié d'entre elles ont un fondateur non britannique. Cela vous indique que nous devons être un endroit ouvert aux talents entrepreneuriaux les plus brillants du monde. Le régime de visas que nous avons mis en place facilite donc la venue de ces personnes ici. Ensuite, il y a la réglementation, en s'assurant que nous avons un système réglementaire favorable à l'innovation. Bien sûr, nous avons toujours besoin de garde-fous sur les choses qui nous inquiètent, mais nous devons créer un espace pour que les gens innovent et fassent des choses différentes. Ce sont tous mes rôles. Ce qui est plus difficile, c'est la culture : comment transposer cette culture de lieux comme la Silicon Valley à travers le monde, où les gens n'ont pas peur de renoncer à la sécurité d'un salaire régulier pour aller créer quelque chose et être à l'aise avec l'échec. Il faut être à l'aise avec l'échec et savoir que cela fait partie du processus. C'est une chose culturelle délicate à réaliser du jour au lendemain, mais c'est un élément important pour créer ce genre d'environnement.

Oui, si vous ne réussissez pas avec votre première startup, cela ne devrait pas être une catastrophe mettant fin à votre carrière. Cela devrait être : "Eh bien, tu as fait de ton mieux et maintenant réessaie". Créer une entreprise est une situation à haut risque et haute récompense. Je ne sais pas exactement comment cela fonctionne au Royaume-Uni, mais les options d'achat d'actions sont très difficiles dans la plupart des pays d'Europe. Si quelqu'un risque ses économies et que la vaste majorité des startups échouent... vous entendez parler des startups qui réussissent, mais la plupart des startups consistent en une quantité massive de travail suivie d'un échec. C'est en fait le lot de la plupart des entreprises. C'est donc haut risque et haute récompense, et la partie haute récompense doit être présente pour que cela ait du sens.

Je suis d'accord et nous avons, par rapport aux pays européens et aux États-Unis, un taux d'imposition sur les plus-values beaucoup plus bas. Pour ces personnes qui prennent des risques et font croître quelque chose, nous pensons que la récompense doit être au rendez-vous à la fin. Sur les stock-options, Index Ventures, l'un de nos principaux fonds de capital-risque ici, publie un rapport régulier examinant le traitement fiscal des stock-options par pays. Quand j'étais chancelier, nous étions quatrièmes ou cinquièmes et j'ai dit que pour la raison exacte que vous avez mentionnée, si cela doit être le meilleur endroit pour les innovateurs, nous devons remonter dans le classement. Dans la dernière édition de ce rapport, grâce aux changements que Jeremy et moi avons apportés, nous sommes passés au deuxième rang de mémoire. J'espère donc que cela rassurera sur le fait que nous reconnaissons que c'est important. Parce que quand les gens travaillent dur et risquent des choses, ils devraient pouvoir profiter des récompenses. Haut risque, haute récompense. Nous avons un système fiscal qui soutient cela et ce sont les valeurs en lesquelles je crois. Bien, question suivante. J'ai Seb devant moi, puis j'irai par là. Allez-y, Seb.

Merci beaucoup. Nous avons abordé de très grandes idées. Je suis vraiment intéressé, particulièrement dans le contexte de la création de super-hubs scientifiques et technologiques, par la manière dont cela se traduit dans la vie quotidienne des habitants de villes comme Austin, au Texas, ou dans mon cas Nottingham ? Comment voyez-vous cela évoluer pour les gens au quotidien ?

Les effets quotidiens de l'IA ?

Seb dirige notre équivalent de Walgreens. Il a des millions de personnes qui entrent dans son magasin chaque jour et il s'agit de s'assurer de rendre cela pertinent pour ces personnes. Permettez-moi de commencer là-dessus. Nous venions de passer en revue quelques choses que nous faisons. Comment utilisons-nous l'IA en ce moment pour faire une différence dans la vie des gens ? Nous avons gov.uk, qui a rassemblé toutes les informations gouvernementales sur un seul site web. Vous pouvez obtenir un permis de conduire ou un passeport. Nous sommes sur le point de déployer l'IA sur cette plateforme. Une grande partie de la population interagit avec gov.uk chaque jour pour effectuer ces tâches quotidiennes. Nous sommes sur le point de déployer l'IA dans ce domaine pour rendre tout ce processus beaucoup plus facile. Pour le moment, si vous avez perdu votre passeport et que votre vol est dans cinq heures, cela nécessiterait de nombreuses étapes pour comprendre quoi faire. Quand nous déploierons l'IA, vous pourriez littéralement dire cela et elle vous guiderait. Cela va bénéficier à des millions et des millions de personnes chaque jour. C'est une manière très concrète par laquelle je peux commencer à utiliser cette technologie pour aider les gens dans leur vie quotidienne.

Exactement. La chose la plus immédiate est d'avoir un ami très intelligent à qui vous pouvez tout demander. Demander comment fabriquer quelque chose, comment résoudre n'importe quel problème et il vous le dira. Les entreprises vont adopter cela, vous aurez donc un bien meilleur service client. Ce sera probablement la première chose que vous remarquerez. Et puis nous avons parlé de l'éducation. Avoir un tuteur phénoménal sur n'importe quel sujet est déjà presque là. Nous avons évidemment besoin que l'IA cesse d'halluciner pour qu'elle ne vous donne pas une réponse assurément fausse avec une excellente grammaire et de fausses citations. Nous devons nous assurer qu'elle ne donne pas de réponses de tuteur assurément fausses, mais cela va arriver assez vite. Pour tout parent qui a fait l'école à la maison pendant le COVID, ce sera un soulagement immense. Très bien. Bon, passons aux questions par ici. Brent, es-tu là ?

Bonjour, Brent Hoberman. Elon, vous avez parlé avec éloquence d'abondance et de l'ère de l'abondance. On a l'impression qu'avec l'IA, c'est tout, partout, tout de suite. Mais avec les robots, pour atteindre l'ère de l'abondance, nous aurons besoin de beaucoup de robots. Je sais que vous travaillez aussi sur les robots. Y a-t-il des contraintes auxquelles nous devrions penser et auxquelles nos politiciens devraient penser, qui pourraient nous mettre en retard pour les robots capables de faire toutes ces choses et d'entrer dans l'ère de l'abondance, et donc nous placer dans une situation de désavantage stratégique ?

Eh bien, tout ce qui peut être actionné par un ordinateur est effectivement un robot. Les voitures Tesla sont des robots sur roues. Tout ce qui est connecté à Internet est effectivement un actionneur final pour l'intelligence artificielle. Vous avez Boston Dynamics qui fabrique des robots impressionnants. Je pense qu'ils appartiennent à Hyundai. Il va y avoir toutes sortes de robots. Vous avez l'entreprise Dyson au Royaume-Uni, qui fait des choses assez impressionnantes. Je pense que le Royaume-Uni ne sera pas en retard sur ce front. Le Royaume-Uni a aussi ARM, qui est l'un des meilleurs concepteurs de puces au monde. Tesla utilise beaucoup la technologie ARM, presque tout le monde le fait. Je pense donc que le Royaume-Uni est dans une position forte. Je pense qu'il y a un souci de sécurité, surtout avec les robots humanoïdes, parce qu'au moins une voiture ne peut pas vous poursuivre très facilement dans ce bâtiment. Si vous avez un robot humanoïde, il peut vous suivre n'importe où. Je pense donc que nous devrions avoir une sorte de coupure locale câblée que vous ne pouvez pas mettre à jour depuis Internet. Si vous avez un interrupteur d'arrêt local où vous dites un mot-clé et cela met le robot dans un état de sécurité. Nous devrions être assez inquiets car si le robot peut vous suivre n'importe où, que se passe-t-il s'ils reçoivent une mise à jour logicielle et qu'ils ne sont plus si amicaux ? On se retrouverait alors dans un film de James Cameron.

Vous ne vendez pas bien l'idée là.

Je dis que c'est quelque chose dont nous devrions être assez inquiets parce que si le robot peut vous suivre n'importe où, que se passe-t-il si un jour ils reçoivent une mise à jour logicielle et qu'ils ne sont plus si amicaux ? On se retrouve alors avec un film de James Cameron sur les bras.

Lors de notre session aujourd'hui, quelqu'un a fait exactement la même remarque. Ils parlaient des films de James Cameron. Si vous y réfléchissez, les trains, les métros, les voitures, les bus, tous ces films avec la même intrigue se terminent fondamentalement par la personne qui l'éteint ou trouve un moyen de couper la machine. Ils soulignaient la même chose à propos de l'importance des interrupteurs d'arrêt physiques réels. Ce n'est pas l'endroit évident où l'on irait, mais peut-être que cela pourrait être l'un des tests pour l'IA.

Oui, excellent. Bien, oui, nous en avons là-bas, parfait.

Bonjour, une question pour vous deux. Je suis la fondatrice d'une scale-up spécialisée en IA et ML à Leeds. Depuis le lancement de ChatGPT, nous avons constaté une réelle augmentation des attaques de phishing utilisant des modèles de langage beaucoup plus sophistiqués. Que faisons-nous pour protéger les entreprises et les consommateurs afin qu'ils aient davantage confiance en cette technologie et comment les accompagnons-nous dans ce parcours avec nous ?

Eh bien, je pense que nous ne devrions pas trop lui faire confiance. C'est un défi important car l'IA en open source peut passer les tests CAPTCHA humains. Identifier tous les feux de signalisation sur une photo, l'IA n'aura aucun mal à le faire. En fait, elle le fera mieux et plus vite qu'un humain. À partir du moment où elle est meilleure que les humains pour passer des tests humains, quels tests ont réellement du sens ? C'est un vrai problème. C'est l'une des choses que nous essayons de résoudre sur X : comment gérer cela parce qu'il n'est pas nécessaire d'être à la pointe du domaine pour être meilleur que les humains pour passer ces tests. C'est pourquoi nous pensons que nous devrions facturer un dollar ou une livre par an. C'est une somme minuscule, mais cela rend prohibitif la création d'un million de bots. Ce sera un problème insurmontable l'année prochaine. Ensuite, il faut s'inquiéter de la manipulation de l'information, en faisant paraître quelque chose de très populaire alors qu'en fait ce ne l'est pas parce que c'est boosté par des bots alimentés par l'IA. C'est pourquoi je pense que cela mène à un petit paiement afin d'augmenter considérablement le coût d'un bot. Tout système de média social qui ne fait pas cela sera simplement envahi par les bots.

Nous devons montrer que nous maîtrisons l'atténuation des risques afin que les gens puissent faire confiance à la technologie. C'est ce sur quoi ont porté ces deux derniers jours au sommet sur la sécurité : montrer que nous investissons dans l'institut de sécurité et que nous avons les personnes capables de mener les recherches pour comprendre comment nous protéger contre les risques. Nous devons le faire rapidement et continuer à itérer. Votre analogie faisait partie des recherches que l'équipe travaillant sur le groupe de travail ici a publiées hier. Il s'agissait d'utiliser l'IA pour créer une tonne de faux profils sur les réseaux sociaux, puis d'infiltrer des groupes particuliers avec des informations spécifiques. Pour le moment, c'est quelque chose qui ne coûte rien.

On arrive au point où c'est comme, vraiment, vous allez en avoir 100 pour un centime, c'est ridicule.

Si vous pensez à ces réseaux sociaux au niveau d'un quartier, il n'y a pas tant de faux profils que cela à créer soudainement. Ils sont partout et s'il y a un problème local important, l'équipe a simulé des scénarios où ils interagissent avec tout le monde et diffusent des informations erronées. Cela fait littéralement partie de la recherche que nous avons publiée sur la désinformation hier ; c'est un véritable défi.

Exactement. Vous n'avez même pas besoin de voler la photo de quelqu'un car c'est traçable, mais vous pouvez simplement créer une nouvelle image d'une personne, d'apparence réaliste mais qui n'existe pas, et créer une biographie. Faites cela en masse. La seule façon dont vous pourrez le dire est que la grammaire est trop bonne. C'est un signe révélateur. Pas de fautes de frappe ? Voyons.

Maintenant, on me fait signe car je pense que nous n'avons plus de temps. J'aimerais prendre une toute dernière question brève et faisons en sorte qu'elle soit bonne. Oui, Monsieur, allez-y, vous êtes juste devant moi.

Elon, une question pour vous concernant la plateforme X. Y a-t-il des choses simples que nous pouvons faire, surtout en ce qui concerne les médias visuels ? Il est assez simple et pratiquement gratuit de faire dire et faire à des personnes comme vous des choses que vous n'avez jamais dites ou faites. Pouvons-nous faire quelque chose comme signer les médias de manière cryptographique ? Je viens d'Adobe, nous travaillons sur ce projet. Nous aimerions voir X signer numériquement les médias pour indiquer non seulement ce qui a été créé par l'IA, mais aussi ce qui provient d'un appareil photo, ce qui était réel, afin d'instiller un sentiment de confiance dans les médias qui peuvent devenir viraux.

Cela semble être une bonne idée. Un moyen d'authentification serait une bonne chose. Nous devrions probablement le faire.

C'est particulièrement pertinent pour les gens dans mon métier. J'ai déjà vécu une situation avec une image retouchée qui circule partout. Au moment où tout le monde se rend compte que c'est faux, le mal est fait. L'année prochaine, vous avez des élections aux États-Unis, en Inde, en Indonésie et probablement ici. Une part énorme de la population mondiale vote l'année prochaine. Ces problèmes sont juste devant nous. C'est probablement la première série d'élections où c'est un véritable problème. Déterminer comment nous gérons cela est crucial pour l'intégrité de notre démocratie.

Certaines choses sont assez divertissantes, comme le Pape en doudoune. Je rencontre encore des gens qui pensent que c'est réel. Quelles sont les chances qu'il porte une doudoune en juillet à Rome ? Il transpirerait, mais il avait l'air plutôt élégant. Je pense que la mode par IA va être une chose réelle. Je ne veux pas être pessimiste ; nous vivons l'époque la plus intéressante. Je pense que c'est à 80 % probable d'être bon et à 20 % mauvais. Si nous sommes conscients et prudents par rapport à la partie mauvaise, tout bien considéré, ce sera le futur que nous voulons. Ce sera en quelque sorte un égaliseur dans le sens où tout le monde aura accès aux biens, aux services et à l'éducation. Je pense que cela mène à plus de bonheur humain. Je finirai sur une note optimiste.

Parfait. Je pense que c'est une excellente note sur laquelle terminer. Nous voulons tous ce futur meilleur. La promesse est certainement là. Beaucoup de gens dans cette salle travaillent dur pour que cela se produise. Notre travail au gouvernement est de s'assurer que cela se passe en toute sécurité, mais sur la base de cette conversation et des deux derniers jours, je repars certainement plus confiant dans notre capacité à y arriver. Ce fut un immense privilège et un plaisir de vous recevoir ici. Merci beaucoup.