Très bien. Eh bien, Mustafa Suleyman, Reid Hoffman, merci de nous avoir rejoints.

Mustafa, vous êtes le cofondateur de DeepMind, désormais une division de Google. Vous êtes l'auteur d'un livre à paraître, The Coming Wave.

Reid, légendaire investisseur en capital-risque, vous êtes l'un des premiers investisseurs d'OpenAI, également auteur d'un livre intitulé Impromptu. Les livres sont à la disposition de tous, alors merci à vous deux.

Que vous avez écrit avec l'IA, n'est-ce pas ?

Oui, Impromptu, le premier livre sur l'IA co-écrit avec une IA.

Oui, ChatGPT-4 fera d'ailleurs une séance de dédicaces.

Eh bien, tout ce que vous avez à faire est d'aller sur l'invite Web.

Et vous êtes les cofondateurs d'une société appelée Inflection AI. Messieurs, c'est une pluie de chatbots ces jours-ci, de la part d'OpenAI, de startups bien financées, de toutes les grandes entreprises technologiques. Alors dites-nous, Mustafa, peut-être commencez-vous, quel est l'enjeu ici avec Inflection AI ?

Je pense donc que ce sera sans aucun doute la transformation la plus radicale de notre vie. Il y aura des IA pour toutes sortes de choses, pour les entreprises, pour les marques, pour les influenceurs numériques.

Nous sommes convaincus que tout le monde aura également une IA personnelle, une IA alignée sur vos intérêts, dans votre équipe, à vos côtés, qui apprendra à vous connaître et qui nouera réellement une relation de confiance avec vous au fil du temps.

Ce sera un confident, un conseiller, là pour vous quand vous devrez prendre des décisions difficiles, mais aussi un chef de cabinet, pour planifier, organiser, hiérarchiser, réserver.

Votre IA sera véritablement votre représentant numérique, négociant en votre nom, interagissant avec d'autres IA de vente qui tentent de vous encourager à acheter quelque chose et vous aidant à faire une excellente affaire.

Par exemple, c'est tout un ensemble de choses. L'une des choses que j'ai apprises hier, c'est que l'un des membres de notre équipe chez Greylock utilise en fait Pi pour des conseils parentaux, ce qui est vraiment génial. Et c'est le genre de chose où l'on se dit, super.

Mais Reid, pourquoi est-ce une opportunité pour une startup ? Un Microsoft ou un Google Bard n'est-il pas un peu plus proche du client et mieux placé pour offrir cet assistant numérique personnel ?

Eh bien, je fais évidemment partie du conseil d'administration de Microsoft et j'ai fait partie de celui d'OpenAI. Et une partie de ce que j'aime dans les startups, c'est que vous avez une vision unique où vous n'êtes pas entravé par les autres aspects de votre entreprise et où vous construisez.

Ainsi, une partie de l'idée que Mustafa et toute l'équipe d'Inflection ont eue, et j'y ai aussi un peu contribué, est que le QI n'est pas la seule chose qui compte ici. Le QE compte également.

Alors, comment faire pour que cette intelligence personnelle, Pi, vous soit utile, avec évidemment un QI très élevé, mais aussi un QE ? Et c'est l'une des raisons pour lesquelles j'ai utilisé l'exemple de l'éducation des enfants, car il y a évidemment la question de savoir comment on s'y prend, mais aussi comment on entre en contact avec les gens, ce que l'on fait pour amplifier cela.

Et je pense que c'est l'une des choses que les gens d'Inflection font mieux que quiconque.

Pouvons-nous parler du QE ? Parce que je demandais, j'ai demandé à Pi ce que nous devrions vous demander. Ses questions étaient correctes. Et puis je me suis dit, vas-tu leur dire que nous avons eu cette conversation ?

Et il a répondu, haha, je ne suis qu'un programme informatique. Je ne peux rien dire à personne, mais je vous assure que nos conversations sont confidentielles. Je trouve ça plutôt cool que nous ayons cette méta-conversation sur votre entretien avec mes créateurs, point d'exclamation.

Et c'est en fait sa personnalité qui m'a choqué. Pouvez-vous expliquer comment vous l'avez conçue ?

Nous avons délibérément conçu pour être patient, curieux, bienveillant. L'une des choses qui nous a frappés il y a un an et demi, quand nous avons commencé à travailler sur ce projet, c'est ce qui fait une bonne conversation. Quand ressentez-vous ce sentiment de fluidité, d'énergie et de connexion avec une autre personne ?

Et je pense que la plupart du temps, c'est quand on se sent écouté et compris. On a reçu un peu d'affirmation, mais ce n'est pas tout à fait de la flatterie, n'est-ce pas ? Il n'est pas d'accord avec vous à chaque instant. Il peut être un peu provocateur. Il a des limites.

On peut donc le pousser sur certains sujets et il prendra position, ce qui est très sain. Mais il est aussi tout simplement curieux. Je pense que beaucoup de gens sont enthousiasmés par l'idée, surtout nos utilisateurs, que quelqu'un leur pose beaucoup de questions sur le sujet qui les intéresse.

Nous n'avons pas toujours quelqu'un dans notre vie qui soit aussi bien informé et passionné par nos sujets préférés que nous le souhaiterions. C'est là que Pi intervient, car il est extrêmement compétent et engageant.

Cela ressemble donc à un concurrent de ChatGPT. Est-ce un concurrent de ChatGPT, et comment cela a-t-il du sens si vous êtes également un investisseur dans OpenAI ?

Eh bien, je pense qu'il y aura un certain nombre d'agents. Je ne pense pas qu'il y aura un agent pour les gouverner tous, un anneau au Mordor.

Mais ChatGPT va-t-il nous gouverner pour la plupart ?

No, je ne pense pas. Je pense que c'est en partie pour la même raison que nous parlons à différentes personnes pour différents aspects de notre vie, n'est-ce pas ? On parle à telle personne de sa passion pour le snowboard, à telle autre de ce qui se passe dans le pays, à telle autre encore...

Nous avons un panthéon. De la même manière, nous aurons un panthéon de différents types d'IA. Vous demandez à ChatGPT comment consoler un ami qui a perdu un animal de compagnie cher à son cœur et il vous répond : voici cinq façons possibles de le faire.

Si vous demandez à Pi, il vous dira : oh, ça a l'air d'être vraiment difficile pour vous et votre ami. Vous connaissez bien votre ami, qu'est-ce qui compterait pour être présent pour lui ? Et il a toujours le QI, il a les cinq raisons, mais il passe par ce style d'approche.

Et je pense que ce sont des expériences d'interaction différentes, et la question est de savoir laquelle vous voulez à cet instant précis, laquelle vous voulez davantage dans votre vie. Et une partie de la conception de Pi consiste à savoir comment nous pouvons vous aider à être la meilleure version de vous-même.

N'est-ce pas ? Et cela ne signifie pas être flatteur, par exemple. Il s'agit de vous poser des questions sur ce que vous en pensez. Et comment vous traversez cela. Et de vous aider à naviguer dans votre vie en vous étant utile de cette manière.

Sam Altman était justement sur scène pour parler, comme il le fait parfois, des dangers théoriques de l'AGI et de ChatGPT-9. Je serais curieux de savoir si vous pensez que c'est une discussion qui mérite d'être menée et où vous vous situez chacun sur ce spectre des dangers existentiels liés à l'IA.

Eh bien, commençons par le fait que l'une des choses qui, selon moi, est dangereuse dans le débat existentiel, c'est qu'il nous aveugle sur des aspects plus proches, à savoir que l'IA est une intelligence d'amplification, conformément au livre Impromptu, et qu'elle amplifie donc les êtres humains.

Nous voyons donc beaucoup de bonnes choses avec les êtres humains, des tuteurs IA, des médecins IA, et bien d'autres choses encore. Il y a aussi de mauvais êtres humains. Donc, ce qu'il faut faire par rapport à ce que font les mauvais êtres humains avec l'IA fait également partie de la réflexion globale sur la manière de façonner cette technologie.

C'est l'une des raisons pour lesquelles je recommande vivement le livre de Mustafa, The Coming Wave. Et je vous laisse le soin d'apporter la suite de la réponse.

Et attendez, laissez-moi reformuler, Mustafa. Sam a probablement déjà quitté les lieux. Vous pouvez donc parler franchement. Sur quels points n'êtes-vous pas d'accord avec certaines des notes alarmistes qu'il a fait entendre ?

Écoutez, je pense qu'il est facile de spéculer sur ce à quoi pourrait ressembler un ChatGPT-9. Six ordres de grandeur supplémentaires en termes de puissance de calcul seraient faramineux, et je partage tout à fait ces inquiétudes concernant le risque existentiel.

Mais si on va jusqu'au bout, cela prendra de très nombreuses années, et on ne sait pas vraiment ce qui se passera à cette échelle. Ce qui est beaucoup plus clair, et c'est l'un des nombreux thèmes que j'explore dans mon nouveau livre, c'est qu'à court terme, nous sommes sur le point de donner à de très nombreuses personnes, si ce n'est finalement à tout le monde, l'accès à la capacité d'amplifier leur pouvoir actuel.

N'est-ce pas ? Il ne s'agit pas seulement d'un moteur de connaissances, mais à terme, il vous permettra d'agir, n'est-ce pas ? Vous pourrez faire des recommandations, acheter des choses, réserver des choses, et cela va devenir de plus en plus petit et de moins en moins cher, et donc se répandre partout.

Cela va provoquer une instabilité dramatique et potentiellement une menace pour l'État-nation, car quiconque a un programme ou tente de favoriser un résultat politique va soudainement voir s'abaisser la barrière à l'entrée de ce type d'impact à grande échelle.

Il y aura donc une véritable question sur la manière dont les États gèrent cette distribution du pouvoir. Et je pense qu'il y aura une tendance à se ruer vers des mécanismes un peu plus autoritaires, plus basés sur la surveillance, pour empêcher cette prolifération, ce qui serait à la fois préjudiciable à l'innovation et évidemment dystopique du point de vue de la gouvernance politique.

Attendez, parce que Sam et moi discutions également en coulisses, et il est beaucoup plus convaincu que l'IA nous mènera vers un monde plus égalitaire que vers un monde inégalitaire. Êtes-vous en train de dire qu'il y a plus de chances de dislocation économique et de dislocation sociale à la suite de cette technologie ?

En fait, les deux sont probablement vrais, ce qui est un peu surprenant. Mais si vous regardez les 50 dernières années, le transistor, la dernière vague, qui a permis l'ordinateur personnel, nous a clairement rendus plus égaux à bien des égards.

Que vous soyez milliardaire ou que vous gagniez 20 000 dollars par an, nous avons tous accès au même matériel de pointe. Le smartphone et l'ordinateur portable sont globalement à la pointe de la technologie, et tous les autres rattraperont leur retard au cours des 5 à 10 prochaines années.

Nous sommes sur la même trajectoire en ce qui concerne l'accès à l'intelligence. Et c'est une idée incroyable. Au cours de la prochaine décennie, des centaines de millions puis des milliards de personnes auront accès au même médecin expert, au même éducateur expert, au même outil pour planifier, hiérarchiser et organiser leur vie.

Ce sera sans aucun doute le moment le plus méritocratique de l'histoire de notre espèce. La question est de savoir comment les individus, les groupes et les organisations utilisent ce pouvoir, n'est-ce pas ? Parce qu'il est évident que nous avons tous des programmes, des priorités et des objectifs contradictoires, et c'est essentiellement là que je pense que nous finirons par subir des perturbations importantes.

D'accord, Reid, mais ça c'est voir le verre à moitié plein. Quelle est la menace potentielle pour les millions de codeurs, de représentants du service clientèle, la perte d'emplois pour les personnes qui occupent des postes dont les fonctions peuvent être facilement remplacées par l'IA ?

Avec votre casquette LinkedIn aussi.

La métaphore la plus proche que j'ai fini par utiliser pour décrire ce moment est celle d'une machine à vapeur de l'esprit. Si vous regardez l'ancienne machine à vapeur, la machine à vapeur actuelle, bien qu'évidemment considérablement amplifiée, la révolution industrielle nous a donné le superpouvoir des muscles, le superpouvoir des transports, le superpouvoir de la construction, toutes ces choses.

Désormais, nous allons avoir les superpouvoirs de l'esprit. Il y a toute une série de choses très positives qui en découlent. Tout ce que nous avons, l'augmentation de la richesse qui permet la médecine, l'education générale, tout le reste découle de la révolution industrielle.

Je pense que la même chose sortira de la machine à vapeur de l'esprit. Maintenant, la transition sera difficile. La transition sera du genre : d'accord, eh bien, les emplois dans le service à la clientèle vont beaucoup changer.

Maintenant, les ingénieurs, je pense, regardez, vous parcourez en gros une entreprise et vous vous dites, eh bien, nous multiplions par 10 chaque fonction. Vous dites que vous multipliez par 10 les vendeurs. Super. Je veux donc embaucher plus de vendeurs, je veux plus de ventes. Vous multipliez par 10 le personnel marketing. Peut-être que la fonction marketing va changer un peu, donc moins de saisie de commandes, plus de réflexion, mais vous aurez toujours un écosystème commercial compétitif.

Vous ne voulez pas arrêter le marketing ou ne pas en faire. Quand on arrive au service client, on a plus de remplacements. Mais une partie de la raison pour laquelle j'ai écrit le livre Impromptu et que j'essaie d'orienter les gens, c'est que pour les employés du service client, il y aura une transition.

Eh bien, l'IA peut y aider. Vous pouvez construire des IA qui aident à trouver d'autres types de travaux et d'emplois, qui peuvent vous aider à les trouver, qui peuvent vous aider à les apprendre, qui peuvent vous aider à les faire. Et c'est ce que nous devons faire en tant que société.

Il s'agit donc moins de savoir comment ralentir l'IA, mais plutôt comment la façonner pour aider une large partie de l'humanité dans cette transition. C'est là que j'essaie d'amener le dialogue et la discussion.

Mustafa, nous discutions justement avec Sam de Google et de la question de savoir si l'entreprise est toujours effrayante, et il nous a répondu qu'ils sont toujours redoutables. Vous avez quitté DeepMind et Google AI, et il est évident que beaucoup de gens ont quitté Google. Y a-t-il un problème chez Google ou une sorte de dilemme de l'innovateur qui l'empêchera de réussir véritablement dans l'IA générative parce qu'elle mine son propre modèle économique ?

Écoutez, fondamentalement, l'IA est en tension avec le modèle économique actuel de Google. Il est très difficile de se dévorer de l'intérieur, de s'adapter et de répondre à la vague qui s'annonce.

Pendant un certain temps, Google a tourné au ralenti. J'y étais pour LaMDA, nous avions ChatGPT avant ChatGPT. C'était un sentiment remarquable en interne de jouer avec cet outil incroyable sans vraiment pouvoir l'intégrer dans des produits.

Il a fallu le lancement de ChatGPT pour menacer Google et vraiment tout bousculer. Google est une organisation très redoutable qui regorge de gens super intelligents. Je suis donc sûr qu'ils s'en sortiront très bien, mais je peux comprendre pourquoi ils sont bloqués.

Parce que personne ne veut d'une IA personnelle dans sa poche qui soit en fait financée par la publicité, n'est-ce pas ? Vous ne voulez pas d'un vendeur dans votre poche qui essaie de vous persuader d'acheter plus ou de faire ceci ou cela. Vous avez besoin d'un alignement fiduciaire, n'est-ce pas ?

Votre IA doit être dans votre équipe, ce qui signifie qu'au bout du compte, vous devez payer pour elle. Et si quelqu'un d'autre paie, vous devez vous demander de quoi il essaie de vous persuader. Essaie-t-il de vous influencer d'une manière ou d'une autre ?

Et je pense que les gens en ont conscience maintenant, et c'est un vrai défi pour Google car on ne sait pas du tout comment ils vont gérer cette transition.

Nous avons donc demandé à Sam si Google lui faisait peur. Est-ce qu'OpenAI vous fait peur ? Mustafa d'abord, puis vous.

Alors, non.

Non, absolument pas. En fait, ce matin même, nous avons annoncé notre nouveau grand modèle de langage appelé Inflection-1. Et nous avons entrepris de construire un modèle qui soit assez rapide et plus performant que tous les autres modèles du marché pour notre classe de calcul.

Nous sommes donc très fiers qu'un an après notre lancement, nous soyons désormais meilleurs que LLaMA, ChatGPT, PaLM 540, Chinchilla, et tous les autres modèles de notre taille. Et c'est extrêmement important car c'est ce qui alimente Pi, et à terme, ce sera disponible sous forme d'API conversationnelle.

Vous pouvez donc évidemment l'essayer sur pi.ai dès maintenant. Et je pense que cela démontre qu'avec une équipe de 35 personnes, en assez peu de temps, nous sommes capables de dépasser la pointe de la technologie et de construire maintenant une IA absolument hors pair, ce qui est très excitant.

Et évidemment, nous avons aussi réussi à le faire parce que nous avons pu lever énormément de capitaux et attirer d'excellents investisseurs et entraîner, en fait, ce que nous avons aujourd'hui, le plus grand cluster opérationnel au monde de H100, la toute dernière puce de NVIDIA. Et c'est un avantage énorme.

D'accord. Et l'une des choses, parce que j'écoutais votre conversation avec Sam, c'est évidemment une question gênante quand vous lui demandez : « devrions-nous vous faire confiance ? » Parce que c'est du genre : « Oui, faites-moi confiance. » C'est bizarre parce que si quelqu'un dit : « Oui, faites-moi confiance », vous vous dites : « Attendez une minute. »

Il a en fait dit non, vous ne devriez pas. Je me suis dit, quoi ?

Oui. Si quelqu'un dit : « Oui, faites-moi confiance », on se dit : « Attendez une minute. » Les gens d'OpenAI sont vraiment des gens formidables. Je pense que c'est régi par une organisation à but non lucratif 501(c)(3). Il y a souvent beaucoup de FUD sur les réseaux sociaux qui occulte cela.

J'ai passé plusieurs années au conseil d'administration et au sein de l'équipe, je travaille toujours avec eux et je les aide. Ils sont pleinement attentifs à chaque question sérieuse. Par exemple, Sam a passé un mois à faire une tournée mondiale pour parler aux gens en leur disant : « Écoutez, je suis là, vous pouvez me parler de vos préoccupations. »

Je veux m'assurer que c'est bon pour l'humanité. Je ne m'intéresse pas seulement à la scène technologique de San Francisco aux États-Unis. Je me soucie de son impact sur l'humanité, et c'est pourquoi je suis venu ici pour vous parler. Ce genre d'engagement dans la conversation, le fait que je m'en soucie, est la raison, en plus d'une structure 501(c)(3), d'une structure de mission et de tout le reste.

Et donc, non, je suis ravi de ce que fait OpenAI.

Je ne vois pas comment il arrive à travailler avec toutes ces apparitions publiques. Mais je veux changer de sujet rapidement. Nous allons afficher quelques sondages Twitter à l'écran aujourd'hui, et nous avons demandé aux utilisateurs de Twitter d'où viendraient les plus grandes avancées de l'IA. Nous verrons le résultat.

Mais je voudrais poser une question, peut-être en commençant par vous Reid, sur notre politique de désinvestissement entre les États-Unis et la Chine. Pouvons-nous raisonnablement espérer que cela prolongera peut-être l'avantage de l'Amérique dans l'IA ? Est-ce une stratégie intelligente ?

Je ne pense pas que le désinvestissement soit une stratégie intelligente. Je pense qu'il est préférable de rester connectés, tant pour les États-Unis que pour la Chine et le monde entier. Je pense que la concurrence est une très bonne chose. Je pense que le fait que nous ayons, aux États-Unis et sur la côte ouest, une avance dans le domaine de l'IA sous diverses formes est une excellente chose pour les valeurs de l'écosystème, le grand ordre mondial dont les États-Unis devraient être très fiers au cours des 70 dernières années.

Il y a bien sûr beaucoup de choses à critiquer aussi, mais comme c'est une période de paix, essayer de faire des affaires et de créer des interconnexions est une très bonne chose, et je suis un fervent partisan de cela. Je pense que le désinvestissement n'est pas l'objectif.

Mustafa, vous écrivez dans votre livre que la Chine a une stratégie nationale explicite pour être le leader de l'IA d'ici 2030. Êtes-vous donc d'accord avec Reid pour dire que le retrait et le désinvestissement sont une stratégie intelligente ?

La Chine est déjà en avance sur son propre calendrier. Elle publie beaucoup plus d'articles sur l'IA que nous, collectivement, dans le reste du monde. Je pense effectivement que nos contrôles à l'exportation constituaient de fait une déclaration de guerre économique à la Chine.

Ils ont été très fermes et très agressifs, et je pense que cela nous place sur un terrain d'adversité extrême. Ils disposent également d'un grand nombre de leviers, et nous devons nous attendre à ce qu'ils les utilisent contre nous assez rapidement, malheureusement.

Nous avons donc beaucoup parlé de réglementation avec Sam, et il est évident que le président Biden était en ville cette semaine pour parler d'IA. Il a rencontré Sundar et Satya à Washington. Quelles sont les perspectives d'une véritable surveillance gouvernementale qui protège les utilisateurs, l'économie et notre processus politique ?

Écoutez, je pense que la bonne nouvelle est que l'administration adopte une approche du type « apprenons à être intelligents à ce sujet ». Rassemblons un groupe de personnes réfléchies de l'industrie, hier nous avons rassemblé des personnes réfléchies de l'extérieur de l'industrie, du monde universitaire, d'autres types d'endroits, et apprenons.

Je pense qu'un certain nombre de bonnes personnes sont chargées de cette mission. Je suis donc optimiste à cet égard. Mais d'un autre côté, bien sûr, un peu comme lors de votre entretien avec Sam, la réglementation est quelque chose qu'il est très facile de rater.

Il faut donc être prudent dans la manière de procéder. On veut que l'impact soit globalement positif et non, par exemple, une capture réglementaire ou d'autres choses. Je pense donc qu'il faut faire attention à la façon dont on s'y prend.

Je pense qu'il est utile d'ajouter qu'à la même époque l'année dernière, presque aucun dirigeant mondial ne parlait d'IA. Je ne pense pas qu'il y ait jamais eu dans l'histoire une trajectoire technologique qui soit passée d'une absence de reconnaissance à une reconnaissance quasi universelle.

Et c'est une bonne chose. Je pense que c'est en partie parce que nous, collectivement dans l'industrie, avons essayé de plaider et de dire que c'est vraiment sérieux, que we devrions être attentifs et inviter à la conversation, quel que soit l'endroit où elle aboutit en ce qui concerne la réglementation du risque existentiel ou des menaces à plus court terme.

D'accord, je pense que nous devons en rester là. Mustafa, Reid, merci à vous de nous avoir rejoints.

Ravi de vous voir.

Merci beaucoup. Ravi de vous voir.