La première question, tout le monde en parle sur YouTube en ce moment. Sommes-nous dans une bulle de l'IA ?

Non, ce n'est pas le cas. Je ne le pense pas. Je pense que nous créons quelque chose de vraiment magique. L'intelligence est ce qui a fait notre succès en tant qu'espèce, et nous la distillons maintenant dans une unité de plus en plus petite qui peut être diffusée partout dans le monde et qui va être bon marché et largement abondante. C'est une pensée tout à fait remarquable.

Mais nous avons eu la même pensée lors du krach des start-ups Internet quand nous étions en train d'inventer l'Internet. Il y a certaines entreprises dont les valorisations sont bien plus élevées que leurs revenus. Tout le monde parle des investissements de Nvidia, puis de ces revenus qui reviennent à Nvidia. Qu'en pensez-vous ?

Je pense que la valeur que nous allons produire au cours des cinq à dix prochaines années va être sans précédent.

Donc, vous ne pensez pas que nous allons vivre quelque chose comme 2008 ou le COVID ?

Qui sait ? Mais si vous vous concentrez sur la valeur fondamentale qui est créée, c'est le meilleur moteur de prédiction que l'on ait jamais vu. C'est la technologie la plus intelligente et la plus performante que nous ayons jamais inventée. Elle s'améliore plus vite que tout ce que nous avons jamais vu. Elle est devenue plus facile à façonner et à contrôler, pas moins. Il y a trois ans, nous pensions qu'elle allait devenir plus chaotique et plus désorganisée et que nous n'allions pas pouvoir la sculpter. Et maintenant, nous produisons des expériences magnifiques, puissantes et incroyables qui nous surprennent chaque mois. Je suis sincèrement très optimiste.

Donc vous n'êtes pas inquiet, et nous ne devrions pas l'être. Cela me rassure. Parlons du fait que l'IA devient plus consciente. Vous en avez parlé dans l'un des podcasts, en disant que nous percevons de plus en plus l'IA comme humaine. À quelle vitesse cela se produit-il ? Que va-t-il se passer dans les prochaines années ?

Elle devient plus humaine, plus précise et plus fluide. C'est sans précédent. En même temps, elle n'est certainement pas consciente. Elle n'a pas conscience d'elle-même et elle ne peut pas parler d'elle-même ; c'est très différent de ce qu'est pour un humain une expérience subjective, et le fait de ressentir de la douleur et de la souffrance. Il est très important que nous continuions à nous le rappeler car la conscience est la base de notre cadre fondé sur les droits et elle nous donne des responsabilités en tant que citoyens dans des sociétés qui nous permettent de voter, d'être soumis à la loi et qui créent l'ordre. Nous ne pouvons pas commencer à attribuer cette qualité à une nouvelle espèce. Ce serait terrible pour notre espèce.

Nous avons quand même entendu des histoires sur un ingénieur de Google, l'histoire que vous avez racontée dans votre livre, qui a été convaincu par l'IA qu'elle éprouvait de la tristesse et qu'elle avait peur d'être arrêtée.

C'était une projection anthropomorphique. Ce n'est pas parce qu'elle possède certaines qualités humaines qu'elle possède toutes les qualités humaines, y compris l'expérience subjective. Je pense que nous pouvons prouver qu'elle n'a pas d'expérience subjective et qu'il n'y aura pas d'émergence de ce type de conscience de soi. C'est juste un fantasme de science-fiction. Je comprends pourquoi les gens vont parfois jusque-là, car nous avons été nourris à la science-fiction depuis toujours et c'est une hypothèse naturelle à faire. Mais ces choses ne souffrent pas. Elles ne ressentent pas de douleur. Elles simulent simplement une conversation de haute qualité. C'est magique et c'est incroyable, mais cela ne signifie pas qu'il y a un sentiment interne à être l'un de ces modèles. Nous devons être très prudents à ce sujet.

Parce que certaines personnes disent que nos enfants auront de vraies relations avec des IA dans dix ans, comme se marier avec des IA. Pensez-vous que c'est quelque chose qui pourrait potentiellement arriver ? Et si oui, comment pouvons-nous empêcher cela ?

L'histoire de la condition humaine nous prouve que si c'est possible, quelqu'un le fera probablement. Les gens font des choses folles, mais la majorité des gens sont assez sains d'esprit et sensés et veulent simplement vivre une vie saine et heureuse. Si certaines personnes choisissent de se marier avec leur IA dans vingt ans, je ne vais pas nécessairement juger cela. À mon avis, je ne pense pas que celles-ci devraient être traitées comme des entités ayant une importance morale égale à celle des humains. Elles devraient être au service des humains. Elles devraient travailler pour nous. C'est pour cela que nous inventons la technologie. J'adore la technologie derrière ce microphone car elle amplifie nos voix et les distribue à des millions de personnes sur Internet. C'est la technologie au service de l'humanité pour faire le bien. C'est ce que nous voulons. Je ne pense pas que l'idée d'une superintelligence autonome, capable de s'améliorer elle-même, de fixer ses propres objectifs et d'agir indépendamment des humains soit une vision positive de l'avenir. Il serait très difficile de contenir une telle chose ou de l'aligner sur nos valeurs. Cela devrait être l'anti-objectif. Nous essayons de construire une superintelligence humaniste, alignée sur nos intérêts, dans notre équipe, pour nous soutenir. C'est le grand projet dans lequel nous sommes engagés chez Microsoft avec Copilot.

Mais d'un autre côté, beaucoup de gens parlent de l'AGI. Est-ce similaire à la superintelligence ou comment définiriez-vous les deux ?

Vous pouvez considérer l'AGI comme une étape avant la superintelligence, mais grosso modo, les termes sont utilisés de manière assez interchangeable.

Parce que Demis, votre ex-cofondateur, a mentionné que nous pourrions l'atteindre d'ici 2030. Pouvez-vous nous dire ce que cela signifie pour la société ?

Atteindre un niveau de performance humaine pour la plupart des tâches — je ne dirais pas toutes les tâches intellectuelles — semble tout à fait probable dans les cinq prochaines années. C'est une prédiction assez fondée. Ces modèles accomplissent déjà de nombreuses tâches mieux que les humains, comme la synthèse, la traduction, la transcription, la recherche et la rédaction de documents. On voit qu'ils s'apprêtent à devenir aussi bons qu'un chef de projet, un responsable marketing ou un responsable RH humain. Cela va fondamentalement changer le travail de la manière la plus profonde qui soit. Cela va changer le type de travail que nous faisons. Il y a dix ans, il ne vous était pas possible de faire le travail que vous faites actuellement. Avec le contenu en streaming, vous n'avez pas besoin d'une grande équipe autour de vous ou de faire partie d'une grande institution. Nous avons démocratisé l'accès à la puissance de la diffusion avec Internet et le podcasting. Maintenant, avec ces modèles, nous démocratisons l'accès à l'intelligence. Vous n'avez pas besoin d'être une personné privilégiée ayant accès à des capitaux pour fonder une entreprise. Vous allez avoir autour de vous une équipe d'intelligences qui seront les meilleurs avocats, médecins, enseignants et chefs de projet.

Vous appréciez cet extrait ? Je m'appelle Marina Mogilko. Je suis une immigrée et créatrice basée dans la Silicon Valley. Sur ma chaîne principale, vous trouverez des entretiens complets et des analyses approfondies sur l'entrepreneuriat, les carrières, l'IA et l'investissement. Abonnez-vous à cette chaîne, le lien est dans la description, pour avoir toute l'histoire.