Yann Le Cun, merci d'être là.

Merci.

Une formidable occasion de parler de l'intelligence artificielle avec l'un de ses pères. Est-ce qu'on peut dire que vous en êtes l'un des pères ?

Oui, père ou parrain. On me donne plusieurs noms.

Le parrain, oui, aux États-Unis, c'est encore plus puissant. Votre livre est une formidable occasion de faire le tour de l'histoire de l'intelligence artificielle. J'aimerais commencer par une question toute simple : qu'est-ce que l'intelligence, Yann Le Cun ? Qu'on s'entende sur la définition.

Personne ne s'entend sur la définition, mais en ce qui concerne les êtres vivants, c'est la capacité à percevoir, à raisonner, à prendre une décision et ensuite à agir. C'est surtout l'action qui est importante. L'équivalent pour les ordinateurs concerne non seulement les robots, mais aussi les agents virtuels qui peuvent répondre à des questions ou résoudre des problèmes. Pour l'instant, on maîtrise la perception et un peu l'action, mais pas encore le raisonnement.

Parce que vous avez dit dans plusieurs interviews qu'un jour la machine va égaler et même dépasser le cerveau humain. Vous en êtes sûr ?

Ça ne fait aucun doute. C'est une question de temps.

Aucun doute ?

Aucun doute. C'est vraiment une question de temps. On n'a pas les technologies aujourd'hui, c'est-à-dire qu'on n'a pas encore les principes de base ni la science nécessaires pour atteindre cela, sauf dans des domaines très précis. On peut créer des systèmes super intelligents dans des domaines étroits, mais pas encore de système intelligent dans tous les domaines où les humains le sont.

Mais n'y a-t-il pas quelque chose de mystérieux dans notre cerveau, un amas d'éléments simples produisant des choses complexes, que la machine ne pourra jamais reproduire ?

Non. D'un point de vue théorique en informatique, il n'y a qu'une manière de faire du calcul, ou plutôt deux : le calcul classique et le calcul quantique. Si on s'en tient au calcul classique, des ordinateurs suffisamment généraux peuvent émuler n'importe quel type de calcul. Ce qui se passe dans le cerveau est du calcul, donc on peut le reproduire. Ce qui est compliqué et sur quoi on travaille depuis des décennies, ce sont les capacités d'apprentissage.

Et vous travaillez beaucoup sur le deep learning, apprendre à la machine à apprendre. Pouvez-vous nous expliquer ce concept simplement ?

Il y a une motivation simple : je ne me considère pas assez intelligent pour concevoir une machine intelligente. La meilleure manière est de la laisser se construire elle-même par apprentissage. Dans la nature, n'importe quel animal doté d'un cerveau peut apprendre. C'est une caractéristique essentielle de la vie. Reproduire cette fonction permettrait aux machines de devenir intelligentes par l'apprentissage plutôt que par la programmation directe. L'intelligence émerge du cerveau, qui est un réseau de nombreux neurones connectés les uns aux autres.

Des milliards et des milliards.

86 milliards pour vous et moi.

Oui.

Ils sont interconnectés par des milliers de connexions. C'est la modification de l'efficacité de ces connexions qui permet d'apprendre. À chaque fois qu'on apprend, on change les connexions entre nos neurones. On est capable aujourd'hui de simuler des réseaux de neurones avec des centaines de milliards de ces connexions.

Est-ce une révolution au même titre que l'imprimerie, la vapeur ou l'informatique ? Pour vous, nous vivons au cœur d'une révolution.

Oui. La révolution est annoncée, même si c'était une évolution jusqu'à présent. Nous n'avons pas encore de machines supérieurement intelligentes, mais elles nous aident déjà au quotidien. L'intelligence artificielle est utilisée à grande échelle dans les réseaux sociaux, les services en ligne et les moteurs de recherche pour le tri d'informations ou la modération. Elle est aussi utilisée en médecine, en science, et dans l'automobile avec les systèmes de conduite automatique ou de freinage d'urgence.

Pour nous signaler un obstacle.

Voilà, pour freiner automatiquement. Cela sauve déjà des vies aujourd'hui.

Et c'est en partie votre apport, Yann Le Cun : permettre à la machine de reconnaître une image. C'est donner des yeux à une machine, c'est un pas énorme.

Les premiers progrès dans la perception datent de la fin des années 80. On a construit ces réseaux de neurones sur une architecture particulière, inspirée du cortex visuel. Il y a plus de 30 ans, on entraînait déjà des systèmes à reconnaître des formes simples comme des chiffres manuscrits.

Vous avez travaillé sur les chèques. Maintenant, il est évident qu'une machine peut lire un nombre, mais ce ne l'était pas au début.

Elle peut lire les chèques, les enveloppes, les codes postaux et les adresses. Tout cela se fait automatiquement. Cela a commencé entre la fin des années 80 et le début des années 90. Mon ami Yoshua Bengio avait d'ailleurs collaboré à ce projet aux Bell Laboratories.

Qu'une machine puisse voir est-ce la porte d'entrée vers une machine presque humaine ?

Pas encore humaine, mais le principe est que la machine peut apprendre une tâche de bout en bout. Si on lui montre l'image d'un chat et qu'elle se trompe, on lui indique l'erreur et elle ajuste ses paramètres et les connexions entre ses neurones.

C'est là qu'elle apprend.

Exactement.

Vous faites partie des optimistes. Vous dites que l'intelligence artificielle est salutaire et inévitable. ChatGPT a provoqué beaucoup d'enthousiasme, mais vous dites que ce n'est pas la révolution la plus intéressante. Expliquez-moi.

Ces systèmes sont utiles pour l'assistance à l'écriture, mais ils ne sont pas vraiment intelligents. Ils ne comprennent pas comment fonctionne le monde car ils sont entraînés uniquement sur du texte, alors qu'une grande partie de la connaissance humaine est issue de l'expérience. Ils peuvent affabuler et ne savent pas encore raisonner ou planifier.

La machine apprend en fait tout ce qui est écrit sur Internet, des milliards de mots.

Oh, bien plus que cela.

Et si on lui demande un exposé sur les mouches à chevreuil au Québec, elle va assembler des mots qui semblent logiques.

Ce sont des mots qui correspondent statistiquement à son entraînement. On entraîne la machine à prédire le mot suivant dans des milliers de milliards de segments de texte. À force, elle apprend à prédire la suite d'un texte en réinjectant les mots prédits.

Vous dites que cela sera bientôt dépassé.

Ces systèmes sont utiles mais présentent des lacunes : ils racontent des bêtises et ne comprennent pas le monde réel. Une autre révolution arrive pour leur donner des capacités de raisonnement et de planification, en les entraînant aussi sur de la vidéo.

Pour faire quoi ?

Pour tout. ChatGPT peut réussir un examen du barreau, mais nous n'avons pas de robots capables de débarrasser une table, ce qu'un enfant apprend en quelques minutes. Nous n'avons pas non plus de voitures totalement autonomes, alors qu'un adolescent apprend à conduire en vingt heures. Il nous manque encore quelque chose de fondamental dans la capacité d'apprentissage des machines.

La machine peut traiter des textes complexes mais ne peut pas ranger une assiette. Sera-t-il possible d'avoir un assistant domestique un jour ?

Ce sera possible, mais on ne sait pas encore dans combien de temps. Cela dépendra des progrès réalisés dans les prochaines années.

On parle beaucoup des emplois perdus. Quels seront les gagnants et les perdants ?

Comme toute transformation technologique, certains métiers disparaîtront et d'autres apparaîtront. On n'a aucune idée des métiers en demande dans 20 ans, tout comme on n'imaginait pas les youtubeurs il y a deux décennies. À l'avenir, chacun interagira avec le monde numérique via un assistant intelligent, ce qui amplifiera nos capacités.

N'y a-t-il pas un risque de créer une Terre à deux vitesses entre ceux qui auront ces assistants et les autres ?

Cela dépendra de nos choix futurs. Certains pensent que l'IA est trop dangereuse et doit être réservée à quelques-uns. Je suis en faveur de la recherche ouverte et de l'open source, comme pour l'Internet. L'IA peut produire une nouvelle renaissance pour l'humanité. Amplifier l'intelligence humaine est intrinsèquement bon, même s'il faut des contre-mesures face aux dangers.

Yoshua Bengio affirme que la réduction des risques liés à l'IA devrait être une priorité mondiale, au même titre que les risques de pandémie ou de guerre nucléaire. Pourquoi arrive-t-il à une conclusion si différente de la vôtre ?

Cela dépend de la confiance que l'on a dans la société. J'ai été surpris par la position de Yoshua. On peut imaginer des scénarios catastrophes, mais les sociétés finissent par s'adapter. Assimiler l'IA à des pathogènes ou des armes nucléaires est un contresens. Rendre les gens plus intelligents est fondamentalement positif.

Mais des pays comme la Chine ou la Russie peuvent utiliser ces technologies pour accroître leur pouvoir ou diffuser de fausses informations. Ce sont des dangers réels.

La meilleure protection réside dans la force de nos institutions démocratiques. Elles veillent à ce que la technologie soit utilisée pour le bien-être des citoyens et en limitent les dérives.

Vous êtes donc contre un moratoire sur la recherche ?

Oui, je suis contre. Cela ne sert à rien.

C'est une illusion ?

Cela ralentit le progrès vers des systèmes plus sécurisés et performants.

Êtes-vous pour une réglementation sévère ?

Il est encore tôt pour le dire. Je suis pour la réglementation des applications, comme pour l'automobile ou la médecine, mais pas pour la réglementation de la recherche elle-même.

Si un robot assistant voit que je mens à mon patron et lui envoie une photo, ma vie privée est menacée. Il y a mille possibilités d'abus.

Alors changez de robot pour un modèle qui protège votre vie privée.

Ce sera donc paramétrable ?

Il existera des règlements pour protéger les données privées, comme c'est déjà le cas dans de nombreux pays. Un robot enfreignant ces règles serait illégal.

Vous êtes donc d'accord pour avoir des règles pour les produits.

Bien sûr.

Devrions-nous laisser les machines inonder nos canaux d'information de propagande et de contre-vérités ?

Seulement si ces plateformes sont ouvertes et transparentes. Wikipédia est fiable car son processus est collaboratif et vérifié. Les systèmes intelligents du futur devraient être construits de la même façon, de manière ouverte, plutôt que d'être contrôlés par quelques compagnies privées.

Devrions-nous développer des esprits non humains plus intelligents que nous qui pourraient nous remplacer ?

Absolument.

Ah oui ?

Pas pour nous remplacer, mais pour amplifier notre intelligence. La question est de savoir si ces systèmes seront à notre service. On peut être intelligent sans vouloir dominer. On peut construire des machines soumises à l'humanité et contraintes à des comportements sécurisés.

Vous restez optimiste malgré le risque que la machine échappe à notre contrôle.

On peut être intelligent sans vouloir le pouvoir. Dans mon laboratoire, beaucoup sont plus intelligents que moi et ne veulent pas ma place. L'intelligence ne signifie pas nécessairement la volonté de dominer.

Comme HAL dans 2001, l'Odyssée de l'espace, qui prend le contrôle.

C'est mon film préféré.

Ouvre les vantaux d'entrée, HAL.

Je regrette, Dave. Je ne peux pas faire ça.

Que veux-tu dire, HAL ?

HAL prend le contrôle et tue des astronautes. C'est une peur ancrée en nous.

Dans le film, la machine a peur d'être désactivée. Cela suppose qu'une machine aurait un instinct de survie spontané, ce qui n'est pas automatique. Même dans le monde animal, l'instinct de survie n'est pas toujours présent.

Une machine pourra-t-elle avoir une forme de conscience ?

C'est probable, mais on ne sait pas encore définir la conscience, même chez l'humain.

Nous sommes pourtant conscients de notre existence et de notre âme.

Un chimpanzé ou un chat sont aussi conscients à leur manière. Il y a quelque chose dans l'architecture du cerveau qui crée cette illusion de conscience. Les machines en auront-elles besoin ? C'est possible.

Une machine pourrait-elle créer une œuvre aussi extraordinaire que le Requiem de Mozart ?

C'est possible également, même si ce n'est pas pour tout de suite. Aujourd'hui, des systèmes peuvent déjà synthétiser de la musique.

Ils imitent.

Oui, ils imitent beaucoup car ils sont entraînés sur des musiques existantes. On peut maintenant générer une musique à partir d'un simple texte.

Les progrès en médecine et en science seront fabuleux. Est-ce que toute invention est bonne à vos yeux ?

Non.

Comme la bombe atomique par exemple.

C'est complexe. Sans elle, aurions-nous évité des guerres majeures entre grandes puissances ? L'IA pourrait aider l'Ukraine à repousser une invasion. Le développement des outils n'est pas intrinsèquement mauvais. Les Ukrainiens utilisent des drones pour se défendre ; devrait-on leur interdire l'usage de l'IA pour les piloter ?

Dans 50 ans, est-ce un robot qui composera mes questions ?

C'est vous qui les poserez, mais vous aurez l'assistance d'un robot pour les préparer. Nous aurons tous des assistants intelligents, ce qui ne sera pas si différent d'avoir une équipe de travail.

Votre livre est fascinant et accessible. Merci beaucoup de nous avoir parlé aujourd'hui.

C'est moi qui vous remercie.

Bonne suite.