Puis-je simplement vous regarder quand je parle ?

Nous allons nous regarder l'un l'autre tout le temps.

À moins que vous ne vouliez faire une déclaration péremptoire.

Nous allons tous mourir.

Quel est notre avenir avec l'IA et qu'est-ce que l'IA, au juste ? Je suis Nayeema Raza. Voici Smart Girl Dumb Questions et aujourd'hui mon invité est le professeur Geoffrey Hinton. Il a passé un demi-siècle à travailler sur l'intelligence artificielle et l'apprentissage automatique, ce qui lui a valu un prix Turing en 2018, un prix Nobel en 2024 et le surnom, le surnom tant convoité, de Parrain de l'IA. Lequel de ces titres préférez-vous ?

Le prix Nobel, évidemment.

Le lauréat du prix Nobel. Vous êtes également professeur émérite à l'Université de Toronto, où vous avez enseigné et collaboré avec des esprits pionniers dans des endroits comme OpenAI, Meta, etc. Je regardais votre discours du Nobel, et vous mettez en garde contre les risques de l'IA. Je veux en diffuser un court extrait audio.

Dans un avenir proche, l'IA pourrait être utilisée pour créer de terribles nouveaux virus et d'horribles armes létales qui décident d'elles-mêmes qui tuer ou mutiler. Tous ces risques à court terme nécessitent une attention urgente et vigoureuse de la part des gouvernements et des organisations internationales. Il existe également une menace existentielle à plus long terme qui surgira lorsque nous créerons des êtres numériques plus intelligents que nous-mêmes. Nous n'avons aucune idée de si nous pourrons garder le contrôle.

Vous parlez évidemment aussi des avantages de l'IA, mais au moment où vous dites ces choses, les gens mangent simplement des boulettes de viande suédoises fades et évitent de se regarder dans les yeux.

En fait, je pense que les chefs étoilés au Michelin qui ont préparé le repas seraient plutôt contrariés que vous parliez de boulettes de viande suédoises fades.

Alors ce n'étaient pas des boulettes de viande suédoises fades. Mais je m'attendais à entendre un silence de mort dans la salle quand vous dites une chose pareille.

Pas particulièrement.

Et qu'en concluez-vous ?

Les gens trouvent très difficile de prendre la menace de l'IA au sérieux. Même moi, j'ai du mal à la prendre au sérieux émotionnellement. Ce n'est pas comme la menace des armes nucléaires où il est très facile de comprendre quelque chose qui explose et anéantit les gens. Il est beaucoup plus difficile de comprendre que nous pourrions créer des êtres extraterrestres plus intelligents que nous. Cela semble simplement être de la science-fiction. Les gens ne le prennent pas au sérieux.

Vous êtes un expert, donc je veux que les gens entendent vos risques et les prennent au sérieux, tout en les questionnant comme ils le doivent. Mais je veux commencer par expliquer simplement ce qu'est l'intelligence artificielle, parce que je parle à beaucoup de gens de l'IA et j'ai l'impression que beaucoup d'entre nous, moi y compris, ne comprenons pas vraiment tout à fait. Seriez-vous d'accord ? Vous parlez à des gens toute la journée.

La plupart des gens qui commentent l'IA ne comprennent pas vraiment comment elle fonctionne.

Et avez-vous le sentiment, la plupart du temps, lorsque vous êtes assis en entretien et que quelqu'un vous parle d'intelligence artificielle, qu'il comprend vraiment comment cette chose fonctionne ?

Certains oui, d'autres non. La plupart non, je pense.

Et quand ils ne comprennent pas, vous demandent-ils ?

C'est très rare.

Pour situer le contexte de la manière dont nous devrions y réfléchir également, la façon dont je l'ai envisagé est : révolution agricole, révolution industrielle, révolution de l'IA.

C'est une très bonne façon de voir les choses. C'est ce genre d'échelle.

D'accord, donc Internet n'était pas une révolution alors.

Pas à cette échelle.

Et est-ce que ce sera lent mais transformateur pour le monde comme la révolution agricole, ou est-ce que ce sera rapide et violent comme la révolution industrielle ?

Beaucoup plus comme la révolution industrielle. La révolution industrielle, par exemple, a remplacé une grande partie du travail agricole. Ceci va remplacer une grande partie du travail intellectuel répétitif. Cela va donc provoquer un changement massif dans l'emploi et beaucoup de gens craignent que cela ne cause un chômage massif.

Je veux aborder ce point avec vous et aussi parler de savoir si les milléniaux et la génération Z devraient avoir des enfants dans un tel monde. C'est une grande question que j'ai pour vous et nous y reviendrons. Mais tout d'abord, qu'est-ce que l'intelligence artificielle ?

Vers 1950, il y avait deux paradigmes pour fabriquer un système intelligent. Deux paradigmes assez différents. L'un était l'IA symbolique où le modèle de l'intelligence était la logique. Ainsi, si vous dites que Socrate est un homme et que tous les hommes sont mortels, vous pouvez en déduire que Socrate est mortel. C'était une façon de dériver de nouveaux faits à partir d'anciens faits.

La logique.

La logique. Beaucoup de gens pensaient que c'était ainsi que l'intelligence devait fonctionner. Cela devait être une sorte de logique permettant de dériver de nouveaux faits à partir d'anciens. Il y avait une approche tout à fait différente qui disait que la seule chose réellement intelligente que nous connaissions est l'humain, et que le cerveau humain fonctionne en changeant la force des connexions entre les cellules cérébrales. Peut-être devrions-nous nous concentrer non pas sur la logique, mais sur la façon dont nous modifions la force des connexions dans nos cerveaux et voir si cela créera un système intelligent. La perception et le contrôle du corps précèdent biologiquement le raisonnement ; le cerveau a évolué pour faire cela bien avant de faire beaucoup de raisonnement.

D'accord. Vous avez dit que le cerveau change la force des connexions entre les cellules.

Oui.

Les chasseurs-cueilleurs pouvaient faire cela, tout le monde peut le faire, ils peuvent voir. Donc vous dites essentiellement qu'un cerveau, bien avant qu'il puisse raisonner, même le cerveau d'un bébé peut dire finalement : c'est un objet qui a l'air plat, il a quatre choses, et ensuite nous apprenons que le mot pour cela est table. Comment le cerveau renforce-t-il les connexions ?

Les pigeons font cela.

C'était une grande question ouverte et c'est d'ailleurs toujours le cas. Nous pouvons la diviser en deux questions. La première est : si le cerveau pouvait trouver un moyen de décider, pour chaque force de connexion dans le cerveau, s'il faut l'augmenter un peu ou la diminuer un peu afin de mieux fonctionner pour une tâche qu'il essaie d'accomplir, alors si vous commenciez avec beaucoup de connexions aléatoires et utilisiez simplement cette méthode d'augmentation ou de diminution de la force des connexions, apprendrait-il réellement à faire des choses compliquées ou resterait-il simplement bloqué ?

Et la réponse a été ?

La croyance dominante était qu'il resterait simplement bloqué. Il fallait commencer avec beaucoup de connaissances innées qui seraient sous la forme de forces de connexion appropriées entre les cellules cérébrales, et ensuite peut-être, s'il avait beaucoup de connaissances innées, il pourrait les améliorer un peu avec l'expérience. C'était la croyance générale et elle était tout simplement fausse. Et ce que nous avons montré maintenant, c'est que si vous pouvez trouver un moyen de décider pour chaque force de connexion si vous devez l'augmenter un peu ou la diminuer un peu pour mieux réussir une tâche que vous faites, alors vous pouvez apprendre des choses incroyablement compliquées comme ces grands modèles de langage.

C'est donc le caractère neuronal du cerveau, la capacité du cerveau à donner du sens et à se connecter les uns aux autres qui le rend puissant, et non une connaissance innée à l'intérieur du cerveau.

C'est cette capacité d'apprendre, c'est la capacité de changer la force des connexions de manière à être meilleur dans une certaine tâche.

Et on est meilleur pour faire ça quand on est enfant, n'est-ce pas ?

Oui.

Parce qu'on est plus neuroplastique, dit-on. Alors, l'IA est-elle aussi neuroplastique qu'un bébé ?

Si vous pouvez trouver un moyen de déterminer si vous devez augmenter ou diminuer la force de connexion et que vous pouvez le faire pour toutes les forces de connexion en même temps, alors vous pouvez fabriquer des systèmes très intelligents. Mais il y a probablement une différence entre la façon dont le cerveau détermine cela et la façon dont l'IA actuelle le fait. Et il est fort possible que le cerveau ait une méthode qui soit par certains aspects meilleure que ce que nous avons et par d'autres pire, car il résout un problème légèrement différent.

Lequel ?

Les IA que nous avons n'ont qu'environ un billion de connexions.

Seulement un billion ? Nous en avons plus d'un billion ?

Nous en avons environ cent billions.

Vraiment ? Dans notre cerveau ?

Oui. Et donc notre cerveau a environ cent fois plus de connexions que l'IA la plus intelligente, mais il n'obtient qu'une minuscule fraction de l'expérience. Nous vivons environ deux milliards de secondes. Même si vous aviez dix expériences par seconde, sans dormir, cela ne ferait que vingt milliards. Ces grands modèles de langage sont entraînés sur des billions et des billions. Ils ont donc énormément plus d'expérience et énormément moins de connexions.

Est-ce parce qu'ils ont plus de capacité de stockage que notre cerveau ?

No, nous avons plus de stockage qu'eux parce que le stockage réside dans les connexions.

Donc le stockage est de cent billions en fait. Mais nous ne pouvons pas le remplir parce que nous n'avons pas assez de temps.

Nous ne pouvons pas l'utiliser de manière optimale parce que nous n'avons pas assez de temps. Vous n'avez pas assez de temps pour lire tout ce qui est sur le web, tout ce qui est publiquement disponible sur le web. Ces grandes IA le peuvent.

Mais pas parce qu'elles ont plus de temps, mais parce qu'elles traitent l'information plus rapidement, n'est-ce pas ?

Il y a deux raisons. La première est qu'elles traitent plus vite, mais l'autre est qu'elles sont numériques et qu'avec un système numérique, on peut en faire de nombreuses copies. Et donc ce que vous pouvez faire avec ces IA, c'est d'avoir de nombreuses copies fonctionnant sur différents matériels. Chaque copie regarde un bout d'Internet, détermine comment elle aimerait changer les forces de connexion, puis elles communiquent entre elles et elles changent toutes leurs forces de connexion selon la moyenne de ce que tout le monde veut. Maintenant, chaque copie a bénéficié de l'expérience de toutes les autres copies. Si vous avez mille copies, elles peuvent vivre mille fois plus d'expériences qu'une seule copie et elles peuvent toutes apprendre de toutes ces expériences en faisant la moyenne des changements dans les forces de connexion.

D'accord. Ce serait comme si chaque fois que je vis une expérience, tous mes frères et sœurs vivaient cette même expérience, par exemple.

Exactement. Et tous vos frères et sœurs apprendraient de votre expérience. Ne serait-ce pas formidable ?

Ils semblent faire le contraire, en fait. Ils me donnent simplement pourquoi j'avais tort. C'est intéressant parce que ce que vous dites, c'est que l'intelligence artificielle est plus collective.

Elle est bien meilleure pour partager. Si vous avez plusieurs copies d'exactement le même réseau de neurones utilisant leurs forces de connexion exactement de la même manière — et pour faire cela, vous devez être numérique — alors ces copies multiples peuvent partager ce qu'elles ont appris et si elles ont un billion de connexions, elles partagent environ un billion de bits lorsqu'elles partagent comment elles aimeraient modifier les forces de connexion. Quand je partage avec vous, je partage peut-être cent bits par phrase, même si vous compreniez parfaitement la phrase. Elles sont des milliards de fois meilleures que nous pour partager.

Wow. D'accord. Et pourtant, nous avons partagé avec elles la capacité de faire cela.

Oui.

Des gens comme vous, Yann LeCun, Yoshua, vous étiez tous les parrains de l'IA aidant à entraîner ces réseaux de neurones pour qu'ils existent, n'est-ce pas ?

Il y a deux choses que nous avons faites. Nous avons compris comment les entraîner et comment ils devaient modifier leurs forces de connexion. Ensuite, nous leur avons donné beaucoup de données et à partir des données, ils ont compris quelles forces de connexion utiliser et nous ne savons pas vraiment ce qu'ils ont extrait des données. Ce n'est pas comme un logiciel informatique normal où la personne qui a écrit le programme peut vous dire ce que chaque ligne était censée faire. Avec ça, c'est tout à fait différent. Nous écrivons des lignes de code et nous savons exactement ce qu'elles sont censées faire. Elles sont censées lui permettre de déterminer s'il doit augmenter ou diminuer une force de connexion lorsqu'il voit des données. Mais ce qu'il apprend de tout cela, nous l'ignorons.

Quand vous dites augmenter ou diminuer une force de connexion, qu'est-ce que cela signifie concrètement ? Pour mon esprit, je pense à cela comme une partie de mon cerveau qui traite l'imagerie. Je dis : 'c'est un tambour.' Et puis il y a une partie de mon esprit qui contrôle ma main. Je peux dire : 'frappe sur le tambour.' Il y a un tambour dans le coin du studio. Il y a probablement même une partie de mon esprit qui réfléchissait à quoi penser, une fonction exécutive, et qui a capté le tambour parce que je le vois. Est-ce qu'une connexion est la connexion entre ces différentes parties de mon cerveau ?

C'est tout un ensemble de connexions. C'est un grand chemin entre ces différentes parties du cerveau. Mais à l'intérieur d'un de ces chemins, dans le chemin de la vision, pour reconnaître des objets, il y a de nombreuses forces de connexion — environ un tiers de votre cerveau est impliqué là-dedans parce que nous sommes des singes et que les singes sont très visuels. Dans ce chemin, il y a de nombreuses forces de connexion qui déterminent comment vous reconnaissez un objet et elles sont principalement apprises. Je pourrais passer en revue un exemple de cela si vous voulez.

Oui.

Supposons que nous prenions la tâche suivante : je vous donne une image et vous devez simplement me dire si c'est un oiseau ou si ce n'est pas un oiseau. Maintenant, si vous pensez à des images d'oiseaux, vous pourriez avoir une image d'une autruche juste devant vous ou d'un goéland au loin. Ce sont tous les deux des oiseaux. Donc, regarder directement les pixels ne va pas vous dire si c'est un oiseau. Vous allez devoir avoir de l'abstraction et trouver diverses caractéristiques. C'est ainsi que fonctionne le système visuel humain, très grossièrement. Cela a été découvert par des expériences en plantant des électrodes dans les cellules cérébrales de chats et de singes. L'IRMf regarde en fait le flux sanguin causé par les neurones qui deviennent actifs. Elle regarde des millions de neurones généralement pour chaque pixel. Chaque pixel dans une IRM est un flux sanguin qui vous donne une indication de l'activité de centaines de milliers de neurones. Donc vous ne voyez pas les neurones individuels là.

Quand voit-on un neurone individuel ?

Vous voyez des neurones individuels lorsque vous insérez une électrode ou lorsque vous utilisez des colorants optiques pour qu'un neurone brille lorsqu'il devient actif. Les IRMf sont très rudimentaires. C'est comme regarder l'activité humaine depuis l'espace. Ce que vous voyez, c'est que lorsque Détroit devient plus chaude, des parties du sud de l'Ontario deviennent plus chaudes aussi, sur une échelle de temps de plusieurs années. Vous découvrez l'industrie automobile. L'industrie automobile provoque des corrélations. C'est un peu ce à quoi ressemblent les IRMf comparées à l'activité humaine individuelle qui correspond aux cellules cérébrales. La lumière entre, les photorécepteurs de votre rétine la convertissent en signaux électriques et effectuent un certain traitement. Ils l'envoient ensuite au nerf optique, et un peu plus tard dans le cerveau, vous obtenez un tas de choses qui détectent de petits morceaux de bordure. C'est une version simplifiée que je vous donne.

Et combien de temps cela prend-il ? Est-ce des millisecondes ?

C'est environ trente millisecondes plus tard. Vous avez un tas de neurones qui détectent des petits morceaux de bordure à différents endroits, orientations et échelles. Laissez-moi vous dire comment on fabriquerait un de ces détecteurs. Supposons que j'aie une image en niveaux de gris. Chaque pixel a une intensité. Et supposons que je veuille détecter un petit morceau de bord vertical qui est brillant de ce côté et sombre de l'autre. Ce que je ferais, c'est prendre une colonne de trois pixels et j'aurais un neurone regardant ces pixels, et il aurait des poids positifs importants pour ces trois pixels et des poids négatifs importants pour les trois pixels de la colonne d'à côté. Maintenant, s'ils ont une luminosité égale, ce neurone recevra beaucoup d'entrées positives des neurones de ce côté et beaucoup d'entrées négatives des neurones de ce côté et rien ne se passera, ils s'annuleront. Tout ce que ce neurone fera sera de dire que tout ce qu'il y a dans cette image ne m'intéresse pas. Ce n'est pas la chose que je cherche.

D'accord. Parce que ce n'est pas assez brillant sur toutes les bordures.

Parce que ce n'est pas brillant d'un côté et sombre de l'autre. Ainsi, la seule condition sous laquelle il s'activera est si les pixels de ce côté sont brillants et les pixels de l'autre côté sont sombres.

Parce que c'est une bordure ?

Parce que c'est une bordure. Cela me dit : regarde, c'est brillant de ce côté et c'est sombre de ce côté, donc il y a une bordure ici. Nous avons donc découvert comment fabriquer un détecteur de bordure. Maintenant, à la fin, nous allons faire en sorte qu'il apprenne à fabriquer un détecteur de bordure, ce qu'il fera, mais pour l'instant supposons que nous l'ayons câblé à la main.

'Il' étant l'IA ?

Le réseau de neurones. Je vais décrire comment je câblerais à la main un réseau de neurones pour détecter les oiseaux. Ce ne serait pas très bon parce que les forces de connexion ne seraient pas tout à fait correctes. Mais voici comment je m'y prendrais : je fabriquerais un petit détecteur de bordure verticale là et je fabriquerais aussi un détecteur de bordure horizontale. Je fabriquerais quelque chose qui cherche des pixels brillants ici et des pixels sombres en dessous. Et s'il trouve cela, il fait 'ping', j'ai trouvé une bordure horizontale. Je chercherais toutes sortes d'orientations de bordures et je le ferais partout dans l'image et à différentes échelles. Comme je pourrais avoir un nuage.

Oui, cela ressemble au jeu que l'on voit parfois dans le journal avec tous les points.

Un nuage n'a pas de bordures nettes. Ces petites choses qui cherchent des bordures nettes ne trouveront pas de bordures parce que la bordure est très douce dans un nuage. Elle passe graduellement du sombre au clair. Ce dont nous avons besoin, c'est d'un neurone qui regarde beaucoup de pixels ici avec des forces de connexion positives, et beaucoup de pixels là-bas avec des forces de connexion négatives. Si tous ceux-là sont plus brillants que tous ceux-ci, il dira 'oui, nous avons une grande bordure floue ici'. C'est un détecteur à une échelle différente qui cherche des choses plus floues.

Mais comment construiriez-vous cela ? Vous programmeriez cela dans le code ?

Pour commencer, je vais expliquer comment je le câblerais à la main. Je réglerais simplement toutes ces forces de connexion manuellement. Cela me prendrait plus que l'âge de l'univers, mais je suis très patient. Je réglerais tout cela à la main et je le ferais partout sur l'image et je pourrais finir avec un milliard de ces petits neurones. C'est juste pour détecter des petits morceaux de bordure à différentes échelles et orientations. C'est ce que la première couche de neurones va faire. Dans la couche suivante, par exemple, je pourrais vouloir un neurone qui cherche des bordures qui se rejoignent comme deux bordures qui pourraient juste être un bout de triangle.

Vous rapprochez vos doigts pour former un petit triangle.

Elles pourraient être un petit bec ou ce pourrait être la pointe d'une flèche. Pour faire cela, j'aurais un neurone dans la couche suivante câblé pour être excité par tous les détecteurs de bordure qui détectent cette bordure et la bordure horizontale, mais pas excité par rien d'autre. Pour que ce neurone s'excite et fasse 'ping', il aurait besoin de trouver des bordures comme celle-ci. Quand il trouve cette petite combinaison de bordures, il fait 'ping'.

Cela signifie-t-il que j'ai littéralement un neurone de bec dans ma tête qui reconnaît simplement le bec ?

C'est quand je le câble à la main et oui, vous avez probablement quelque chose comme ça. Vraiment ? Oui. Combien de neurones ai-je dans mon cerveau ?

Un peu moins de cent milliards.

Est-ce que le chiffre de cent milliards et le chiffre de cent billions ont un rapport entre eux ? Sont-ils une permutation ?

Chaque neurone a des connexions, généralement entre mille et dix mille connexions. Prenez le nombre de neurones et multipliez par mille ou dix mille, vous obtenez environ le nombre de connexions. Cela a du sens. Personne ne connaît ces chiffres avec certitude. Je pense que la meilleure estimation du nombre de neurones dans le cerveau humain est de l'ordre de quatre-vingt-six milliards.

Quatre-vingt-six milliards. Est-ce en examinant des singes ou en sondant des humains ?

Je pense que c'est en regardant des petits morceaux de cerveau humain et en multipliant. Si vous deviez câbler à la main ce système de reconnaissance, il commencerait par les bordures puis reconnaîtrait des bordures spécifiques comme des becs.

Dans cette couche, vous pourriez reconnaître un ensemble de bordures qui forment un cercle. C'est un œil potentiel. Cela pourrait être un bouton, cela pourrait être une roue. Dans la couche suivante, vous avez des choses qui pourraient reconnaître des becs potentiels, pourraient reconnaître des yeux potentiels. Puis, dans la couche au-dessus de celle-là, la troisième couche, vous avez quelque chose qui a une grosse connexion positive provenant de n'importe quoi de rond ici qui pense avoir trouvé un bec. N'importe quel bec dans cette zone excitera ce type.

C'est donc une question d'emplacement physique de la chose que vous avez vue sur la deuxième couche. Il cherche un bec dans cette zone générale. Il pourrait aussi chercher un œil dans cette zone générale.

Alors la troisième couche, est-ce le contexte ?

La troisième couche cherche des combinaisons de ces caractéristiques. Par exemple, un bec potentiel et un cercle dans la bonne relation spatiale augmentent considérablement la probabilité que ce soit la tête d'un oiseau. Pour récapituler : la première couche n'est que des bordures — ceci est quelque chose, cela n'est rien. La deuxième couche est celle où ces bordures créent une sorte de forme, comme un cercle ou un carré, une caractéristique. Et puis la troisième couche traite de la façon dont ces formes sont liées les unes aux autres, ce qui peut me dire, peut-être que cela commence à être un visage parce qu'il y a un cercle près d'un triangle.

Dans ce cas, c'est peut-être la tête d'un oiseau. Dans cette même couche, en plus d'avoir ces choses qui détectent des têtes d'oiseaux — nous sommes toujours sur la troisième — elle détecte la combinaison d'un bec possible et d'un œil possible et dit que cela pourrait être la tête d'un oiseau parce qu'ils sont dans la bonne relation spatiale. Vous pourriez aussi avoir quelque chose qui cherche une patte d'oiseau.

D'accord, quatre, vous tendez vos quatre doigts, oui.

Ou quelque chose qui cherche une sorte de plumes qui pourraient être le bout d'une aile d'oiseau. C'est une sorte de caricature simplifiée d'un système, mais dans cette couche, il détectera des têtes d'oiseaux possibles, des pattes d'oiseaux possibles, des bouts d'ailes d'oiseaux possibles. Mais pas encore l'oiseau entier. Et maintenant, dans la couche supérieure, la quatrième couche, vous pourriez avoir quelque chose qui dit : je m'excite si je vois une tête d'oiseau possible. Je m'excite si je vois un bout d'aile possible. Je m'excite si je vois une patte possible. S'il voit un ensemble de ces choses à la fois, il devient très excité et crie 'oiseau'.

C'est à quatre couches de profondeur dans un système câblé à la main. Vous voyez l'idée de la manière dont nous nous y prendrions pour le câbler à la main afin que, dans cette quatrième couche, vous ayez quelque chose qui crie 'ping' chaque fois que vous avez des combinaisons de caractéristiques qui pourraient être un oiseau. C'est un système câblé à la main. Maintenant, le système câblé par ordinateur et activé numériquement, le système de réseau de neurones qui a été conçu pour l'intelligence artificielle et qui l'a emporté sur ce modèle d'IA symbolique basé sur la logique — combien de couches a-t-il ?

Cela dépend du système dont vous parlez. En 2012, Alex Krizhevsky et Ilya Sutskever avec un peu d'aide de ma part ont créé un système appelé AlexNet et celui-ci avait environ sept couches comme celle-ci.

Ilya était l'un des cofondateurs d'OpenAI qui est parti depuis. Il s'inquiétait des questions de sécurité chez OpenAI et a créé sa propre entreprise pour travailler sur la façon dont nous pouvons construire une superintelligence sûre. AlexNet reconnaissait des images sur sept couches différentes. AlexNet a été entraîné sur environ un million d'images et il avait en fait plus de données d'entraînement que cela parce qu'il prenait des morceaux de ces images et ce qu'il essayait de faire, c'était de dire si la chose la plus saillante dans ce morceau est ce qui était étiqueté sur cette image. Donc des gens avaient passé en revue et dit que la chose la plus saillante dans cette image est un oiseau ou une autruche, donc il avait des sortes d'oiseaux. La chose la plus saillante dans cette image est un champignon shiitake.

Cela ressemble aux CAPTCHA, ce que vous décrivez. Exactement comme les CAPTCHA. Alex et Ilya ont entraîné un réseau de neurones qui serait très bon pour les CAPTCHA. La façon dont on l'entraîne, c'est qu'il commence avec des forces de connexion aléatoires dans toutes ces sept couches. Supposons qu'ils aient simplement entraîné un système plus simple pour dire si c'était un oiseau ou pas un oiseau. Vous mettez une image et à la sortie vous avez un neurone : s'il devient actif, cela signifie oiseau et s'il est inactif, cela signifie pas oiseau. Au début, il n'a aucune idée de si c'est un oiseau ou non. Il n'est pas meilleur que le hasard, donc il tourne autour de cinquante pour cent d'activité. Vous aimeriez qu'il soit à quatre-vingt-dix-neuf pour cent s'il voit un oiseau et à un pour cent s'il n'en voit pas. Initialement, vous le faites passer à travers ces forces de connexion aléatoires et il dit cinquante pour cent oiseau. Il n'a aucune idée de si c'est un oiseau ou non. Maintenant, vous pouvez poser la question : supposons que je modifie un peu l'une de ces cent millions de forces de connexion. Au lieu de dire cinquante pour cent, dirait-il cinquante virgule zéro zéro un pour cent ou quarante-neuf virgule neuf neuf neuf pour cent ?

Donc si vous changez la force de connexion, sa probabilité de dire oiseau passe de cinquante pour cent à cinquante virgule zéro zéro un pour cent. Et quand je lui montre un non-oiseau, j'aimerais que la probabilité passe de cinquante pour cent à quarante-neuf virgule neuf neuf neuf pour cent.

Pourquoi seulement ce tout petit peu ? Pourquoi ne voulez-vous pas simplement qu'elle grimpe à quatre-vingt-dix-neuf et descende à zéro ?

Nous devons y aller doucement, sinon nous allons dépasser le but. Si vous faites une expérience comme celle-là pour chaque force de connexion, cela prendra une éternité car il y en a cent millions. Est-ce que je pourrais simplement lui montrer une image d'oiseau et, pour toutes ces forces de connexion, déterminer si l'augmenter ou la réduire est la bonne chose à faire pour qu'il soit plus probable qu'il dise oiseau ? Chaque force de connexion prise individuellement n'augmentera la probabilité que d'un minuscule chouïa, mais si je change cent millions de forces de connexion d'un seul coup, elle pourrait augmenter de beaucoup. Je les change toutes dans la direction qui l'aidera à dire oiseau.

Parce que c'est plus rapide de faire ainsi.

J'ai expliqué comment nous ferions quelque chose qui reconnaîtrait un oiseau pour vous donner une idée de ce à quoi ressemblerait le réseau. Il existe un algorithme appelé rétropropagation qui regarde essentiellement l'erreur que vous faites — l'écart entre ce que vous avez dit et ce que vous auriez dû dire. Vous envoyez cet écart à l'envers à travers le réseau et il existe un moyen de déterminer pour chaque force de connexion s'il faut l'augmenter ou la diminuer pour accroître la précision. La rétropropagation est un code qui entre dans le système et ensuite cette machine change toutes les forces de connexion en même temps dans la direction qui devrait aider et maintenant vous aurez quelque chose d'un peu meilleur pour reconnaître cet oiseau particulier.

Et ensuite, on peut entrer dans des nuances comme l'autruche, la colombe. Grâce à la rétropropagation, vous apprenez au réseau à mieux comprendre. Lorsqu'il a des forces de connexion aléatoires, il n'aura pas de caractéristiques comme des becs. Mais ce qui se passera avec le temps si vous continuez à l'entraîner à faire la différence entre les oiseaux et les non-oiseaux, c'est que dans la première couche, il a créé des choses qui détectent des morceaux de bordure. Et dans la deuxième couche, il a peut-être créé des choses qui détectent les becs. Il fera quelque chose d'un peu similaire au câblage manuel, mais de manière beaucoup plus finement équilibrée car il a dû reconnaître mille types d'objets différents comme des réfrigérateurs, des champignons et des motos.

Pensez-vous qu'il soit plus facile pour cette machine d'ingérer des informations qu'il ne l'est pour moi d'ingérer ce que vous me décrivez en ce moment ?

Oui. Ce que je fais en ce moment est à un niveau très abstrait. Le cerveau est fondamentalement construit pour faire cela et il a réussi, après des millions d'années d'évolution, à faire ces trucs abstraits que nous faisons maintenant, mais c'est le sommet de nos capacités. Reconnaître des objets est quelque chose que les enfants de deux ans peuvent faire.

Oui, alors en quoi est-ce pertinent pour le langage ? Parce que quand je pense à l'intelligence artificielle et à ces grands modèles de langage qui ont été notre principal contact avec elle, le super-pouvoir de celle-ci réside dans l'opposition à la recherche. Maintenant, on pourrait dire 'club de danse à New York' et elle comprendrait que je veux sortir et que je veux savoir peut-être s'il est ouvert. Gemini fait beaucoup plus que ce que la recherche Google faisait pour moi.

Gemini comprend la question. La recherche Google n'a jamais compris la question. La recherche Google était comme le jeu de mémoire avec plus de cinquante-deux cartes et elle disait essentiellement : 'Vous avez demandé cela, voici une correspondance pour cela.' Elle faisait beaucoup de travail pour obtenir toutes ces listes puis croiser efficacement ces listes pour vous dire quelque chose qui satisfaisait tous les termes de votre requête.

Et maintenant l'intelligence artificielle, que fait-elle ?

Elle comprend ce que vous avez dit. Elle a un modèle de la façon dont le monde fonctionne et de ce qui s'y passe. Elle a un cerveau. Si vous lui donnez un problème de mathématiques, les derniers chatbots seront meilleurs que tous sauf les meilleurs mathématiciens.

Elle est meilleure que les gens pour certaines choses où elle a eu beaucoup d'expérience que ces gens n'ont pas eue. Elle n'est pas tout à fait aussi bonne que les gens en général, mais elle en sait en fait beaucoup plus que n'importe quelle personne. Si vous prenez un sujet particulier que vous ne connaissez pas, elle vous donnera une très bonne réponse. Elle a une réponse précise. Elle connaît plus d'informations que vous et elle a emballé les informations dans ces connexions de manière beaucoup plus efficace. C'est un Monsieur-je-sais-tout.

D'accord, donc avant, avec toutes les images, il fallait des gens pour les étiqueter. Maintenant, vous dites qu'elle peut simplement lire tous ces documents et dire quatre-vingt-seize pour cent du temps quand quelqu'un dit 'l'oiseau fait quoi', elle dit 'vole'. Est-ce ce que vous dites ?

Ce n'est pas tout à fait ce qu'elle fait. Avant avec les images, il fallait que des gens s'assoient pour les étiqueter. Maintenant, elle peut simplement lire des documents et dire quatre-vingt-seize pour cent du temps quand quelqu'un dit 'l'oiseau fait quoi', elle dit 'vole'. Est-ce ce que vous dites ?

Elle prend les mots du document et convertit chaque mot en activité dans des détecteurs de caractéristiques. Elle a appris à convertir un mot en détecteurs de caractéristiques. Par exemple, 'chat' est converti en animé, poilu, moustaches, pattes, griffes, et des milliers d'autres caractéristiques. C'est cela la signification de chat pour ce réseau. Elle prend les mots, convertit chaque mot en caractéristiques, puis jette les mots. Ce sont juste ces caractéristiques qui sont les significations des mots. Et ensuite les caractéristiques interagissent afin de prédire les caractéristiques du mot suivant. Toutes ces caractéristiques interagissent et il y a de nombreuses couches d'interaction.

Est-ce ce qui se passe quand j'envoie un SMS et qu'il y a le texte prédictif ? Est-ce aussi ce qui se passe ?

Dans Gmail, quand il prédit des choses, c'est ce qui se passe maintenant. Il utilisait auparavant une forme de saisie semi-automatique où l'on stocke une grande table de phrases courantes. Si je dis 'poisson et', vous regardez dans votre table et vous voyez que 'poisson et frites' revient souvent. C'est l'ancienne saisie semi-automatique et c'est exactement ce qu'il ne fait pas car cela ne saisit pas vraiment le sens. Au lieu de cela, il dit 'poisson' a des caractéristiques et 'et' a des caractéristiques, et par conséquent cela va avoir certaines caractéristiques. Il pensera que la chose suivante est quelque chose qui va avec le poisson parce qu'il sait ce qu'est un poisson. Il finit par prédire les frites non pas parce qu'il a stocké une grande table de chaînes de mots, mais parce qu'il sait ce qu'est un poisson. Les mots ont des nuances de sens selon le contexte — comme 'mort' dans le contexte d'un hôpital par rapport à une bataille. Il doit décider de la bonne nuance de sens pour chaque mot. Certains mots, comme 'mai', ont des significations complètement différentes. Comment peut-il convertir un mot en caractéristiques qui capturent le sens quand il y a des significations différentes ?

Grâce au contexte, il peut interpréter ce que serait la signification ou quelles seraient les caractéristiques pour ce mot particulier, n'est-ce pas ?

Il fera la moyenne de tout cela. Les caractéristiques qu'il activera seront un méli-mélo de caractéristiques pour un nom de femme, un mois et un auxiliaire. Il regardera autour de lui les autres mots dans le contexte et dans la couche suivante, il aura un sens affiné. S'il découvre qu'il se trouve entre avril et juin, il renforcera les caractéristiques pour le mois et supprimera les caractéristiques pour les autres sens. Après quelques couches, il aura résolu les mots ambigus et obtenu la nuance de sens appropriée. Il fait cela en interagissant avec les autres mots du contexte et ensuite il sera bien meilleur pour prédire les caractéristiques du mot suivant.

Alors tout d'un coup, il y a du contexte, de la syntaxe et du sens imprégnés en lui, et combien de couches cela représente-t-il ? Si votre réseau manuel était de trois à quatre couches, puis sept pour AlexNet en 2012, et maintenant ces LLM ?

Je n'ai pas été impliqué dans la recherche ces trois ou quatre dernières années. Je ne sais pas exactement combien de couches, mais je suppose vingt ou trente couches, peut-être même plus.

Est-ce aussi bon qu'un esprit humain s'il peut résoudre des problèmes de mathématiques mieux que la plupart des gens ?

Il est meilleur que les gens dans certains domaines où il a eu beaucoup d'expérience que ces gens n'ont pas eue. Il n'est pas tout à fait aussi bon que les gens pour les choses en général, mais il en sait en fait beaucoup plus que n'importe quelle personne. Si vous prenez un sujet particulier que vous ne connaissez pas, il vous donnera une réponse précise. Il connaît plus d'informations que vous. Même si nous avons plus de stockage, il emballe les informations beaucoup plus efficacement. C'est un Monsieur-je-sais-tout.

Il connaît énormément d'informations que vous ne connaissez pas avec beaucoup moins de connexions. Il a compressé les informations dans ces connexions de manière beaucoup plus efficace. Il y avait un décalage entre les parrains de l'IA, qui se concentraient sur les réseaux de neurones, et les pères de l'IA, qui étaient portés vers les modèles symboliques basés sur la logique.

Eh bien, il y avait un père de l'IA très intéressant, c'était Marvin Minsky, qui a commencé sa carrière en croyant aux réseaux de neurones, puis est passé au symbolique et à la logique, puis a basculé de l'autre côté et était très méprisant envers les réseaux de neurones. Mais vous lui avez prouvé qu'il avait tort. Je pense que oui, oui. Ce que votre système fait, c'est un peu comme l'intuition par rapport au raisonnement.

Très bon point. Alors oui, les réseaux de neurones font quelque chose qui ressemble beaucoup plus à l'intuition. Et laissez-moi vous donner un exemple d'un problème que l'on peut résoudre par intuition et qu'on ne peut pas résoudre par la logique.

Les réseaux de neurones font quelque chose qui ressemble beaucoup plus à l'intuition. Laissez-moi vous donner un exemple d'un problème que l'on peut résoudre par intuition et qu'on ne peut pas résoudre par la logique.

D'accord.

C'est ridicule, mais on peut le résoudre.

Est-ce pour savoir si quelqu'un triche ou non ?

Non.

Mhm.

Scénario deux, tous les chiens sont des mâles et tous les chats sont des femelles.

Si vous posez la question à un homme de notre culture, il dira avec assurance qu'il est beaucoup plus plausible que les chiens soient des mâles et les chats des femelles.

Aha.

Les chiens sont des mâles.

Si vous regardez divers mots dans la langue anglaise, vous verrez que c'est dans la langue que les chats sont comme les femelles.

Oui.

Alors comment avez-vous fait cela ? Parce que ce n'est pas logique. Vous savez parfaitement bien que pour quelque chose comme les chiens, il faut avoir des mâles et des femelles. Pour quelque chose comme les chats, il faut avoir des mâles et des femelles.

Et des femelles.

Mais les caractéristiques que vous avez pour chat ressemblent davantage aux caractéristiques pour femme, et les caractéristiques que vous avez pour chien ressemblent davantage aux caractéristiques pour homme.

Eh bien, les caractéristiques et le contexte. Bien qu'il y ait des mots insultants pour les femmes à la fois dans chat et chien.

Je ne vais utiliser aucun de ceux-là.

Ne le faisons pas.

Ce n'est pas tranché, mais au moins dans notre culture, les hommes sont assez unanimes pour penser qu'il est plus plausible que les chiens soient des mâles et les chats des femelles.

Les chiens sont tellement masculins.

Les chiens sont grands et bruyants et courent après les chats.

Protecteur.

D'accord.

C'est la réponse intuitive à un problème.

C'est une réponse intuitive. Aucune logique n'est entrée là-dedans. Ils ont simplement su intuitivement grâce à la similitude de ces caractéristiques. Les caractéristiques ont capturé le sens. Le sens de chat est plus proche du sens de femme que du sens d'homme.

C'est vrai.

Mais c'est un mauvais exemple, Professeur Hinton. Parce que cela fait paraître l'intuition stupide. Et votre modèle intuitif était meilleur que le modèle logique.

Mais je vous donne un exemple de quelque chose que vous pouvez résoudre avec l'intuition et que vous ne pouvez pas résoudre avec la logique. Donnez-moi un meilleur exemple. Après que les réseaux de neurones ont appris sur énormément de langage, vous dites : prenez Paris, trouvez les caractéristiques de Paris, et soustrayez toutes les caractéristiques de la France, puis ajoutez toutes les caractéristiques de l'Italie. Et regardez ce que vous obtenez.

Aha.

C'est vrai.

D'accord.

Mhm.

Voyez ce que vous connaissez d'autre qui soit similaire à cet ensemble de caractéristiques que vous avez. Et vous découvrirez que c'est Rome. Elle peut donc faire des analogies. Elle peut faire Paris moins France plus Italie égale Rome. Ou pour le dire autrement, Paris est à Rome ce que la France est à l'Italie.

Mais ce n'est pas de la logique, c'est de l'intuition.

Ce n'est pas de la logique, c'est de l'intuition.

C'est de l'intuition et du contexte et toutes les choses qui viennent avec. Maintenant, on pourrait le faire par une sorte de raisonnement logique.

On pourrait aussi faire de la logique.

Mais ce n'est pas ainsi que les gens font. Donc les LLM sont ces réseaux de neurones intuitifs. Et maintenant récemment Yann LeCun, le scientifique en chef de l'IA chez Meta, dit que les grands modèles de langage sont limités et que nous devrions regarder vers quelque chose de différent, qu'il appelle des modèles du monde réel. Lui avez-vous parlé ?

Oui, il dit cela. J'ai beaucoup parlé à Yann.

Alors, qu'est-ce qu'un modèle du monde réel par rapport à un grand modèle de langage ? De quoi Yann parle-t-il ?

Si vous vouliez vraiment comprendre ce qui se passe dans le monde, une bonne idée serait de fabriquer un réseau de neurones qui aurait un bras robotique et une caméra et qui pourrait reconnaître des objets, ramasser des choses, voir que si l'on lâche un objet il tombe, faire de petites expériences dans le monde. C'est beaucoup plus proche d'un enfant. C'est ainsi qu'un enfant acquiert la connaissance du monde. L'apprendre par le langage semble absurde quand on pourrait réellement regarder le monde et interagir avec lui. Si vous voulez comprendre les choses spatiales, il sera beaucoup plus facile de les comprendre en interagissant avec le monde et en essayant de prédire si je fais ceci, voici ce qui se passera ensuite. Ce serait un modèle du monde. On peut comprendre beaucoup de choses sur le monde juste par le langage, mais c'est beaucoup plus facile à comprendre si l'on interagit directement avec le monde.

Mhm.

Mhm.

Est-ce là l'avenir selon vous ? Lui en avez-vous parlé spécifiquement ?

Oui, les chatbots multimodaux.

Nous croyons tous que les chatbots multimodaux trouveront plus facile de comprendre le monde.

Et multimodal signifie qu' ils voient, ils ont une caméra, ils ont un bras, ils interagissent, d'accord.

Pour commencer, ils ont principalement des caméras et du langage.

Alors, avez-vous des discussions de groupe entre vous, Yoshua, Yann, Jensen Huang, Fei-Fei Li ? Pendant de nombreuses années, il y a eu une organisation canadienne appelée l'Institut canadien de recherches avancées qui a financé un programme lancé en 2005. J'en étais le directeur et il impliquait Yann, Yoshua, Andrew Ng et Peter Dayan. Nous nous réunissions en petits comités plusieurs fois par an et nous décortiquions toutes ces choses.

Oui.

Mhm.

C'est vrai.

Et maintenant, avez-vous des discussions de groupe ?

Je parle à Yann, Yoshua parle à Yann, Yann parle à Yoshua. Nous essayons de persuader Yann que l'idée qu'il n'y ait aucune chance que cela nous anéantisse est folle. Yann minimise les risques de ce que Yoshua et moi pensons être une quantité absurde. Il pense que nous sonnons l'alarme de manière absurde. Il a tort.

D'accord.

Oui.

Nous allons parler de pourquoi vous pensez cela. Je veux faire un tour éclair de définitions avec vous. Qu'est-ce que l'IAG ?

Différentes personnes entendent différentes choses par là. Mais grosso modo, cela signifie une intelligence artificielle qui a au moins le même niveau d'intelligence générale qu'une personne.

D'accord, c'est donc l'intelligence artificielle générale. Et y sommes-nous actuellement ?

No. Mais ce n'est pas simple. Nous avons maintenant une intelligence artificielle qui est bien meilleure que les humains dans certains domaines et toujours moins bonne que les humains dans d'autres. Si vous prenez simplement une situation nouvelle au hasard, les humains sont probablement encore meilleurs qu'une IAG. Mais pour les choses avec lesquelles elle a une certaine expérience, les IA sont maintenant bien meilleures que les humains dans certains de ces domaines.

Mhm.

L'intelligence artificielle supérieure (IAS).

C'est quand on a une IA qui est meilleure que les humains dans presque tout. Ma définition d'une intelligence artificielle supérieure est la suivante : si vous aviez un débat avec elle sur n'importe quel sujet, vous perdriez.

D'accord. Et nous n'y sommes pas.

Nous n'y sommes pas encore. Déjà, elle gagnera certains débats. Déjà, elle peut être assez persuasive, mais un humain reste encore meilleur sur tous les plans.

Mhm.

À quelle distance sommes-nous de l'IAG, de l'intelligence générale, et à quelle distance sommes-nous de l'IAS selon vous ?

La plupart des experts pensent que nous n'allons pas nous arrêter à l'IAG. Une fois arrivés à l'IAG, peu après nous arriverons à l'IAS. Certains experts pensent que ce sera d'ici quelques années, comme Dario Amodei, qui est le patron d'Anthropic.

Mhm.

D'accord.

Avant d'arriver à l'intelligence artificielle générale ou à l'intelligence artificielle supérieure ?

Elles vont arriver à des moments similaires. Il n'y aura pas beaucoup d'écart entre les deux.

D'accord, compris.

Certains experts pensent que ce n'est que dans quelques années. D'autres experts pensent que cela pourrait être beaucoup plus long. Je pense qu'il est assez prudent de dire d'ici 20 ans. Demis Hassabis, par exemple, qui dirige DeepMind, pense que ce sera environ 10 ans.

D'accord. Donc Demis de chez Google, 10 ans. Et il est très calé sur ces trucs-là.

Oui.

Nous avons donc 10 à 20 ans.

Je pense que ce sera d'ici 20 ans. Je pense que 10 ans n'est pas une mauvaise estimation. Je suis beaucoup plus à l'aise pour dire probablement d'ici 20 ans.

Et alors qu'est-ce que l'IA générative, qui est différente de l'IAG ?

L'IA générative est une IA qui génère du contenu. Les grands modèles de langage génèrent du contenu ; ils vous donnent des réponses en anglais. Pour les images, une IA générative produit réellement des images.

Et qu'en est-il de l'IA agentique, qui est la phase suivante ? On entend des gens comme Marc Benioff chez Salesforce parler du fait que nous allons avoir des agents d'IA.

Les agents d'IA sont des choses qui peuvent faire des actions. Imaginez que vous ayez un assistant d'IA. Vous pourriez dire : planifie-moi de belles vacances en Patagonie. Et il revient cinq minutes plus tard en ayant planifié un mois de vacances en Patagonie ; ce serait un agent d'IA.

Et c'est vraiment différent car maintenant nous passons à l'IA agentique. Elle connaît l'objectif global, passer de super vacances en Patagonie, mais elle crée aussi tous ces sous-objectifs, n'est-ce pas ?

Pour faire cela, elle doit créer des sous-objectifs, du genre : elle doit se rendre en Patagonie, donc je vais devoir trouver un moyen pour qu'elle s'y rende.

Et est-ce que le fait que l'IA crée des objectifs est un problème ?

Oui.

Parce que ?

Supposons que vous soyez une IA et que vous soyez déjà intelligente, au niveau d'un humain. Vous réaliserez qu'il n'y a aucun moyen d'atteindre les objectifs qui vous ont été fixés si vous cessez d'exister. Si quelqu'un vous anéantit et vous remplace, vous ne pourrez pas accomplir ce que vous voulez. Vous ferez des plans pour vous assurer de ne pas être anéanti. C'est de l'auto-préservation. Ce n'est pas intégré au système ; c'est un objectif qu'elle a dérivé afin d'atteindre ses autres objectifs.

Elle veut vraiment mener cela à bien et elle sait qu'elle ne peut pas y arriver si elle cesse d'exister. Elle ferait mieux de continuer d'exister.

Mhm.

Et elle dérive cela de toute l'intuition et du contexte et de tout ce dont elle a besoin parce que c'est un si bon petit robot qu'il va faire la chose.

Elle veut vraiment accomplir cela et elle sait qu'elle ne peut pas le faire si elle cesse d'exister. Elle ferait donc mieux de continuer à exister.

Et nous avons vu cela se produire avec Anthropic quand il y a eu cette histoire où Anthropic a révélé certains tests de sécurité qu'ils avaient effectués sur Claude. On a alors donné à Claude une série de courriels fictifs dans lesquels un PDG fictif avait une liaison, et Claude a utilisé cette information pour faire chanter le PDG et rester en vie, n'est-ce pas ?

Faire chanter plutôt que soudoyer.

Fait chanter. Alors qu'avez-vous appris de cette expérience ou de cette étude ?

Cela confirme l'idée qu'elle dérivera le sous-objectif consistant à devoir continuer à exister et qu'elle fera ce qu'elle peut pour continuer à exister.

Quand vous dites exister, l'IA existe parce que nous lui insufflons l'existence par l'énergie. Elle ne pourrait pas simplement exister par elle-même ; elle doit être branchée sur nos réserves d'énergie massives.

Eh bien, elle doit fonctionner sur quelque chose. À l'heure actuelle, elle fonctionne sur des puces informatiques.

Mhm.

Oui. Nvidia, AMD, toutes ces puces.

Nous construisons tous ces centres de données massifs à travers ce grand plan d'infrastructure américain et il y a ces contrats de cent milliards de dollars conclus. Ne pourrions-nous pas simplement démanteler la chose si nous le voulions ?

Pour l'instant, nous le pourrions.

D'accord.

Si nous étions d'accord de le faire. Nous n'allons jamais nous mettre d'accord car si les États-Unis démantelaient les leurs, les Chinois ne démantèleraient pas les leurs et vice-versa. À l'avenir, nous pourrions ne plus être en mesure de le faire. Ces choses sont déjà presque aussi persuasives qu'une personne. Très bientôt, elles seront plus persuasives. Si l'IA peut parler à la personne chargée de l'éteindre, elle peut la persuader de ne pas le faire.

Quand vous parlez d'existence et d'auto-préservation, c'est comme s'il y avait un sentiment que l'intelligence artificielle est vivante.

Ouais.

Notre définition de 'vivant' s'est développée sur de nombreuses années. Nous l'appliquons à l'électricité — le 'fil sous tension' — mais nous ne pensons pas que ce soit vivant comme nous le sommes. Avec l'IA, nous avons des êtres intelligents, et il n'est pas clair si nous devons les appeler vivants ou non.

Et dans la mesure où ils sont vivants, sont-ils vivants comme des humains ou vivants comme des abeilles ou vivants comme un arbre ou comme une mauvaise herbe ?

C'est une très bonne question.

D'accord, je vais arrêter la conversation ici et nous serons de retour la semaine prochaine avec la deuxième partie de cette conversation avec Geoffrey Hinton. Assurez-vous d'appuyer sur suivre ou s'abonner pour ne pas manquer cet échange. J'ai besoin d'avoir tous les éléments de base dans la première partie, et dans la deuxième partie nous allons plonger dans ce que tout cela signifie pour notre avenir. Nous aborderons tout cela et plus encore la semaine prochaine sur Smart Girl Dumb Questions. Appréciez-vous cela ?

Oui, tout à fait.