Vous avez peut-être entendu dire il y a quelques jours que le nom de Yoshua Bengio figurait sur un article intitulé « La conscience dans l'intelligence artificielle : perspectives issues de la science de la conscience ». Je souhaite souligner quelques points concernant cet article dont vous n'avez peut-être pas entendu parler. L'article est long, détaillé et qualifié de théoriquement dense pour une bonne raison. Il approfondit de nombreuses théories récentes concernant la conscience, mais ce n'est pas de cela que je veux parler. Le point le plus intéressant de cet article est ce qui est sous-entendu. Ce qui est sous-entendu, c'est l'intention claire derrière l'article et surtout l'intention liée au fait d'avoir quelqu'un comme Bengio qui y est associé. Butlin et Long sont des personnalités dont vous n'avez peut-être pas entendu parler, mais Bengio est quelqu'un dont vous avez probablement entendu parler, et le fait que son nom figure sur l'article change légèrement la donne quant à son impact potentiel.

Ce que je veux suggérer, c'est qu'ils essaient d'établir un programme de recherche et d'aider à pousser le domaine dans une direction particulière, ce qui est très intéressant et je suis optimiste à ce sujet. Je pense que cela va être très productif pour nous car ils soutiennent spécifiquement, à travers de nombreuses théories différentes, que nous pouvons instrumentaliser cela. Je ne m'inquiète pas des détails spécifiques d'une théorie en particulier car, dans 10 ou 20 ans, nous allons probablement changer radicalement ces choses. Les détails réels importent peut-être moins que le fait qu'ils disent que si l'on examine toutes les différentes manières dont nous traitons la conscience en philosophie de l'esprit actuellement, la conclusion est que nous pouvons transformer cela en quelque chose de réalisable avec la technologie d'IA actuelle. Ils disent que nous pensons que c'est possible en utilisant les technologies actuelles d'IA et qu'il n'y a pas d'obstacles à la réalisation de cela. C'est vraiment intéressant. Cela indique essentiellement à ceux qui sont dans le domaine que c'est possible dès maintenant et voici ce qu'il faut faire pour y parvenir. Cela aide à lancer le mouvement et identifie des indicateurs qui nous disent quand quelque chose est conscient.

Que ce soit réellement le cas ou non, je ne suis même pas sûr que ce soit si important, ironiquement, même si c'est ce à quoi tout le monde va penser. Ce qui compte, c'est que cela va potentiellement provoquer un changement de comportement en termes de ce que ces agents d'IA font réellement. L'un des aspects, par exemple, est la récurrence en termes de capacité à ruminer sur des choses. Nous avons vu des indices de cela récemment avec le raisonnement par chaîne de pensée avec le MMLU, qui est l'un des benchmarks populaires. L'un des problèmes du MMLU est que la manière dont il a tendance à être noté et utilisé comme référence exige que vous donniez votre réponse en premier. En d'autres termes, le tout premier caractère est A, B, C ou D pour une réponse à choix multiples. Le problème est que les LLM ne sont pas très doués pour cela. Pour être tout à fait franc, si l'on ne donne pas aux gens l'occasion de bien réfléchir à ce qui se passe et de méditer sur leurs réponses possibles, ils ne seront pas forcément très bons non plus. Votre premier instinct ou impulsion pour répondre aux questions du SAT ou du GRE n'est peut-être pas le bon. Vous allez probablement vous améliorer si vous y réfléchissez un moment. C'est exactement ce que les chercheurs ont découvert avec le MMLU, suggérant que GPT-4 peut s'améliorer jusqu'à 3 % en procédant ainsi.

Cela renvoie à la question de la récurrence ; en d'other termes, le fait que l'IA réfléchisse à ce qu'elle fait réellement et crée une sorte de boucle de pensée qui aidera à créer une plus grande conscience de ce qu'elle pense, pourquoi elle pourrait le penser, et si c'est une bonne idée. Vous avez une pensée, puis vous la testez par rapport à votre environnement. Quand je dis environnement, nous ne parlons pas seulement d'environnement physique ; nous parlons de l'environnement de pensée dans lequel cette idée vivrait. Vous testez cette idée pour voir si elle constitue une bonne solution au problème. Quand je dis tester, je veux dire que vous juxtaposez les deux. Vous les placez toutes les deux dans votre esprit en même temps et vous vous demandez si cela semble être une bonne solution à la question. Cela fonctionne parce que, pour nous particulièrement, nous formons naturellement ces associations lorsque nous plaçons deux choses l'une à côté de l'autre. Pour nous, envisager une idée signifie souvent l'avoir à l'esprit en même temps que j'ai à l'esprit l'environnement du problème. Ces associations vont se former naturellement en arrière-plan pour nous. Nous n'avons pas à fournir beaucoup d'efforts conscients pour les former.

C'est le genre de chose vers laquelle je pense que nous devons tendre, et il semble que Yoshua et ses collègues — spécifiquement Butlin et Long, car ils sont les moteurs de cet article — poussent dans cette direction. Les gens sont plus susceptibles de reconnaître le nom de Bengio, c'est pourquoi j'étais ravi de voir des personnes renommées dans le domaine prêtes à associer leur nom à quelque chose et à dire que c'est réalisable. La même chose s'est produite avec l'article Sparks of AGI avec Bubeck il y a quelques mois. Je pense que c'est assez passionnant et c'est peut-être quelque chose que vous n'aviez pas encore remarqué à propos de l'article.