Une conférence de deux jours intitulée IA, Science et Société s'est tenue récemment à l'Institut Polytechnique de Paris dans le cadre du Sommet pour l'action sur l'IA. Certains des plus grands chercheurs mondiaux en IA ont assisté à cet événement. L'un des intervenants à cette conférence était le pionnier de l'IA et lauréat du prix Turing, Yoshua Bengio. Je me suis entretenu avec M. Bengio et j'ai commencé par l'interroger sur la trajectoire actuelle du développement de l'IA et sur la question de savoir si nous devions nous en inquiéter.

Je pense qu'il est très important de réfléchir à la trajectoire. En regardant les dernières années, les dernières décennies, l'amélioration des capacités de l'IA est phénoménale. Et nous ne savons pas ce que l'avenir nous réserve, mais il est très plausible que ses capacités continuent de s'améliorer. Cela pourrait être extrêmement bénéfique, mais aussi très dangereux en même temps parce que cette puissance, cette intelligence peut être utilisée, par exemple, par des personnes malveillantes contre les démocraties, contre les infrastructures pour diffuser de la désinformation. Il y a aussi la possibilité que si ces systèmes deviennent plus intelligents que nous, ils puissent se retourner contre nous parce que nous ne savons pas comment les contrôler. Et des expériences récentes montrent qu'ils ne veulent pas être éteints. Ils veulent se préserver. Et pour l'instant, nous sommes plus intelligents, mais ce n'est peut-être pas toujours le cas.

Pourriez-vous nous donner quelques points forts du rapport international sur la sécurité de l'IA ?

J'ai présidé la recherche et la publication d'un rapport scientifique international qui a été inspiré par le GIEC pour le changement climatique. Il a réuni un panel d'experts de nombreux pays et de l'ONU, et environ 100 experts couvrant tous les aspects des risques de l'IA et de leur atténuation. Ils ont analysé les tendances en matière de capacités. L'idée était de synthétiser la science existante afin d'aider les décideurs politiques à prendre des décisions, sans faire de recommandations, mais pour aider à établir quels sont les faits, quel est le consensus. Il a examiné les domaines où il y a beaucoup d'incertitude afin que nous puissions collectivement prendre de meilleures décisions concernant notre avenir. En particulier, les gouvernements doivent réfléchir à la manière d'orienter le développement de l'IA dans des directions qui seront bénéfiques pour la société, et de réduire les risques et les dommages potentiels.

Comment les gouvernements ou la gouvernance et les réglementations peuvent-ils jouer un rôle pour garantir que les risques de l'IA soient atténués ?

L'idée générale de la réglementation dans de nombreux domaines est simplement de s'assurer que les entreprises qui fabriquent les produits doivent s'assurer qu'ils seront sûrs, qu'ils ne feront pas de mal aux gens. Et nous avons cela dans des domaines comme le transport, les produits chimiques, etc. — même l'alimentation. Mais nous ne l'avons pas dans les logiciels et nous ne l'avons pas dans l'IA. Or, l'IA transforme actuellement le monde. Elle devient de plus en plus puissante. Cela signifie qu'elle peut être à la fois bénéfique et dangereuse. Nous devons avoir des règles. Nous devons nous assurer que les entreprises sont incitées à travailler sur la sécurité et pas seulement sur la capacité. Si elles doivent montrer au public, par la transparence de leurs pratiques de gestion des risques, que leurs systèmes sont sûrs, cela les incitera fortement à bien se comporter. De plus, si elles sont responsables devant les tribunaux pour les dommages qu'elles pourraient causer, elles seront incitées à bien se comporter. Ce sont des choses où les gouvernements peuvent intervenir avec très peu d'effort afin de fournir la bonne impulsion aux entreprises pour qu'elles se comportent d'une manière mieux alignée avec nos valeurs, nos besoins et notre sécurité.

Et enfin, pour une question comme le changement climatique, l'IA peut jouer un rôle important, mais elle fait aussi partie du problème. Comment sortir de ce dilemme ?

Oui. En fait, beaucoup de personnes dans mon groupe travaillent sur le développement de l'IA pour aider à mettre au point de nouveaux matériaux afin de lutter contre le changement climatique. Dans le même temps, le type de modèles que les grandes entreprises développent, qui sont très différents, utilisent de plus en plus d'électricité. En fait, cela va faire augmenter le prix de l'électricité dans les années à venir. Je pense que la réponse à votre question est : vers où dirigeons-nous les efforts en matière d'IA ? Les dirigeons-nous vers des domaines dont les gens ont besoin, comme la santé, la lutte contre le changement climatique ? Ou suivons-nous simplement les forces du marché et laissons-nous des entreprises très rentables faire grimper le prix de l'énergie et créer beaucoup de pollution avec l'utilisation de combustibles fossiles parce qu'il n'y a pas assez d'énergie renouvelable pour la nouvelle demande.