lui valant le prix Turing 2018, qui est le prix Nobel de l'informatique. Il a également reçu le prestigieux prix Killam en sciences naturelles pour ses percées majeures dans l'utilisation des réseaux de neurones et son travail acharné au fil des ans dans le domaine de l'IA. Bengio est actuellement professeur à l'Université de Montréal et fondateur et directeur scientifique de Mila, l'un des meilleurs centres d'apprentissage automatique. Il codirige le programme Apprentissage dans les machines et les cerveaux de l'Institut canadien de recherches avancées. Il est chercheur principal et agit à titre de directeur scientifique de l'Institut de valorisation des données. De plus, c'est quelqu'un qui se soucie vraiment et profondément de faire une différence avec son travail. Ainsi, lorsque la pandémie de COVID-19 s'est déclarée, il a réorienté une grande partie de ses efforts pour contribuer à ce problème. Aujourd'hui, au cours de la prochaine demi-heure, il nous parlera de la façon dont l'IA pourrait avoir un impact majeur sur le monde et de la façon dont nous pourrions contribuer ensemble dans ce domaine. Pour rappel, cette session est un discours d'ouverture de Bengio lié à l'intelligence artificielle. Suite à cette session, il y aura une discussion de questions-réponses en direct où Bengio répondra aux questions de l'auditoire. N'oubliez pas de soumettre vos questions dans la boîte de questions-réponses ci-dessous. Accueillons Bengio pour parler de l'intelligence artificielle et de son impact futur.

Je vais vous parler aujourd'hui des opportunités et des incitations pour l'innovation en IA pour le bien public. L'IA est un outil puissant, et elle peut être mal utilisée. Une chose qui m'inquiète est de savoir comment nous assurer qu'elle n'est pas utilisée d'une manière qui nuit plus qu'elle n'aide. En général, c'est vrai pour tout outil très puissant, et lorsqu'il est mal utilisé, il peut causer beaucoup de dégâts. Cela signifie que nous devons avoir assez de sagesse et des structures sociales appropriées pour garantir que ces outils sont utilisés au bénéfice de tous. Il y a une sorte de course à la sagesse entre la puissance de nos outils et la force de notre sagesse. C'est bien dans l'abstrait, mais je pense qu'une question intéressante à poser est : que pouvons-nous faire concrètement pour pousser les choses dans la bonne direction, pour réglementer et peut-être pour innover dans la façon dont nous réglementons et incitons afin de gérer ces outils puissants que nous mettons au monde ? D'un côté de l'équation, quelque chose dans lequel j'ai été impliqué est la réflexion sur les principes éthiques dans l'utilisation et le déploiement de l'IA, en veillant à ce qu'elle soit utilisée de manière responsable pour respecter un ensemble de principes tels que le bien-être de tous, le respect de l'autonomie, la protection de la vie privée et de l'intimité, la solidarité, la démocratie, l'équité, la diversité et l'inclusion, la prudence et le développement durable. C'était à la base de la Déclaration de Montréal de 2017. Depuis lors, il y a eu des centaines d'approches pour mieux réfléchir à la façon dont nous pouvons nous protéger par rapport aux outils que nous créons. Mais aujourd'hui, je vais regarder le côté positif. Je vais essayer de réfléchir avec vous à la question de savoir comment les gouvernements peuvent stimuler efficacement l'innovation basée sur l'IA pour le bien public, et surtout pour le bien public à long terme. Beaucoup de choses dont je vais vous parler sont pertinentes pour de nombreux types d'innovations, mais l'innovation en IA en particulier repose tellement sur les données qu'elle crée des problèmes particuliers, spécifiquement la réalisation et la question de savoir comment s'assurer que les données sont utilisées de la meilleure façon possible. Parce que nos méthodes actuelles d'organisation de nos économies reposent sur la concurrence pour stimuler l'innovation, la concurrence mène à des monopoles avec des modèles ou des informations cachés par des secrets commerciaux. Cela n'aide pas vraiment l'innovation. Une façon de voir les choses est que les connaissances et les données, que nous utilisons pour entraîner l'IA, sont réellement des biens publics. C'est quelque chose de commun dont nous pouvons tous bénéficier et auquel nous pouvons tous contribuer. J'y reviendrai. Mais un exemple concret dans ma présentation pour illustrer une partie de ce travail est la recherche que notre groupe et beaucoup d'autres mènent pour explorer comment l'apprentissage automatique pourrait être utilisé dans la lutte contre la résistance antimicrobienne, en particulier pour découvrir de nouveaux traitements contre ce qui pourrait être l'une des prochaines menaces majeures pour l'humanité. Les maladies infectieuses en général sont quelque chose dont nous n'avions pas réalisé, avant cette pandémie, à quel point elles pouvaient être graves pour tout le monde. La résistance antimicrobienne est une menace croissante parce que nous utilisons des antibiotiques, ce qui aide les agents pathogènes à évoluer vers des variantes résistantes à nos traitements. Mais si nous pouvons développer des outils pour mieux aborder la façon de nous défendre contre ces agents pathogènes et comment développer de nouveaux médicaments, cela nous aidera également à répondre plus rapidement aux futures pandémies. Les mêmes outils pourraient également être utilisés pour nous aider à traiter les maladies négligées qui touchent principalement les pays les plus pauvres. Un aspect qui rend la résistance antimicrobienne difficile à gérer, au-delà des questions technologiques, est une question économique : les incitations économiques ne sont pas présentes actuellement pour que les entreprises pharmaceutiques innovent et développent ces médicaments nécessaires. Principalement parce que lorsque de nouveaux médicaments sont développés, ils devraient être utilisés en dernier recours, ce qui signifie que les ventes ne seront pas suffisantes. Qui va faire le travail si l'industrie principale qui est censée développer ces médicaments ne le fait pas ? C'est l'une des questions auxquelles je réfléchis. La résistance antimicrobienne est dangereuse tant sur le plan économique qu'en termes de dommages humains. On prévoit que si nous ne trouvons pas de solutions à ce problème, il y aura environ 10 millions de décès par an d'ici 2050. Comparez cela aux environ 3 millions de décès depuis le début de la pandémie. 10 millions par an, c'est beaucoup de monde. En termes d'impact économique sur la planète, nous parlons de 100 billions de dollars accumulés au cours des prochaines décennies. Ce n'est pas quelque chose que nous devrions simplement oublier. La bonne nouvelle, et aussi la raison pour laquelle l'IA peut devenir une avenue intéressante à explorer ici, est qu'il y a eu des progrès étonnants dans la technologie pour évaluer les médicaments candidats. En particulier, avec la biologie synthétique, nous pouvons tester des dizaines de milliers ou même des centaines de millions de différents peptides candidats dans chaque essai. C'est beaucoup de données qui peuvent être utilisées pour alimenter le prochain lot d'entraînement pour les systèmes d'apprentissage automatique afin de proposer de nouveaux candidats de manière itérative. Par exemple, cela peut être fait en reprogrammant l'ADN de la levure pour qu'elle produise de courtes protéines appelées peptides. Les peptides antimicrobiens sont quelque chose que l'on trouve partout dans la nature, c'est donc un type de traitement très naturel. Pourtant, c'est aussi un problème de recherche intéressant car nous parlons de rechercher de bonnes solutions dans l'espace d'environ 10 à la puissance 60 candidats possibles. C'est un problème qui a un coût humain majeur, pas seulement en 2050, mais déjà maintenant. Des agents pathogènes comme Shigella et Salmonella tuent déjà environ 750 000 personnes par an, principalement des enfants dans les pays en développement. Considérons le problème technique. Le nombre de molécules candidates, disons dans le cas des peptides qui pourraient être utilisés comme médicaments, est énorme. 10 à la puissance 60 est un très grand nombre, donc nous cherchons vraiment une aiguille dans une botte de foin. Malheureusement, la plupart des candidats dans cet ensemble immense ne font pas ce que nous voulons. Il y a une fraction exponentiellement minuscule de ceux-ci qui possèdent les propriétés que nous recherchons. Comment allons-nous les découvrir ? Comment l'apprentissage automatique peut-il nous aider ? La façon la plus simple consiste à prendre les données que nous avons déjà acquises et qui indiquent que la molécule X produit une certaine mesure scalaire d'utilité ou de performance. Nous avons ces paires XY et nous pouvons entraîner un prédicteur supervisé pour approximer la relation entre X et Y. Ensuite, nous pouvons l'utiliser pour cribler les molécules candidates à partir d'un ensemble beaucoup plus large que nous n'avons pas encore essayé. Celles qui semblent prometteuses peuvent ensuite être évaluées dans un essai in vitro, puis celles qui fonctionnent bien sur les cellules peuvent être évaluées in vivo, sur des modèles animaux. C'est bien, mais en réalité, cela ne nous donne qu'une accélération linéaire. Une question importante est de savoir si nous pouvons faire encore mieux. En fait, nous pouvons faire beaucoup mieux. Nous pouvons obtenir une accélération exponentielle par rapport au simple essai aléatoire. Si nous effectuons des améliorations locales avec n'importe quelle forme d'optimisation locale, au lieu d'avoir à explorer un ensemble exponentiellement grand de candidats autour d'un minimum local, nous suivons simplement une trajectoire d'un point de départ aléatoire vers un minimum local. Cette trajectoire nécessitera typiquement un nombre polynomial faible de candidats pour trouver approximativement une bonne solution localement. Si nous voulons être capables de deviner de bonnes solutions loin de celles que nous connaissons déjà, c'est plus difficile. Cela soulève des questions intéressantes en apprentissage automatique à la frontière de la recherche, ce que nous appelons la généralisation hors distribution. Une façon de voir ce qui se passe ici est que l'optimisation locale nous permet d'améliorer progressivement une solution. Disons que les solutions sont des pics dans cet espace de fonctions et nous voyons trois régions où nous avons déjà trouvé des solutions qui fonctionnent bien. Nous aimerions pouvoir deviner d'autres endroits dans l'espace des candidats où il pourrait valoir la peine de tenter notre chance. Il pourrait y avoir une structure qui n'est pas évidente, mais si nous voyons trois points de grille, cela suggère qu'il y en a un quatrième là. C'est une sorte de généralisation systématique que des méthodes d'apprentissage automatique sont en cours de développement pour réaliser. Nous avons expérimenté ce type de méthode d'apprentissage automatique pour apprendre à chercher dans un programme de recherche visant à explorer l'espace des petites molécules de type médicament. Nous constatons que vous pouvez obtenir cette accélération exponentielle que j'ai mentionnée. La ligne verte ici est ce que vous obtenez avec une recherche aléatoire. Sur l'axe des x se trouve le nombre d'appels à l'oracle ou d'expériences que vous devez faire. Toute ligne droite ici signifie qu'il devient exponentiellement plus difficile d'atteindre un certain niveau de performance. Il faut exponentiellement plus de travail pour trouver de meilleures solutions. Ce que l'apprentissage automatique nous permet de faire, c'est de déplacer ces lignes vers le haut et d'améliorer la pente. Améliorer la pente est important car cela signifie qu'il faudra exponentiellement moins d'efforts pour trouver ces solutions. Mieux encore, à mesure que nous voyons plus de données, le système commence à apprendre comment chercher dans cet espace et la pente s'améliore. L'exposant devient de plus en plus favorable à mesure que vous voyez de plus en plus de données. Revenons au problème de la découverte d'antibiotiques. Au niveau économique, il y a un décalage entre la valeur commerciale et la valeur sociétale de l'innovation pour découvrir de nouveaux antibiotiques. La valeur commerciale est insuffisante car, alors que le coût pour la société sera de 100 billions de dollars si nous ne faisons rien, la valeur commerciale de ce travail est bien moindre. Les entreprises ne le font pas parce que ce n'est pas suffisant pour les motiver. Nous ne pouvons pas laisser les marchés s'en charger seuls ; c'est ce qu'on appelle une défaillance du marché. Lorsqu'il y a un décalage entre la valeur sociétale et la valeur commerciale, les gouvernements doivent intervenir. Cela s'applique également aux préoccupations environnementales comme le changement climatique et l'utilisation de l'IA pour découvrir de nouveaux matériaux de capture du carbone. Cela dépendra de la mise en place par les gouvernements d'un prix suffisant sur le carbone pour que ces innovations deviennent viables. Malheureusement, ces types de menaces sont mondiaux. Une pandémie est une menace mondiale, et il ne suffit pas que chaque pays y réfléchisse de son côté. Nous assistons actuellement à une sorte de tragédie des communs avec le nationalisme vaccinal qui conduit à une allocation sous-optimale pouvant mener au développement de nouvelles variantes, rendant potentiellement nos vaccins actuels inutiles. Nous avons besoin d'une coordination mondiale pour faire face à ces menaces. Nous avons des organisations comme l'Organisation mondiale de la santé, mais elles n'ont pas assez de pouvoir pour faire respecter des politiques mondiales. En réfléchissant à ce qu'un seul gouvernement pourrait faire : les gouvernements de nombreux pays accordent des subventions pour la R&D. Les subventions sont bonnes, elles couvrent les coûts, mais elles ont une structure différente des incitations que les entreprises ont généralement lorsqu'elles poursuivent une valeur commerciale en aval. Elles pourraient obtenir une subvention, faire un travail médiocre et tout de même garder l'argent. La motivation n'est pas suffisante pour faire quelque chose qui fonctionne réellement à long terme. Dans la motivation par le profit, le produit doit bien fonctionner pour obtenir la récompense. Nous devons repenser la façon dont les gouvernements fournissent ces incitations. En tant qu'universitaire, je vois les gouvernements financer la recherche où une entreprise paie la moitié et le gouvernement paie l'autre moitié. Cela fonctionne pour la recherche appliquée, mais pour la résistance antimicrobienne ou le changement climatique, les entreprises ne seront pas intéressées à payer la moitié. Que faisons-nous lorsque l'innovation a une valeur sociétale élevée mais une faible valeur commerciale ? Les économistes y ont réfléchi, et les gouvernements peuvent intervenir pour introduire un nouveau signal de marché, tel que la tarification du carbone. Cela oblige les entreprises à internaliser les externalités. Les gouvernements doivent concevoir ces signaux pour encourager des comportements socialement meilleurs. Parfois, l'effet du travail effectué aujourd'hui se fera sentir dans des décennies, comme dans la découverte de médicaments ou l'action climatique. Il est plus difficile d'inciter les marchés lorsque les récompenses sont incertaines et lointaines. Les gouvernements doivent innover en combinant des subventions, qui réduisent le risque lié aux coûts, avec des récompenses à plus long terme basées sur la performance de l'innovation. Si elle sauve des vies, vous obtenez des récompenses réparties selon des jalons. Au cas par cas, les gouvernements peuvent mettre en place des dispositifs tels que des obligations à impact social. L'innovation basée sur l'IA serait plus efficace si les données étaient partagées. Ce n'est pas le cas dans l'industrie pharmaceutique, où la grande majorité des données est gardée secrète. La génération de données coûte cher, et les données secrètes entraînent une inefficacité massive. Si les contribuables paient pour cela, l'argent devrait être utilisé efficacement. Le partage des données est vital pour les défis mondiaux. Ma première recommandation est que pour l'innovation au service du bien public, les gouvernements contribuent aux coûts et aux récompenses basées sur les résultats. Les brevets donnent actuellement un monopole à une entreprise, qui peut gagner énormément ou rien, et le montant peut ne pas être proportionnel à la valeur sociétale. Les gouvernements devraient fixer des récompenses juste assez élevées pour motiver la recherche. Un principe simple est de créer des enchères où les entreprises soumissionnent sur la part de la recherche qu'elles sont prêtes à financer. Elles verraient une partie de leurs coûts payés et recevraient des récompenses basées sur des jalons définis par le gouvernement. L'innovation consiste à générer des connaissances et des données. Lorsqu'elles sont partagées, elles mènent à une innovation efficace. C'est pourquoi la science ouverte suscite de l'enthousiasme. Même dans le milieu universitaire, les données ne sont souvent pas partagées. Il est important que les bailleurs de fonds insistent pour que la recherche soit totalement partagée, y compris les résultats négatifs. Nous progressons en science en nous appuyant sur ce que d'autres ont accompli. En IA, plus il y a de données de haute qualité disponibles, meilleurs sont les résultats. Je propose que les contrats d'innovation financés par le gouvernement lient le financement à des obligations de science ouverte et de données ouvertes. Nous voulons des mécanismes qui récompensent l'utilisation des données par d'autres en aval. C'est pourquoi la recherche scientifique a été si fructueuse ; nous avons pu communiquer. Nous pouvons maintenant le faire plus efficacement avec des intérêts composés où chaque découverte s'appuie sur une boîte à outils de concepts et de données antérieurs. Nous ne pouvons pas simplement forcer les entreprises à partager leurs données si elles sont en concurrence internationale, car cela pourrait les désavantager. Cependant, si nous convenons au niveau mondial que les données et les connaissances sont un bien public, l'économie peut être construite autour d'autres sources de valeur. À court terme, les gouvernements peuvent introduire cette culture dans l'innovation qu'ils financent déjà, comme la recherche sur le climat ou la santé. Plusieurs gouvernements pourraient mutualiser leurs ressources, partageant les découvertes pour réduire le coût global de la recherche. C'est difficile à cause de la tragédie des communs, mais une coordination internationale forte avec des moyens d'action peut garantir que l'intérêt personnel s'aligne sur la participation. Par défaut, les pays veulent que les autres fassent le travail difficile, nous devons donc changer les règles. Les accords sur les biens publics partagés pourraient être liés au commerce international et au libre-échange. Pour conclure, j'ai discuté de la résistance antimicrobienne où l'IA est utile, ainsi que des défis sociétaux et politiques. Les gouvernements doivent financer cette innovation différemment que par le passé. Ils devraient fournir des subventions et des paiements basés sur la performance, assortir les financements de conditions exigeant la science ouverte et le partage de données, et se coordonner au niveau international pour partager les coûts et les connaissances à l'échelle mondiale. Merci, et je serai heureux de répondre aux questions maintenant.

Eh bien, merci, professeur Bengio, d'avoir partagé vos réflexions sur l'intelligence artificielle. Il est tout à fait vrai que les gouvernements devraient accroître les collaborations pour partager les coûts et améliorer les progrès. Il y a d'excellentes questions dans la boîte de questions-réponses. J'ai vu que vous en avez répondu à certaines, mais j'aimerais partager celle-ci avec l'auditoire plus large. Concernant les données, pour que l'IA fonctionne bien, nous avons besoin de grands ensembles de données. Quel est votre point de vue sur le compromis entre la commodité de l'IA basée sur les données et les risques potentiels, en particulier en ce qui concerne la vie privée et l'abus de données ?

Merci pour la question. C'est un défi difficile, mais que nous pouvons relever. C'est comme tout ce qui a un double usage. Les gouvernements créent des réglementations pour l'aviation, les produits chimiques dangereux ou les résidus nucléaires afin d'orienter la société à l'écart des abus tout en permettant à l'innovation de progresser. Des organisations comme l'OCDE, l'ONU et le GPAI aident les gouvernements à rédiger de nouvelles réglementations. Récemment, l'Union européenne a proposé une réglementation complète pour l'IA. Ce n'est qu'une proposition pour l'instant, mais d'autres pays suivront probablement. Nous l'avons fait dans d'autres secteurs, et nous pouvons le faire pour les données et l'IA.

Les peptides antimicrobiens sont quelque chose que l'on trouve partout dans la nature, c'est donc un type de traitement très naturel.

Pourtant, c'est aussi un problème de recherche intéressant car nous parlons de rechercher de bonnes solutions dans l'espace d'environ 10 à la puissance 60 candidats possibles.

C'est un problème qui a un coût humain majeur, déjà maintenant. Des agents pathogènes comme Shigella et Salmonella tuent déjà environ 750 000 personnes par an, principalement des enfants dans les pays en développement.

Le nombre de molécules candidates, telles que les peptides qui pourraient être utilisés comme médicaments, est énorme. 10 à la puissance 60 est un très grand nombre, donc nous cherchons vraiment une aiguille dans une botte de foin.

Malheureusement, la plupart des candidats dans cet ensemble immense n'ont pas les propriétés que nous recherchons. Alors, comment allons-nous les découvrir ?

L'apprentissage automatique peut aider en utilisant les données que nous avons déjà acquises, où une molécule X donne une certaine mesure de performance.

Nous avons ces paires XY et nous pouvons entraîner un prédicteur supervisé pour approximer la relation entre X et Y.

Ensuite, nous pouvons l'utiliser pour cribler les molécules candidates à partir d'un ensemble beaucoup plus large. Celles qui semblent prometteuses peuvent ensuite être évaluées dans un essai in vitro.

Et celles qui fonctionnent bien sur les cellules peuvent être évaluées in vivo, par exemple sur des modèles animaux.

C'est bien, mais cela ne nous donne qu'une accélération linéaire. Une question importante est de savoir si nous pouvons faire encore mieux.

En fait, nous pouvons obtenir une accélération exponentielle par rapport au simple essai aléatoire.

Si nous effectuons des améliorations locales, au lieu d'explorer un ensemble exponentiellement grand de candidats, nous suivons une trajectoire d'un point de départ aléatoire vers un minimum local.

Cette trajectoire nécessitera typiquement un nombre polynomial faible de candidats pour trouver une bonne solution localement.

Si nous voulons deviner de bonnes solutions loin de celles que nous connaissons déjà, c'est plus difficile. Cela soulève des questions intéressantes concernant la généralisation hors distribution.

Une façon de voir ce qui se passe est que l'optimisation locale nous permet d'améliorer progressivement une solution. Disons que les solutions sont des pics et que nous voyons trois régions qui fonctionnent bien.

Nous aimerions deviner d'autres endroits dans cet espace à haute dimension où il pourrait valoir la peine de tenter notre chance.

Il pourrait y avoir une structure comme une grille où le fait de voir trois points en suggère un quatrième. C'est une généralisation systématique, et des méthodes d'apprentissage automatique sont en cours de développement pour cela.

Nous avons expérimenté ce type de méthode d'apprentissage automatique pour explorer l'espace des petites molécules de type médicament.

Premièrement, vous pouvez obtenir cette accélération exponentielle. La recherche aléatoire sur l'échelle logarithmique signifie qu'il devient exponentiellement plus difficile d'atteindre une performance.

Il faut exponentiellement plus de travail pour trouver de meilleures solutions. L'apprentissage automatique nous permet de déplacer ces lignes et d'améliorer la pente.

L'amélioration de la pente signifie qu'il faut exponentiellement moins d'efforts. Mieux encore, à mesure que nous voyons plus de données, le système commence à apprendre comment chercher et la pente s'améliore.

L'exposant devient de plus en plus favorable à mesure que vous voyez de plus en plus de données.

En revenant au problème de la découverte d'antibiotiques, il y a un décalage entre la valeur commerciale et la valeur sociétale.

La valeur commerciale est insuffisante car, bien que le coût sociétal de l'inaction soit de 100 billions de dollars, la valeur commerciale est bien moindre.

Les entreprises ne sont pas motivées à le faire. C'est une défaillance du marché. Nous ne pouvons pas simplement laisser les marchés s'en charger.

Lorsqu'il y a un décalage, les gouvernements doivent intervenir. Cela s'applique également au changement climatique et à la découverte de nouveaux matériaux de capture du carbone.

La viabilité dépendra de la mise en place par les gouvernements d'un prix suffisant sur le carbone.

Malheureusement, le changement climatique et la résistance antimicrobienne sont des menaces mondiales. Une pandémie est une menace mondiale.

Il ne suffit pas qu'un seul pays y réfléchisse. Le nationalisme vaccinal montre actuellement une tragédie des communs, conduisant à une allocation sous-optimale et à de nouvelles variantes.

Nous avons besoin d'une coordination mondiale. Des organisations comme l'Organisation mondiale de la santé n'ont pas le pouvoir de faire respecter des politiques mondiales.

Que pourrait faire un seul gouvernement pour investir dans l'innovation pilotée par l'IA ?

Les gouvernements accordent des subventions de R&D. Les subventions paient les coûts, mais leur structure diffère des incitations commerciales.

Les entreprises pourraient accepter une subvention et faire un mauvais travail. La motivation par le profit exige que le produit fonctionne pour obtenir la récompense.

Nous devons repenser ces incitations. Les gouvernements financent souvent des projets universitaires si une entreprise paie la moitié.

Cela fonctionne pour la recherche appliquée, mais les entreprises ne paieront pas la moitié pour la recherche sur la résistance antimicrobienne qui manque de valeur commerciale.

Que faisons-nous lorsque l'innovation nécessaire a une valeur sociétale élevée mais une faible valeur commerciale ?

Les gouvernements peuvent introduire un nouveau signal de marché, comme la tarification du carbone, pour que les entreprises internalisent les externalités.

Les gouvernements doivent concevoir ces signaux et récompenses pour encourager un comportement socialement meilleur.

Souvent, l'effet de l'innovation se voit des années plus tard. Dans la découverte de médicaments, cela prend 10 ans ; pour le climat, cela prend des décennies.

Il est difficile d'inciter les marchés lorsque les récompenses sont incertaines. Les gouvernements doivent innover en combinant des subventions avec des récompenses de performance à plus long terme.

Si cela sauve des vies, vous obtenez des récompenses réparties selon des jalons, de manière similaire aux bénéfices.

Cela dépend de ce que les gouvernements veulent encourager. Certains pays utilisent déjà des obligations à impact social possédant ces propriétés.

L'innovation basée sur l'IA serait plus efficace si les résultats et les données étaient partagés.

Dans l'industrie pharmaceutique, la vaste majorité des données générées est gardée secrète.

C'est très inefficace. Les contribuables préféreraient que cet argent soit utilisé de la manière la plus efficace possible.

Le partage des données est vital pour les défis mondiaux. Ma première recommandation est que les gouvernements contribuent aux coûts et aux récompenses basées sur les résultats.

Les brevets accordent des monopoles, ce qui peut entraîner des bénéfices énormes ou rien du tout, pas nécessairement proportionnels à la valeur sociétale.

Les gouvernements devraient fixer des récompenses juste assez élevées pour motiver la recherche et l'innovation.

Un principe est celui des enchères où les entreprises soumissionnent pour la recherche. Elles reçoivent une partie de leurs coûts et des récompenses basées sur des jalons.

Cela garantit que le prix final payé par le gouvernement est juste suffisant pour que la recherche soit effectuée.

L'innovation consiste à générer des connaissances et des données. Lorsqu'elles sont partagées, cela mène à une innovation efficace.

C'est la base de la science ouverte. Même dans le milieu universitaire, les données ne sont souvent pas partagées. Les bailleurs de fonds doivent insister pour que la recherche soit totalement partagée.

Le progrès scientifique se fait en s'appuyant sur les résultats des autres. En IA, c'est encore plus important car plus de données mènent à de meilleurs résultats.

Je propose que les contrats d'innovation financés par le gouvernement lient le financement à des obligations de science ouverte et de données ouvertes.

Nous voulons des mécanismes qui récompensent les données utilisées en aval. Partager l'information est beaucoup plus efficace.

La recherche scientifique a réussi parce que nous avons pu communiquer. Maintenant, nous pouvons partager les données et les connaissances accumulées en cours de route.

C'est comme des intérêts composés ; chaque découverte s'appuie sur une boîte à outils de concepts antérieurs. Nous voulons cette efficacité pour l'innovation industrielle.

Nous devons tenir compte du contexte de la concurrence. Si les entreprises canadiennes partagent des données mais que les entreprises américaines ne le font pas, cela pourrait être désavantageux.

Si nous convenons mondialement que les données et les connaissances sont un bien public, l'économie peut être construite autour d'autres sources de valeur.

À plus court terme, les gouvernements devraient introduire cette culture dans l'innovation qu'ils financent.

Plusieurs gouvernements pourraient mutualiser leurs ressources pour la capture du carbone ou les antibiotiques. Si je découvre quelque chose, vous l'avez et vice versa.

Cela réduit le coût de la recherche. C'est un exemple de la tragédie des communs, où il y a une externalité mondiale.

La solution réside dans une coordination internationale forte avec des moyens d'action, garantissant que l'intérêt personnel s'aligne sur la participation.

Par défaut, les pays veulent que les autres fassent le travail difficile. Nous devons montrer comment la participation est bénéfique mondialement et pour chaque acteur.

Les gouvernements doivent intervenir. Nous pourrions lier ces accords au commerce international.

Si les pays acceptent de tarifer fortement le carbone, ils acceptent aussi le libre-échange. Nous ne devrions pas avoir de libre-échange sans gérer les biens publics partagés.

Pour conclure, l'IA peut être utile pour la résistance antimicrobienne, mais il y a des défis sociétaux et politiques pour résoudre ces problèmes.

Les gouvernements doivent financer l'innovation pilotée par l'IA différemment. Ils devraient utiliser des subventions et des paiements basés sur la performance.

Le financement devrait être assorti de conditions pour encourager la science ouverte et le partage des données pour une efficacité maximale.

Enfin, les gouvernements devraient se coordonner mondialement pour partager les coûts et mutualiser les connaissances afin de faire face aux menaces mondiales.

Merci de votre attention, et je serai heureux de répondre aux questions maintenant.

Eh bien, merci, professeur Bengio, d'avoir partagé vos réflexions sur l'intelligence artificielle. Il est tout à fait vrai que les gouvernements devraient accroître les collaborations pour partager les coûts.

Il y a d'excellentes questions dans la boîte de questions-réponses. Pour que l'IA fonctionne bien, nous avons besoin de grands ensembles de données.

Quel est votre point de vue sur le compromis entre la commodité de l'IA basée sur les données et les risques potentiels comme la vie privée et l'abus de données ?

C'est un défi difficile, mais que nous pouvons relever. C'est comme tout ce qui a un double usage.

Les gouvernements créent des réglementations pour les avions ou les produits chimiques dangereux pour éviter les abus tout en permettant à l'innovation de progresser.

Des organisations comme l'OCDE, l'ONU et le GPAI aident les gouvernements à rédiger de nouvelles réglementations et lois.

Récemment, l'Union européenne a proposé une réglementation complète autour de l'IA. D'autres pays suivront probablement. Nous pouvons gérer les données et l'IA.

Comme vous l'avez mentionné, différents gouvernements proposent de nouvelles réglementations. Que pensez-vous des différences de réglementation entre les États-Unis, l'Europe et la Chine ?

Pensez-vous que les progrès actuels sont suffisants pour les améliorations de l'IA ?

Je ne suis pas un expert juridique, mais nous n'en sommes qu'au début d'une évolution de la réglementation pour aider à protéger le public.

Nous devons placer la limite juste là où elle doit être. Par exemple, au Canada, la confidentialité des données dans le secteur de la santé est un domaine prometteur pour l'impact de l'IA.

Malheureusement, la vie privée a été la valeur dominante, ce qui rend très difficile d'innover ou de déployer de nouvelles technologies.

Il y a un changement de culture qui doit s'opérer à mesure que les gens comprennent les avantages et les dangers potentiels. Les gouvernements doivent donner la priorité à cela.

Il serait bien préférable que différents pays se coordonnent car des règles différentes selon les pays rendent l'innovation beaucoup plus coûteuse.

Il est dans l'intérêt de tous de s'entendre sur un modèle afin de ne pas avoir à construire 50 versions différentes du même produit.

Je suis tout à fait d'accord. Je travaille dans le secteur de la santé, combinant les données de santé avec l'IA. Existe-t-il des exemples typiques de coopération internationale dans la découverte de médicaments pilotée par l'IA ?

Il y en a, mais pas assez. Un effort appelé MELLODDY encourage les entreprises à collaborer en partageant indirectement des données grâce à l'apprentissage fédéré.

Une autre approche permet plus de partage lorsqu'il s'agit d'efforts financés par le gouvernement. Des organisations comme GARDP et DNDi mènent des recherches avec la science ouverte et les données ouvertes.

Mais cela ne représente encore qu'une infime partie de l'effort global. Nous aurons besoin de plus d'initiatives de ce genre à l'avenir.

D'accord. Concernant les composants chimiques, comment définissez-vous les caractéristiques des composés chimiques en tant que chercheur ?

L'apprentissage profond traditionnel a été conçu pour des vecteurs ou des séquences de taille fixe, mais il y a eu une révolution avec des outils comme les réseaux de neurones sur graphes et les transformeurs.

Ceux-ci nous permettent d'opérer sur pratiquement n'importe quelle structure de données, y compris les graphes. Nous travaillons sur la représentation brute de la structure chimique telle qu'elle apparaît dans un graphe.

Le système d'apprentissage automatique découvrira des caractéristiques utiles pour les prédictions ou les classifications.

Comment évaluez-vous le stade actuel de l'apprentissage profond ? D'après ce que j'ai appris, l'apprentissage profond est principalement utilisé dans le domaine de l'imagerie biomédicale en santé.

Nous pouvons distinguer des objets en 2D, mais l'apprentissage profond en 3D est encore au stade de la recherche. Quelle est votre opinion sur ces progrès ?

Passer de la 2D à la 3D est un jeu d'enfant ; c'est surtout une question de ressources de calcul et de mémoire. C'est déjà en train de se produire.

Le plus grand saut pour l'apprentissage profond est de passer de ce que les psychologues appellent le Système un au Système deux.

Le Système un est la perception dans la vision et l'audition ; les choses que l'on fait rapidement sans attention consciente. Le Système deux inclut le raisonnement et la logique, qui sont généralement lents.

Il nous permet de réagir intelligemment à de nouvelles situations, ce que l'apprentissage automatique actuel n'est pas capable de faire. Les systèmes d'apprentissage automatique sont encore fragiles par rapport aux humains.

Il y a un effort pour étendre l'apprentissage profond du Système un au Système deux, en s'appuyant sur des mécanismes d'attention.

Ceux-ci ont incroyablement bien fonctionné pour la traduction et la vision par ordinateur. C'est la clé de la prochaine étape, permettant le raisonnement à grande échelle.

Je suis d'accord. Il est nécessaire de combler le fossé entre le Système un et le Système deux avec les réseaux de neurones et le raisonnement conscient.

Nous devons construire un modèle du monde qui apprend les effets causaux. Nous avons besoin de plus de collaboration internationale avec les gouvernements pour améliorer les progrès de l'IA.

Merci beaucoup, professeur Bengio. Ce fut un plaisir de discuter avec vous. Merci pour votre temps.

Nous passons maintenant à notre prochaine session de panel sur l'intelligence artificielle. Merci, professeur.

Merci de m'avoir invité.

Au revoir.

Au revoir.

Salut.

Que l'auditoire reste ici pour la prochaine session de panel sur l'intelligence artificielle. Merci à tous pour votre attention et votre temps.