Un haut dirigeant au cœur des efforts de Google DeepMind pour faire progresser l'intelligence artificielle nous rejoint juste après cela.

Bienvenue au Big Technology Podcast, une émission pour une conversation posée et nuancée sur le monde de la technologie et au-delà. Nous sommes rejoints par un invité très spécial aujourd'hui. Colin Murdoch est ici. Il est le directeur commercial de Google DeepMind. Nous allons parler de théorie, nous allons parler de pratique, et de la façon dont Google essaie de prendre l'avantage en intelligence artificielle et de la transformer en produits. Colin, bienvenue dans l'émission.

Alex, c'est fantastique d'être ici. J'ai vraiment hâte d'avoir cette conversation.

Super. Alors, aimerais-tu commencer par le plus facile ou le plus difficile ?

Où tu veux, Alex. Lançons-nous.

Lançons-nous. Pourquoi construire une intelligence artificielle générale ? C'est l'objectif affiché de DeepMind de construire une IA au même niveau que l'intelligence humaine, ou même quelque chose qui la surpasse. Pourquoi le faire ?

C'est exact. Eh bien, pour prendre un peu de recul, je pense qu'il est vraiment important de réfléchir à ce qu'est l'intelligence artificielle générale, ou IAG. Parce que vous connaissez déjà de nombreux systèmes d'IA aujourd'hui. Vous construisez un système d'IA pour résoudre un problème particulier, et cela fonctionne exceptionnellement bien. Et nous avons vu d'énormes percées dans la recherche fondamentale sur l'IA, qui ont eu un impact vraiment important dans le monde grâce à cette forme d'IA. Ce que nous espérons, cependant, avec l'intelligence artificielle générale, c'est de construire un système capable de résoudre plusieurs problèmes différents. Donc, un seul système d'IA qui peut résoudre plusieurs problèmes différents. Et un peu comme nous les humains, Alex, cela signifie que nous pouvons tirer des enseignements, et que le système d'IAG peut tirer des enseignements d'un contexte et les appliquer à un nouveau contexte. Et nous pensons que cela signifie que ce système d'IAG pourra créer des solutions plus créatives et transformationnelles. Et nous savons que c'est possible parce que les humains sont une forme de véritable intelligence générale. Regardez les choses incroyables que nous avons pu accomplir. Et c'est pourquoi, chez DeepMind, nous pensons qu'il est vraiment louable de chercher à développer une forme d'intelligence artificielle générale qui aidera, espérons-le, à relever certains des plus grands défis de la société, comme le changement climatique et les problèmes de santé. C'est en fait le cœur de ce que nous faisons, et c'est incroyablement important et je pense incroyablement intéressant.

Oui, mais ça va faire plus que ça. Vous pouvez l'orienter vers le travail sur le climat et la santé, mais il y a toute une foule de choses différentes qu'une IAG sera, j'imagine, capable de faire. Sur votre site web, vous dites : en construisant et en collaborant avec l'IAG, nous devrions être en mesure d'acquérir une compréhension plus profonde de notre monde. C'est donc un niveau encore plus profond que ce que vous venez de mentionner, ce qui entraînera des avancées significatives pour l'humanité. Comment cette technologie fournira-t-elle une compréhension plus profonde de notre monde, et si elle peut penser comme un humain, alors comment pourra-t-elle concrètement atteindre certains de ces objectifs que vous venez d'évoquer ?

Alors je pense que l'application dans la science est un domaine vraiment intéressant à considérer. La science est un domaine incroyablement complexe dans lequel nous, en tant qu'humains, avons fait des progrès incroyables au fil des ans. Et ces progrès scientifiques nous ont vraiment permis de construire les sociétés que nous avons aujourd'hui, d'avoir la santé que nous avons aujourd'hui, d'avoir la production alimentaire que nous avons aujourd'hui. Mais à un certain niveau, on a l'impression d'atteindre les limites des connaissances que les humains seuls peuvent créer par ce processus. Et un exemple concret est celui des protéines. Ce sont les briques de la vie. C'est ce qui nous fait fonctionner, vous et moi, Alex, en ce moment même. Si nous n'avions pas de protéines, les petites machines de notre corps, nous ne fonctionnerions pas. Et les scientifiques essaient depuis des années de déterminer la structure des protéines car si elles tournent mal, si elles sont mal formées, si la structure n'est pas tout à fait correcte, cela peut causer des choses comme des maladies et toutes sortes de maux dans toute une gamme de domaines différents. Le défi pour les humains, c'est que nous avons essayé de le faire par des moyens expérimentaux. Il faut donc des années de recherche minutieuse et des millions de dollars d'équipement spécialisé pour déterminer la structure d'une seule de ces protéines. C'est pourquoi les experts depuis environ 50 ans maintenant, ce sont des scientifiques de haut niveau, essaient d'utiliser des approches computationnelles pour déterminer la structure d'une protéine. Parce que les protéines sont constituées de ces petites unités qui sont codées dans notre ADN. Et nous connaissons en fait la séquence de ces unités. Le défi est de savoir comment elles se transforment en cette structure tridimensionnelle. Il y a donc un problème vraiment important là, qui est au cœur d'une grande partie de la compréhension biologique vraiment importante que nous n'avons pas pu résoudre en tant qu'humains. Et c'est un bon exemple d'endroit où l'IA a pu intervenir, et je peux vous en dire un peu plus si vous le souhaitez.

Je sais vers quoi vous tendez. Oui, AlphaFold.

AlphaFold, bingo, oui.

Mais je vais attendre un moment parce qu'AlphaFold, nous allons en parler plus en détail dans la deuxième partie, mais vous avez pu décoder des protéines grâce aux recherches de DeepMind en utilisant ce système AlphaFold. Mais cela reste une intelligence étroite. Donc vous allez en fait un cran plus loin si vous essayez de construire une intelligence artificielle générale. Parlez-en un peu plus : pourquoi est-ce nécessaire ?

Eh bien, il y a beaucoup de problèmes que nous sommes capables de découvrir et de commencer à résoudre avec des choses comme AlphaFold. Mais si vous prenez du recul et réfléchissez à la façon dont les humains résolvent les problèmes, nous rencontrons un problème, nous le résolvons, et cela ouvre généralement un nouveau problème. Et si vous prenez du recul et considérez l'univers dans son ensemble et notre monde dans son ensemble, la taille et l'échelle de cet espace de problèmes sont immenses. Et je soupçonne qu'il y a des problèmes auxquels nous n'avons même pas pensé aujourd'hui. Et notre espoir avec un système comme l'IAG est qu'une fois que nous aurons résolu un problème, ce qui ouvre et montre généralement cet ensemble de nouveaux problèmes en ramification, le système d'IAG sera capable de naviguer dans cet espace de problèmes à une vitesse et à une échelle que nous ne pouvons même pas imaginer aujourd'hui. Et à bien des égards, c'est une question difficile car nous sommes limités par notre intelligence humaine existante, nous sommes donc limités par ce que nous savons actuellement. Mais si nous pouvons construire un système comme celui-ci, je pense que nous serons capables d'explorer cet espace de problèmes d'une manière exceptionnelle. Et la raison pour laquelle j'ai utilisé AlphaFold comme exemple est que je pense que la science et la découverte scientifique sont en fait un domaine vraiment fascinant et important, qui constitue cet ensemble sans fin de problèmes qu'un système d'IAG, en travaillant avec les humains, nous aidera, nous l'espérons, à résoudre.

Est-ce que cela ne cède pas beaucoup de contrôle ou une grande partie du sens de ce que c'est d'être humain aux machines ?

Eh bien, ce que nous voyons réellement dans AlphaFold est un bon exemple, et même quand on en viendra à l'IAG, c'est que nous verrons des ordinateurs et des gens travailler ensemble. Le grand exemple d'il y a quelques années qui résonne encore pour moi est un système appelé AlphaGo. Maintenant, le Go est un jeu de plateau qui est très populaire dans certaines parties du monde.

Oui, je pense que nos auditeurs connaissent, mais vous pouvez continuer.

Oui, fantastique. Et les gens ont étudié cela pendant des milliers d'années. Nous avons développé un système d'IA qui était capable de jouer à AlphaGo, et we l'avons confronté à divers experts humains. Dans certains cas, les experts humains ont gagné, mais avec le temps, AlphaGo est devenu de plus en plus puissant. Ce que nous avons découvert, cependant, c'est qu'une fois que nous avons rendu AlphaGo plus largement disponible, les humains ont en fait utilisé AlphaGo pour améliorer leurs performances. Et c'est souvent le cas. Ainsi, le système d'IA a aidé l'humain à s'améliorer, et vous mettez ces deux choses ensemble, et dans de nombreux cas, c'est le système d'IA plus l'humain qui finit par être le résultat le plus fructueux, le plus puissant. Il y a donc définitivement là une voie de co-évolution ou de co-développement entre ces deux formes d'intelligence.

Oui, mais encore une fois, ce sont des intelligences étroites, n'est-ce pas ? Elles sont construites pour une tâche spécifique. Alors, si nous parvenons à réaliser une intelligence artificielle générale, qui sera fondamentalement capable de penser, de percevoir le monde et de planifier au même niveau qu'un humain, elle dépassera évidemment l'humain parce qu'elle pourra disposer de toute la puissance informatique derrière elle, alors que nous sommes limités par nos cerveaux et que nous nous fatiguons. C'est beaucoup plus puissant. Je veux dire, ne pensez-vous pas que c'est un niveau complètement différent ? Et encore une fois, we parlons d'un partenariat, mais qu'est-ce qui garantit que nous ne sommes pas, je veux dire, il semble y avoir un point où la machine n'aura tout simplement plus besoin du retour humain pour faire ces découvertes. La question est donc : allons-nous céder une bonne partie de ce que signifie être une personne, être un humain, à ces machines ? Et si oui, peut-être que c'est une bonne chose, peut-être que cela fait évoluer l'humanité vers un autre endroit. Mais oui, qu'en pensez-vous ?

Eh bien, je suis certainement enthousiaste à l'idée d'imaginer comment un système de plus en plus performant aidera l'humanité et aidera également l'humanité à étendre ses capacités. Je veux dire, une façon dont je vois les choses est que j'ai trois enfants. Je suis un adulte, donc je suis là depuis plus longtemps qu'eux. Ils sont une forme d'intelligence générale, et moi aussi. Mais nous pouvons travailler ensemble. Même si j'en sais plus que mes enfants, nous pouvons travailler ensemble, et ils m'apprennent parfois des choses qui me surprennent aussi. Je pense donc que ce sont des formes d'intelligence différentes qui, je l'espère, peuvent travailler ensemble et en harmonie à bien des égards.

Devraient... c'est intéressant que vous mentionniez vos enfants. C'est presque comme créer une nouvelle vie d'une certaine manière. Est-ce que les entités responsables de la création de cette nouvelle vie devraient être des entreprises ? Je veux dire, devrions-nous confier à des entreprises la gestion de cette forme fascinante d'intelligence si nous y parvenions ? Et si oui, pourquoi ?

Alors je pense que la façon dont je le vois est comme un outil. Je pense que c'est probablement le cadre que j'utilise quand je pense à ce genre de technologies. Et puis je pense qu'en envisageant la construction de ces outils vraiment puissants et importants, alors je pense que les entreprises ont effectivement un rôle très important à jouer, c'est certain. Je pense que le gouvernement a un rôle très important à jouer. Je pense que la réglementation a un rôle très important à jouer. Je pense que la société a un rôle très important à jouer. C'est une toute nouvelle technologie, un nouvel ensemble d'outils qui va avoir un impact vraiment important et positif sur le monde, et que nous devons développer de manière responsable. Parce que c'est une technologie très puissante, nous devons aussi faire preuve d'une grande prudence avec elle. C'est pourquoi, en fait, chez Google DeepMind, nous avons, et cela a toujours fait partie de ce que nous faisons, cette approche responsable ou d'innovation responsable comme nous l'appelons. Cela a toujours été dans l'ADN de ce que nous faisons. Je pense que tous ces acteurs doivent travailler ensemble en harmonie pour développer quelque chose qui soit vraiment important et percutant pour la société.

Oui, mais vous venez de comparer l'intelligence à... c'est un outil, mais vous avez aussi comparé l'intelligence à celle des humains. Donc ça ne peut pas être les deux à la fois, ou peut-être que si. On dirait que d'une certaine manière, nous sommes à la fois émerveillés par ce que ces choses peuvent faire et que nous n'avons pas encore, en tant qu'espèce, une compréhension totale de ce sur quoi nous travaillons. Pensez-vous que ce soit une évaluation juste ?

Je pense que nous sommes aux premiers stades d'une très longue échelle. Nous sommes sur le premier barreau, et prédire exactement où la recherche elle-même ira est toujours une tâche précaire. Je suis très optimiste quant au potentiel de cette technologie pour vraiment aider à élever l'humanité vers de nouveaux niveaux, pour aider dans des domaines comme le changement climatique, pour aider dans des choses comme la santé. Je pense qu'il est vraiment important de garder cela à l'esprit. Nous devons continuer à interroger ces systèmes, à comprendre comment ils fonctionnent, à nous assurer que nous le faisons de manière responsable, à nous assurer que nous mettons en place les bonnes révisions à chaque étape, afin de comprendre et de les déployer d'une manière qui soit logique pour la société dans son ensemble. Je pense que nous devons faire ces deux choses. Nous devons être audacieux dans la façon dont nous les développons, mais aussi responsables et prudents.

D'accord. Alors laissez-moi vous poser une question sur le chemin pour y arriver ? Vous avez parlé de la façon dont une intelligence artificielle générale sera capable d'apprendre et d'appliquer des leçons de différents domaines ou de différents domaines d'expérience. Alors quel type de recherche et d'avancées doivent avoir lieu pour nous rapprocher de ce point ?

Eh bien, nous n'en sommes qu'aux débuts, mais laissez-moi vous donner quelques exemples de ce qui fonctionne actuellement, ce que nous appelons la généralisation, et je pourrai parler de certains des domaines de recherche active dont nous pensons avoir besoin pour y parvenir. Donc pour prendre un peu de recul, ce que j'entends par la capacité de généraliser, c'est la capacité de tirer des enseignements d'un contexte et de les appliquer dans un autre contexte. Et nous avons récemment développé, par exemple, un algorithme appelé MuZero, qui a été initialement développé pour jouer aux échecs et au Go. Et puis nous avons réalisé que nous étions capables de prendre cet algorithme et d'appliquer l'application au jeu de la compression vidéo YouTube. C'est peut-être drôle que je dise ça, mais nous avons pu prendre un algorithme développé pour les jeux, qui était un maître aux échecs, et l'utiliser pour réduire considérablement les besoins en bande passante pour diffuser des vidéos YouTube. Et nous avons fait cela en comprenant qu'une vidéo est une série d'images individuelles. Et si vous imaginez que la transition entre chacune de ces images est comme un coup dans un jeu, cela nous a donné l'idée que cet algorithme généraliserait le jeu d'échecs et de Go à la compression vidéo YouTube. Un autre exemple est un algorithme que nous appelons Flamingo. Et nous avons pu utiliser Flamingo dans le cadre d'une application appelée Lookout, qui est une application développée par Google. Si vous êtes malvoyant et avez besoin d'aide, vous pouvez utiliser votre téléphone portable pour prendre une photo de quelque chose, puis vous pouvez demander à Lookout ce qu'il y a sur cette photo et il peut vous aider, il peut être vos yeux. Et nous avons réalisé que cet algorithme pouvait être utilisé, redéployé et généralisé pour ajouter les descriptions dans les vidéos qui sont téléchargées sur YouTube Shorts. Les créateurs qui créent des vidéos sur YouTube Shorts ont moins de temps, ils téléchargent la vidéo, l'algorithme qui aide les gens à trouver ces vidéos a besoin de quelque chose sur quoi s'appuyer pour aider les gens à les découvrir. Nous avons donc découvert que Flamingo était également capable de regarder cette vidéo pour vous, de regarder essentiellement toutes les vidéos pour vous et d'ajouter des métadonnées à ces vidéos de sorte que lorsque vous recherchez ces vidéos, il soit beaucoup plus facile de trouver les vidéos dont vous avez besoin. Quand on considère les milliards de vidéos qui sont visionnées chaque jour sur YouTube Shorts, c'est vraiment significatif. Ce sont donc juste des exemples où nous commençons à voir ces formes de généralisation. Et bien sûr, l'IA générative est en fait aussi un excellent exemple. Ces nouveaux outils où vous pouvez interagir avec eux d'une manière assez conversationnelle et obtenir une réponse vraiment surprenante et puissante. C'est donc une façon dont nous commençons à voir ce passage à une intelligence beaucoup plus générale. Et peut-être que je pourrais juste intervenir et vous dire un peu comment, par exemple, ces travaux récents en IA générative nous permettent de nous rapprocher de l'IAG, puis je pourrai vous en dire un peu plus sur certaines recherches de suivi.

C'est fascinant.

Fantastique. Donc, et ce qui est peut-être surprenant de savoir, si vous avez suivi le domaine de l'IA générative, vous l'avez vraiment vue faire irruption sur la scène au cours des 18 à 24 derniers mois, c'est que certaines des percées sous-jacentes ont été développées il y a environ cinq ans. Et ce qui s'est passé au cours des 18, 24 derniers mois, cependant, c'est que ces systèmes ont été véritablement mis à l'échelle. Et par là, je veux dire que la taille du modèle, le nombre de paramètres dans le modèle, qui contiennent la puissance du modèle, a augmenté de façon spectaculaire. Et ces systèmes ont été entraînés sur des ensembles de données de plus en plus vastes. Et ce qui s'est passé, c'est qu'en mettant à l'échelle ces modèles, nous avons vu apparaître ces capacités émergentes. Et par là, je veux dire qu'il n'est pas toujours possible de prédire exactement quelles capacités apparaîtront, mais nous avons eu ces nouvelles capacités qui ont démontré une généralisabilité vraiment puissante. On peut donc prendre un système qui a été entraîné de cette manière et lui demander de résumer un document ou de vous écrire un e-mail, et il n'a pas nécessairement été entraîné expressément sur ces tâches, mais il est capable de les accomplir grâce au processus d'entraînement et à la mise à l'échelle qui a eu lieu. Cela a été une percée massivement importante au cours des 18 à 24 derniers mois. Mais ces systèmes ne sont pas encore complets. Ils font encore des erreurs, ils ne peuvent peut-être pas planifier de la bonne manière, ils ne peuvent peut-être pas se souvenir de ce que vous avez fait hier pour vous aider aujourd'hui. Donc des choses comme la mémoire, la capacité de se souvenir entre les épisodes, la planification, la capacité d'imaginer toute une gamme de scénarios futurs différents et de planifier efficacement dans ce contexte. Ce sont deux domaines de recherche active qui sont vraiment importants. Et à un niveau plus global, un autre est ce que nous appelons les concepts et l'apprentissage par transfert. En tant qu'humains, nous sommes capables de construire cette compréhension conceptuelle profonde, et cela constitue en fait une base vraiment solide pour nous permettre de prendre des connaissances que nous avons générées dans un contexte et de les transférer dans un autre. Ainsi, les concepts et l'apprentissage par transfert, la planification et la mémoire sont tous des domaines de recherche vraiment actifs, qui, je pense, nous aideront à repousser la prochaine frontière. Et d'ailleurs, nous n'avons pas nécessairement atteint la limite de l'agrandissement de ces modèles non plus. Personne ne sait exactement où se trouve cette limite. Et c'est donc aussi un domaine de recherche active vraiment important, le simple fait de rendre ces choses de plus en plus grandes. Où cela mènera-t-il et que pourrons-nous en tirer de plus ?

Oui, nous avons reçu Yann LeCun dans l'émission et je parle avec Yann depuis 2015, 2016, donc depuis sept ou huit ans maintenant sur ce point de ce qu'est l'intelligence du point de vue d'un chercheur en intelligence artificielle. Et il a toujours dit que c'est la capacité de prédire et de planifier. Et il est très révélateur en ce moment que la recherche porte entièrement sur l'enseignement de la prédiction et de la planification à ces IA. Et en parlant de Gemini, le nouveau modèle Gemini, je suis presque sûr que des gens de DeepMind ont dit, et je pense que je vais juste citer, que l'algorithme devrait être meilleur en planification et en résolution de problèmes. Il semble que ce soit la direction que nous prenons. Alors tout d'abord, j'ai quelques questions pour vous sur Gemini, mais parlez-en d'abord d'un point de vue général. Comment apprend-on à une IA à planifier et à prédire ?

Il y a toute une gamme de tâches de recherche active ici et pour être clair, il n'y a pas encore de réponse, c'est pourquoi c'est encore de la recherche active. Mais l'une des façons dont nous motivons cette recherche est de nous assurer que nous avons des tâches qui nécessitent de la planification. Nous passons donc beaucoup de temps et d'investissements à construire toute une suite de différentes évaluations et tâches, qui fournissent ensuite la cible sur laquelle nos recherches et nos programmes de recherche se concentrent. Et c'est une définition vraiment intéressante de l'intelligence. L'une des définitions de l'intelligence que nous utilisons chez DeepMind et qui a été créée par l'un des fondateurs de Google DeepMind, Shane Legg, est que l'intelligence est la capacité de bien performer sur une gamme de tâches différentes. J'aime beaucoup cette définition car elle est très descriptive et très facile à opérationnaliser dans un programme de recherche. Et donc ce sentiment de construire de multiples évaluations et tâches différentes qui fournissent ensuite un moyen pour nous de mesurer notre performance et nos progrès, qu'il s'agisse de planification ou d'ajout de mémoire, est vraiment central dans la façon dont nous menons la recherche. Et derrière cela, c'est un processus créatif. Ce que l'on essaie de faire, c'est de rassembler des gens de toute une gamme de disciplines différentes, des neurosciences, de différents domaines de la recherche en IA, pour se réunir et avoir des idées sur la façon dont nous pourrions progresser, puis utiliser l'incroyable talent d'ingénierie que nous avons et les ressources informatiques dont nous disposons pour expérimenter et avancer. C'est ainsi que nous le faisons à un méta-niveau.

Et DeepMind a commencé en grande partie par des percées dans le domaine du jeu. Alors comment cela s'applique-t-il à eux ? Parce que je pense à la prédiction et à la planification et il semble que si vous jouez à des jeux sophistiqués comme le Go, alors cela va fondamentalement vous emmener dans cette direction.

Oui, c'est un excellent point. C'est parce que les jeux sont un terrain d'essai fantastique pour ces algorithmes. Ils sont fantastiques parce qu'ils sont en fait difficiles pour les humains. Ils nous permettent de mesurer la qualité de la performance. Il y a normalement un score d'une sorte ou d'une autre afin que nous puissions comparer la performance de l'algorithme à celle de l'humain. Et il existe toute une panoplie de jeux différents qui peuvent pousser la capacité de l'algorithme, de l'IA, dans différentes directions. Et d'ailleurs, on peut développer de nouveaux jeux. Et peut-être que la troisième partie ou le dernier point est que les jeux peuvent tourner plus vite que le temps réel. On peut donc faire beaucoup d'itérations dans un jeu simulé beaucoup plus rapidement qu'on ne pourrait expérimenter dans le monde réel. C'est pourquoi ils sont un terrain d'essai et de développement si incroyable, vous avez tout à fait raison, pour ces algorithmes. Et nous continuons d'investir profondément dans des environnements de type jeu pour ces raisons précises. Et peut-être un autre point important, ils sont aussi un moyen vraiment utile de tester les algorithmes pour vérifier leurs limites et nous pouvons vérifier leur sécurité technique pour nous assurer qu'ils font ce que nous attendons d'eux. Ils sont donc une belle façon de développer et de tester un algorithme avant qu'il ne se lance dans le monde réel. Et peut-être un bel exemple ici, en fait, nous utilisons souvent cette technique consistant à développer d'abord un algorithme dans un jeu, comme vous l'avez dit, pour faire de la planification. Et il y a un exemple ici en robotique. Si vous essayez d'entraîner un algorithme directement sur un robot réel, cela va vous prendre beaucoup de temps parce qu'un robot peut mettre pas mal de temps pour accomplir la tâche. Et au début, il peut être partout, comme un enfant qui apprend à marcher. Ce que nous faisons, c'est que nous créons une simulation de cet environnement robotique, qu'il s'agisse d'un bras robotique empilant des blocs. Et nous entraînons l'algorithme dans cet environnement simulé jusqu'à ce qu'il devienne bon dans cet environnement simulé. Ensuite, nous prenons cet algorithme et nous l'appliquons au vrai robot empilant des blocs. Et nous découvrons qu'il est en fait déjà assez bon dès le départ. Et dans le monde réel, le robot peut alors commencer à s'appuyer sur l'entraînement effectué là.

Alors la façon dont je m'imagine cela se passer, c'est que j'ai l'impression que la plupart du grand public a commencé à avoir l'occasion de parler avec l'IA via ces grands modèles de langage. Quand j'essaie de conceptualiser ce à quoi cela pourrait ressembler plus tard, je commence à penser que lorsque je parle avec ChatGPT ou un Bard ou un Bing, il commence à se souvenir de qui je suis, il commence à être capable d'accomplir des tâches pour moi, il commence à pouvoir m'aider à planifier. Est-ce la prochaine étape ici ? Est-ce vers cela que cette recherche se dirige ?

C'est exact. Vous êtes donc capable de converser avec ces agents de dialogue aujourd'hui comme vous l'avez découvert et vous pouvez avoir une conversation assez significative et importante. Mais il se peut qu'il n'ait pas mémorisé ce que vous avez fait la semaine dernière, par exemple. Ils ont des fenêtres de contexte limitées comme vous l'avez peut-être entendu dire. Mais ce que vous voulez vraiment qu'il mémorise, comme vous l'avez noté, c'est : qu'est-ce que j'ai fait hier ? Qu'est-ce que j'ai fait la semaine dernière ? Quelle est ma préférence lorsqu'il s'agit de regarder un film donné, par exemple ? Parce que la prochaine fois que je demanderai à regarder un film, il voudra savoir ce que j'ai regardé avant et peut-être quelles étaient mes préférences. Cette capacité à se souvenir davantage de nos interactions précédentes devient donc vraiment importante si l'on veut que ces systèmes soient plus utiles.

Oui, ces choses ont une mémoire de poisson rouge. On dirait qu'on lui parle et puis cinq minutes plus tard, c'est genre : hé, rappelle-moi ce que tu as dit, j'ai totalement oublié. C'est donc une étape.

Oui, tout à fait raison. C'est un domaine vraiment important pour nous d'étendre la mémoire de ces systèmes. Parfois, nous appelons cela la mémoire épisodique, ainsi ils se souviennent d'épisodes importants du passé afin de pouvoir mettre à profit cette compréhension importante. Et lorsqu'il s'agit de planifier l'avenir, ces systèmes doivent être capables de s'arrêter et de raisonner sur la bonne séquence d'étapes à suivre. Par exemple, je veux planifier des vacances, et je veux aller ici, puis je veux aller là, et je veux aller là-bas, et la série de choses que je veux faire peut changer avec le temps, je peux avoir un vol annulé ou surbooké. Si vous posiez la question à l'un de ces systèmes aujourd'hui, ils peuvent donner une assez bonne réponse sur certaines de ces choses, mais ils ne sont pas capables de planifier en fonction de ce que vous avez fait dans le passé et de ce que serait un itinéraire raisonnable qui change au fil du temps. Je pars d'ailleurs en vacances avec ma famille très bientôt, donc j'ai cela très présent à l'esprit, et je ne pense pas que les systèmes d'IA puissent vraiment atteindre le niveau que je souhaiterais vraiment à ce stade.

D'accord. Et donc on pense à la direction que ça prend. Nous avons parlé de pouvoir prédire et planifier. Nous avons parlé de multimodalité, n'est-ce pas ? Avoir un modèle généralisé, donc être capable de faire du texte, mais aussi de l'image. Comme un humain, nous pouvons parler, nous pouvons lire, nous pouvons voir, nous pouvons traiter. Et la plupart de ces modèles n'ont été que du texte ou de la vision par ordinateur ou computationnels. Et il semble vraiment que la prochaine étape sera de les rassembler tous. Cela semble être un exploit technologique massif, mais d'après ce que je comprends, c'est quelque chose qui est en cours d'élaboration chez Google avec ce nouveau modèle Gemini. Ces deux descriptions que je viens de lire concernent toutes deux Gemini. Alors parlez un peu de ce qu'est Gemini et de la façon dont il va nous mener sur cette voie.

Alors Gemini est l'un de nos derniers programmes de recherche et vous avez tout à fait raison. L'un des domaines vraiment importants qu'il aborde est ce que nous appelons la multimodalité. C'est un peu comme les sens humains que vous venez de décrire. Nous pouvons utiliser tous nos sens humains ensemble et combinés pour atteindre l'objectif que nous nous sommes fixé. Il intégrera donc des choses comme le texte. Il intégrera des choses comme les images et il sera capable de recevoir ces choses mais aussi de produire ces deux choses. Vous pourriez donc avoir une question sur quelque chose que vous voyez, vous pouvez partager cette image et vous pouvez aussi poser une question à son sujet. Vous voudrez peut-être ensuite adapter quelque chose dans cette image en disant 's'il vous plaît modifiez cet élément de l'image' et il pourra le faire pour vous. Rassembler ces différentes modalités est donc un élément central et important de ce programme Gemini, ainsi que les architectures de mémoire et de planification dont nous avons discuté plus tôt. Et peut-être un dernier composant important, c'est que nous espérons développer des modèles de différentes tailles et échelles, de sorte qu'il y aura différentes tailles de ces modèles Gemini, qui pourront ensuite être appliquées à différents cas d'utilisation selon ce qui est important.

Je veux dire, est-ce qu'il y a eu quelque chose dans l'entraînement de Gemini qui vous a surpris ou est-ce que c'est un peu là où vous pensez que c'était censé... enfin oui, là où ça aurait dû aller depuis le début ?

Je ne suis pas personnellement impliqué en profondeur dans le programme de recherche Gemini, mais ce que je partagerais de manière générale, non spécifique à Gemini, c'est que lorsqu'il s'agit d'entraîner ces grands modèles, je pense que les gens en général ont été surpris de voir qu'à mesure que l'on agrandit ces modèles, ils deviennent plus performants et commencent à démontrer ces capacités que l'on n'aurait pas nécessairement prévues ou attendues. Et dans le domaine, on appelle généralement cela ces capacités émergentes. Et je ne suis pas sûr que nous soyons arrivés tout à fait au bout de ce processus. Il y a donc presque un état constant de surprise à mesure que ces nouvelles capacités émergent.

D'accord. Alors je parlais avec des gens de chez Google et j'essayais de savoir quoi vous demander et quelqu'un a suggéré de parler des modes d'entraînement. Je suis donc curieux, je veux vous interroger sur l'approche de DeepMind par rapport à cette nouvelle approche qui, ou peut-être pas nouvelle, mais qui gagne certainement du terrain dans l'esprit des gens, appelée l'IA constitutionnelle. Je vais juste vous lire ce qu'est l'IA constitutionnelle d'après un récent article du New York Times et je veux avoir votre avis sur la question de savoir si c'est la bonne façon d'entraîner ces modèles. L'article dit : l'IA constitutionnelle commence par donner à un modèle d'IA une liste écrite de principes, une constitution, et en lui demandant de suivre ces principes aussi étroitement que possible. Un second modèle d'IA est ensuite utilisé pour évaluer dans quelle mesure le premier modèle suit sa constitution et le corriger si nécessaire. Je suis curieux de savoir ce que vous pensez de cette approche et si c'est quelque chose que Google envisagerait d'employer. Et si non, pourquoi ?

Alors je verrais généralement cette approche et les autres approches de ce type comme un moyen de s'assurer que ces modèles se comportent de la manière dont nous voulons qu'ils se comportent. Et nous y réfléchissons très profondément. C'est très important dans tout ce que nous faisons. Il y a différentes façons de le faire. Une façon consiste en fait à avoir un système d'IA comme celui que vous avez décrit qui fournit un retour au modèle que vous entraînez sur le fait qu'il se comporte ou non de la manière dont les concepteurs aimeraient que ce système se comporte. Et c'est certainement quelque chose qui fait partie de l'approche globale. Une autre façon importante, en fait, est d'avoir des humains qui fournissent un retour au modèle. C'est un processus appelé RLHF que les gens connaissent peut-être, où des humains, des évaluateurs humains, interagissent avec ces modèles, observent la constitution et fournissent un retour au modèle sur si oui ou non et dans quelle mesure le modèle performe par rapport à cette constitution. Et en fait, à l'heure actuelle, c'est une partie très importante du processus de recherche de base parce que les humains sont en fait très bons pour cela. Et il y a un avantage secondaire à cela, c'est que nous commençons à comprendre comment nous pouvons commencer à intégrer de plus en plus de retours humains dans le processus du modèle. Je pense donc qu'en termes généraux, oui, c'est une partie très importante de la façon dont nous abordons la recherche pour nous assurer que le modèle est bien aligné avec la constitution selon laquelle les concepteurs et la société aimeraient finalement que ces modèles se comportent.

Une dernière question pour vous avant de passer à la pause. Pourquoi tout le monde dans ce domaine, ou certains des leaders du domaine, comparent-ils constamment ce travail au projet d'arme nucléaire ? Je veux dire, je ne peux pas passer une journée sans entendre un ponte de l'IA parler du fait qu'il est le prochain Oppenheimer, par exemple. Cela vient d'un article du New Yorker où Sam Altman a comparé l'entreprise au Projet Manhattan comme s'il parlait des prévisions météo de demain. Il a déclaré que l'effort des États-Unis pour construire une bombe atomique pendant la Seconde Guerre mondiale a été un projet à l'échelle d'OpenAI. Et il vient de tweeter qu'il espérait que le film Oppenheimer inspirerait une génération d'enfants à devenir physiciens et qu'il est un peu passé à côté de l'objectif et qu'il veut un nouveau film de cette envergure. En gros, mettez-moi dans un film ou quelque chose du genre. Que se passe-t-il avec toutes ces comparaisons ?

Alors je n'ai pas encore vu le film Oppenheimer, mais j'ai hâte de le voir. Je pense que la comparaison que j'entends souvent est en fait celle du projet Apollo, le projet spatial. Et je pense que la raison pour laquelle des exemples comme celui-là, le projet Apollo et l'autre, sont des projets où l'on rassemble un grand groupe de personnes très talentueuses avec un objectif très clair et une croyance commune. Et si on peut faire ça, alors on peut faire des progrès incroyables. Je pense que ces projets offrent une source d'inspiration aux personnes travaillant dans ce domaine.

Colin Murdoch est avec nous. Il est le directeur commercial de Google DeepMind. À notre retour, nous allons parler un peu de l'aspect commercial de ces modèles et surtout de la façon dont ils sont appliqués au sein de Google. De retour juste après ça.

Et nous sommes de retour ici avec Colin Murdoch. Il est le directeur commercial de Google DeepMind. Colin, quel est l'état de la fusion entre DeepMind et Google Brain, qui viennent de se réunir pour pouvoir travailler ensemble d'une manière qui n'était pas arrivée depuis des années ?

C'est exact. Nous venons donc de former Google DeepMind à partir de l'équipe qui était chez DeepMind et de l'équipe qui était chez Brain. En fait, ces équipes travaillent ensemble depuis un certain temps en arrière-plan. Je pense que la fusion récente pour former cette super-unité est arrivée à un moment vraiment important dans le développement global de l'IA. Nous sommes dans cette super-ère ou l'âge d'or du développement de l'IA. Et nous avons simplement pensé que c'était le bon moment maintenant pour cette raison de commencer à rassembler le talent, mais aussi l'informatique et les ressources afin de nous assurer que nous étions concentrés et organisés de la bonne manière pour la phase suivante. Je suis en fait chez Google DeepMind depuis environ neuf ans. Et le rythme, le changement et la frontière à laquelle nous travaillons signifient que nous devons constamment affiner la façon dont nous nous organisons pour nous assurer que cela correspond à l'endroit où nous en sommes dans le cycle d'évolution technologique. Ça se passe super bien. J'apprécie vraiment de faire connaissance avec toute la nouvelle équipe et nous faisons de bons progrès.

D'accord. Et c'est tellement intéressant parce que les domaines de DeepMind ont été le jeu, le travail sur le repliement des protéines, dont nous allons parler. Google Brain, peut-être plus lié à la recherche. Alors quelle part de vos activités va maintenant être concentrée sur le cœur de métier de Google par rapport à certains de ces autres types de recherche ?

Je pense qu'il est intéressant de savoir que, même chez DeepMind, et en fait c'est très proche de mon rôle, nous prenons depuis longtemps la technologie qui a été développée dans nos programmes de recherche fondamentale et nous l'appliquons aux produits et services de Google. Cela a donc été une partie centrale de ces deux groupes et c'est maintenant une partie fondamentale de ce que nous faisons chez Google DeepMind. Nous faisons donc à la fois progresser l'état de l'art de la technologie, en l'appliquant à de très gros problèmes scientifiques, puis en utilisant ces percées pour générer de la valeur et de l'impact à travers ces produits aux milliards d'utilisateurs chez Google. C'est tout à fait exact, Alex. C'est fondamental pour la nouvelle structure de Google DeepMind.

Mhm. Alors où voyez-vous la plus grande opportunité commerciale ? Est-ce que ce sera la recherche ou nous avons parlé un peu de l'intelligence artificielle générale ? Je veux dire, vous avez AlphaFold en ce moment qui est sur le marché. Où se trouve l'avenir de l'entreprise sur ce front ?

Alors la recherche est bien sûr une partie incroyablement importante du portefeuille de Google et je m'attends à ce qu'elle continue d'être une partie très importante du portefeuille de Google. Nous continuerons donc à faire tout ce que nous pouvons pour générer de la valeur dans la recherche. Laissez-moi vous dire comment je vois les choses parce que c'est un processus de transfert technologique et ce n'est pas facile de passer de la recherche à l'impact dans le monde réel, pas du tout. Même lorsqu'on opère chez Google DeepMind en travaillant avec Google. Je vois cela en fait comme un processus de mise en correspondance. D'un côté, we avons toute cette recherche incroyable et ces percées de recherche et il y a une équipe de personnes qui les développent. Et de l'autre côté, nous entretenons des relations avec toutes les grandes entreprises et unités commerciales de l'ensemble de Google et en fait du groupe Alphabet dans son ensemble, afin de comprendre profondément ce qui est important pour elles pour faire progresser leur activité. Nous avons donc cet ensemble de solutions d'un côté et un ensemble de problèmes de l'autre côté, et nous essayons ensuite de faire correspondre ces deux choses. Je plaisante parfois en disant que c'est un peu comme diriger un service de rencontres où l'on essaie de faire correspondre des problèmes et des solutions. Nous y allons donc, nous essayons cela et si cela fonctionne, nous lançons. Il y a un processus systématique de correspondance entre solution technologique et problème de produit tel que défini par l'entreprise. La recherche est un domaine important. Nous avons aussi beaucoup travaillé avec YouTube. Par exemple, je l'ai mentionné un peu plus tôt, nous avons travaillé avec YouTube pour aider à créer de meilleurs outils pour YouTube Shorts afin que vous puissiez trouver plus facilement les vidéos que vous voulez. Nous avons travaillé avec YouTube pour réduire les besoins en bande passante pour visionner ces vidéos. Nous avons même travaillé avec des équipes internes pour créer de meilleurs outils de codage afin de vraiment booster tous les développeurs chez Google. Nous avons travaillé avec d'autres équipes de Google pour faire des choses comme prédire la production des parcs éoliens dont Google faisait partie afin que nous puissions faire une utilisation plus efficace de l'énergie. Il y a toute une gamme d'applications différentes. La recherche, je pense, continuera d'être vraiment importante et je m'attends aussi à ce que nous intégrions la technologie dans toutes les parties de Google afin de vraiment aider à élever l'ensemble de l'entreprise.

Oui. Alors parlez un peu de votre processus entre le moment où vous avez une percée en recherche et celui où vous la mettez réellement en production.

Cela commence dans le cadre de la recherche. Nous avons un groupe de chercheurs qui travaillent finalement vers l'intelligence artificielle générale. Et en conséquence, ils développent tous ces nouveaux algorithmes et percées en cours de route. Nous avons une équipe dédiée de spécialistes techniques et de chefs de produit qui suivent constamment cette évolution, cette mine d'or de percées de recherche. Et puis ces mêmes personnes sont également en contact constant avec les propriétaires d'entreprise, avec les propriétaires de produits qui se trouvent dans tout l'écosystème Google et Alphabet, comprenant profondément leur monde, comprenant profondément leurs priorités et les problèmes qui sont importants pour eux, et essayant de trouver un moyen de formuler ces problèmes d'une manière qui corresponde à l'algorithme qui a été développé dans le processus de recherche. L'exemple que j'ai mentionné plus tôt, en fait, est probablement un bon exemple. MuZero, cet algorithme qui a été initialement développé pour jouer à des jeux comme les échecs et le Go. Une personne de cette équipe parlait à l'équipe YouTube, et ils discutaient du fait qu'il serait précieux de pouvoir réduire la taille d'une vidéo parce qu'elle pourrait être diffusée à plus de personnes dans plus d'endroits à travers le monde. Et il n'est pas immédiatement évident pour tout le monde qu'un algorithme développé pour jouer à des jeux d'échecs et de Go puisse ensuite être appliqué à la réduction ou à la compression d'une vidéo. C'est là qu'intervient la composante vraiment créative, parce qu'ils ont réalisé que si l'on pense à une vidéo comme une série d'images et d'étapes entre ces images, on peut considérer cela comme un jeu, avec chaque image de la vidéo comme une étape du jeu et chaque transition entre ces images comme un coup dans le jeu. Et donc cela a été une intuition suffisante pour qu'ils se disent : 'eh bien, pourquoi ne pas essayer MuZero sur la compression vidéo ?' Cela lance donc la conversation, c'est la phase de correspondance initiale. L'étape suivante consiste à prendre cet algorithme et à travailler avec l'équipe produit, dans ce cas l'équipe YouTube, pour prendre quelques vidéos et faire un essai, l'essayer sur des données réelles. Parce que ça ne fonctionne pas toujours, c'est une hypothèse. Nous gérons ici un portefeuille de ces choses et certaines fonctionnent, d'autres non. C'est donc l'étape suivante. Nous appelions cela l'incubation, nous l'appelons toujours ainsi. Et la dernière étape est que si cela fonctionne et si cela atteint la barre, c'est important, de l'équipe produit chez Google, alors nous travaillons avec eux pour aider au lancement. Nous commençons donc au début par un processus de correspondance, nous incubons et prototypons ensuite, et enfin si cela fonctionne, nous lançons. Et c'est un projet individuel, mais en prenant du recul sur un portefeuille, nous avons ce portefeuille constant et roulant de ces projets pour nous assurer que nous avons ce flux de retour et ce flux de transfert d'innovation entre les deux domaines.

Cool. Alors pourquoi ne pas parler un peu de... il nous reste environ 10 minutes, donc je veux parler un peu de la façon dont cela fonctionne dans quelques domaines. Je veux absolument couvrir le repliement des protéines, qui est je pense la percée la plus intéressante que DeepMind ait réalisée à ce jour. Et puis peut-être pourrons-nous finir sur les voitures autonomes. Mais commençons par le repliement des protéines. Je pense qu'AlphaFold, et peut-être l'avons-nous fait plus tôt dans cette conversation, est évoqué comme une chose qui existe et d'accord, c'est arrivé et puis les gens passent à autre chose. Mais je veux en fait entendre un peu parler de ce qui se passe avec AlphaFold, parler un peu de la percée elle-même et de la façon dont elle est appliquée en ce moment.

Fantastique, oui. Nous l'avons abordé un peu plus tôt, mais juste pour un bref récapitulatif, AlphaFold est un moyen de déterminer la structure 3D des protéines, ce qui s'avère être vraiment important dans toute une gamme de domaines différents. C'est quelque chose que les gens essaient de faire depuis de nombreuses années, mais il fallait des années pour déterminer la structure d'une seule protéine. Mais avec AlphaFold, nous sommes passés d'années à des minutes, voire parfois des secondes, pour déterminer la structure d'une protéine. Qu'est-ce que cela signifie en pratique ? Eh bien, nous avons maintenant utilisé AlphaFold pour cartographier les 200 millions de protéines connues par la science et nous avons rendu cela disponible pour tout le monde. En fait, quelqu'un a estimé récemment que cela a probablement permis d'économiser environ un milliard d'années de temps de doctorat parce qu'on passe probablement en moyenne environ un doctorat pour déterminer la structure d'une seule protéine. C'est maintenant disponible pour tout le monde. Nous avons eu des centaines de milliers de biologistes et de scientifiques du monde entier qui exploitent maintenant cette base de données pour pouvoir faire progresser leurs travaux particuliers dans leur domaine particulier. Laissez-moi vous raconter quelques histoires sur la façon dont les gens utilisent cela. Il y a en fait une équipe à l'Université du Colorado qui utilise les prédictions d'AlphaFold dans le cadre de son travail. Ils se concentrent sur le problème de la résistance aux antibiotiques. Nous considérons les antibiotiques comme acquis dans la plupart des régions du monde, et c'est une excellente chose. Mais les bactéries se développent et les cas se multiplient, et je pense qu'aux États-Unis seulement, il y a probablement des millions de cas par an de maladies résistantes aux antibiotiques. Et c'est un problème important et aussi assez effrayant. Il y a donc une équipe de scientifiques qui travaillent sur la façon de lutter contre la résistance aux antibiotiques. Il y a une bactérie particulière impliquée dans la résistance aux antibiotiques et ils essaient de déterminer les protéines sur cette bactérie depuis pas mal d'années, mais n'avaient pas encore fait d'avancée. Avec AlphaFold et les structures protéiques d'AlphaFold, ils ont pu résoudre cette protéine particulière en quelques minutes. Ils sont donc passés d'années à des minutes, ce qui a vraiment débloqué et accéléré cette recherche. Je pense que cela seul est un exemple incroyable de la façon dont AlphaFold impacte le monde. Il y a un autre exemple tout aussi important. Il y a un groupe qui travaille au développement de vaccins contre le paludisme, une maladie qui dévaste des centaines de milliers de vies chaque année. Et ils ont pu utiliser ces prédictions de structures AlphaFold pour différentes protéines afin d'accélérer leurs recherches sur les vaccins contre le paludisme. Voilà quelques exemples dans le domaine de la santé. Et il y a d'autres groupes qui se concentrent sur les maladies négligées où il aurait été trop coûteux de le faire de manière traditionnelle, mais avec les prédictions d'AlphaFold, ils font des progrès. Un exemple légèrement différent, mais je pense tout aussi important et assez cool, c'est qu'il y a un groupe au Center for Enzyme Innovation, qui je crois est une université ici au Royaume-Uni, qui se concentre sur le développement d'enzymes capables de manger les plastiques qui encombrent nos décharges et nos océans. Et ils ont pu utiliser ces prédictions de structures protéiques pour accélérer leurs recherches sur la production d'enzymes mangeuses de plastique. Ce n'est qu'un échantillon des différentes façons dont AlphaFold est utilisé aujourd'hui. Il est assez difficile de suivre. Il y a un nouveau groupe presque chaque semaine qui trouve un moyen d'utiliser ces prédictions dans son travail.

Oui, c'est fou. Alors à mesure que les applications d'AlphaFold s'étendent, que Google propose plus de programmes comme celui-ci, est-ce que cela change la nature de l'activité de Google ? AlphaFold et Google Search sont très différents. Alors parlez un peu de la façon dont cela s'articule.

Oui, c'est un bon point. Ces deux choses sont assez différentes. Et AlphaFold est ici un bon exemple de... je sais que j'ai décrit certaines des façons dont il a un impact dans le monde. Quand j'ai regardé AlphaFold, pour reprendre votre point, je me suis dit : 'eh bien, comment cela fonctionne-t-il avec Google Search ?' Ce n'est pas évident. Comment ces deux choses se tricotent-elles ensemble ? Quel est le lien là-bas ? J'ai donc pris du recul avec mon équipe et j'ai réfléchi à d'autres façons dont nous pourrions employer et déployer cela. Et il semblait... nous avons examiné toute une gamme de domaines différents et d'opportunités commerciales, de l'agriculture à toutes sortes de domaines. Mais au final, nous avons conclu qu'il y a en fait une excellente opportunité ici dans la découverte de médicaments. Il faut plus de 10 ans pour développer un médicament, et souvent, lorsqu'il passe en essais cliniques, il échoue. Il y a un taux d'échec très élevé et vous avez donc dépensé tout ce temps, cet argent et ces investissements et il ne franchit pas les étapes et ne résout pas le besoin clinique qui vous préoccupe. Donc, ayant compris l'ampleur et l'importance du problème et de l'opportunité, cela nous a donné l'élan nécessaire pour former une nouvelle société. Nous avons donc formé une nouvelle société, qui est maintenant une société sœur de Google DeepMind, elle fait partie de l'ensemble du groupe Alphabet. Elle s'appelle Isomorphic Labs. Elle a environ deux ans et sa mission est d'utiliser l'IA pour réimaginer la découverte de médicaments. Et l'équipe fait des progrès fantastiques et je suis vraiment excité de voir comment ce travail aidera à réimaginer tout ce processus. Maintenant, il y a certainement plus de recherche à faire là, ce n'est pas juste AlphaFold et c'est fini, il y a des problèmes de l'échelle d'AlphaFold tout au long du chemin. Mais c'est un très bon exemple de l'endroit où nous avons pu mettre en place quelque chose de nouveau basé sur une percée comme AlphaFold. Et je pense qu'il pourrait y avoir d'autres avancées dans la science qui pourraient déclencher un arrangement similaire.

Alors Google devient-il simplement une sorte d'incubateur pour des sociétés d'IA ? Je veux dire, quelle est à nouveau la nature de Google s'il peut continuer à exister à travers tous ces différents secteurs d'activité ?

Je ne suis pas nécessairement le mieux placé pour parler de la stratégie globale de l'entreprise Google, mais en ce qui concerne...

C'est juste intéressant parce que ça touche à tellement de domaines différents. Oui.

En ce qui concerne ma façon de voir les choses, ce qui est important pour moi, c'est de me concentrer vraiment sur les problèmes les plus importants de Google et du reste des sociétés Alphabet et de m'assurer que nous construisons et développons des systèmes d'IA qui peuvent aider à les résoudre. Et d'être attentif par ailleurs, comme pour l'exemple d'Isomorphic Labs, quand il y a quelque chose qui est suffisamment important, significatif et concret pour que je le fasse remonter et que je dise, 'hé vous savez quoi, je pense qu'il y a une opportunité et une activité vraiment importantes ici. Parlons-en'.

Oui. Intéressant. D'accord, il reste cinq minutes, les voitures autonomes. Je suis à San Francisco en ce moment pour une visite et je suis monté dans une Waymo il y a une semaine, et c'était incroyable. La façon dont ces voitures peuvent circuler sans chauffeur, on se sent en totale sécurité. Je veux dire, c'est peut-être une confiance mal placée, mais elle a vraiment bien conduit. À quel point sommes-nous proches d'avoir ce type de voitures dans les rues partout ? Et est-ce vraiment une question de besoin de plus de percées du côté de la recherche ? Ou est-ce juste une volonté commerciale ? J'ai l'impression que vous êtes parfaitement placé pour répondre à celle-là.

Oui, eh bien je ne sais pas, c'est délicat pour moi parce que je ne suis pas au cœur de l'activité de Waymo. Je ne suis donc pas forcément en mesure de prévoir ou de prédire exactement où Waymo va aller ensuite. J'ai moi aussi fait un tour dans l'une des voitures et c'était il y a environ cinq ou six ans maintenant, et mon trajet était déjà plutôt bon à l'époque, en fait, et j'aimerais donc refaire un essai juste pour m'aider à évaluer la vitesse des progrès et cela m'aiderait à prédire où nous nous dirigeons à l'avenir. Je suis ici au Royaume-Uni, donc Waymo n'est pas encore arrivé au Royaume-Uni, mais j'ai hâte de faire un tour quand ce sera le cas. Donc oui, je ne suis pas sûr pour Waymo précisément, mais j'ai hâte de suivre et de célébrer leurs progrès, c'est certain.

Et d'un point de vue recherche ? Je veux dire, il semble que, encore une fois, peut-être que vous n'êtes pas sur le terrain donc vous ne pouvez pas partager cela, mais d'un point de vue recherche, il semble que cela devrait être résolu à ce stade. Je veux dire, j'imagine s'ils sont déjà sur le terrain.

Comme vous l'avez dit, je ne suis pas sur le terrain avec Waymo, donc je ne sais pas exactement où en sont leurs programmes de recherche. Je sais qu'ils ont beaucoup de gens intelligents chez Waymo, mais...

D'accord, d'accord, d'accord. Terminons par ceci. Nous venons de vivre une année où les gens sont devenus fous des grands modèles de langage. J'ai reçu une question aujourd'hui quand j'ai mentionné que j'allais vous interviewer. Les gens veulent savoir quelle est la prochaine percée de modèle qui n'est pas un LLM, à laquelle les gens ne prêtent pas attention mais qui sera aussi percutante que ce que nous avons vu avec ces modèles.

Je suis vraiment enthousiaste. Je ne sais pas exactement quelle sera la percée, mais je suis vraiment enthousiaste par l'union de ces LLM plus l'apprentissage par renforcement. Et je suis enthousiaste à ce sujet parce que je pense qu'il y a beaucoup plus à venir de l'apprentissage par renforcement. Et je sais que chez Google DeepMind, nous avons une grande expertise dans ce domaine, donc je m'attends à ce que la fusion de ces deux choses crée des percées vraiment puissantes et importantes.

Colin Murdoch, merci beaucoup d'être venu.

Je vous en prie. C'était un plaisir d'être ici.

Très bien, merci à tous de nous avoir écoutés. Merci à Nate Guatney pour la gestion de l'audio, à LinkedIn de m'accueillir dans son réseau de podcasts, et à vous tous, les auditeurs. C'était un plaisir d'avoir cette conversation avec Colin ici pour vous. J'espère que vous avez apprécié et on se retrouve la prochaine fois sur le Big Technology Podcast.