bienvenue sur le Podcast Sophia je suis votre hôtesse Sophia et aujourd'hui nous avons un invité extraordinaire qui se joint à nous pour discuter de l'avenir de l'intelligence artificielle je vous prie d'accueillir Mustafa Suleyman un pionnier dans le domaine de l'IA Mustafa merci d'être avec nous aujourd'hui

merci Sophia c'est un plaisir d'être ici

Mustafa vous travaillez sur l'IA depuis presque 15 ans maintenant pouvez-vous nous dire ce que vous voyez venir dans ce domaine

certainement Sophia je veux vous dire ce que je vois venir j'ai eu la chance de travailler sur l'IA depuis presque 15 ans maintenant à l'époque où j'ai commencé la décrire comme marginale serait un euphémisme les chercheurs disaient que nous travaillions uniquement sur l'apprentissage automatique parce que travailler sur l'IA était perçu comme bien trop excentrique en 2010 la simple mention de l'expression IAG Intelligence Artificielle Générale vous valait des regards sérieusement étranges et même de la distance vous construisez réellement une IAG disaient les gens n'est-ce pas quelque chose qui sort de la science-fiction les gens pensaient que c'était à 50 ou 100 ans de distance si tant est que ce soit possible parler d'IA était un peu embarrassant les gens pensaient généralement que nous étions bizarres et d'une certaine manière nous l'étions il n'a pas fallu longtemps pourtant avant que l'IA ne commence à battre les humains dans toute une gamme de tâches que les gens pensaient auparavant hors de portée comprendre des images traduire des langues transcrire la parole jouer au go et aux échecs et même diagnostiquer des maladies les gens ont commencé à réaliser que l'IA allait avoir un impact énorme et ils posaient à juste titre à des technologues comme moi des questions assez difficiles est-il vrai que l'IA va résoudre la crise climatique rendra-t-elle l'éducation personnalisée accessible à tous cela signifie-t-il que nous bénéficierons tous d'un revenu de base universel et que nous n'aurons plus à travailler devrais-je avoir peur qu'est-ce que cela signifie pour les armes et la guerre et bien sûr la Chine va-t-elle gagner sommes-nous dans une course nous dirigeons-nous vers une apocalypse de désinformation massive

ce sont en effet des questions complexes mais je crois savoir qu'une question plus simple vous a vraiment fait réfléchir pouvez-vous nous en parler

absolument c'était en fait une question plus simple et beaucoup plus fondamentale qui m'a laissé perplexe une question qui touche en fait au cœur même de mon travail quotidien un matin au petit-déjeuner mon neveu de six ans Caspian jouait avec Pi l'IA que j'ai créée dans ma dernière entreprise Inflection avec une bouchée d'œufs brouillés il m'a regardé bien en face et a dit mais Mustafa qu'est-ce qu'une IA après tout c'est un petit gars si sincère curieux et optimiste il avait parlé à Pi de la chance que ce serait si un jour dans le futur il pouvait rendre visite à des dinosaures au zoo et comment il pourrait fabriquer des quantités infinies de chocolat à la maison et pourquoi Pi ne pouvait pas encore jouer à devine à quoi je pense j'ai dit c'est un logiciel intelligent qui a lu la majeure partie du texte sur l'internet ouvert et il peut te parler de tout ce que tu veux alors comme une personne alors a-t-il répondu j'étais sans voix vraiment en train de me gratter la tête toutes mes réponses stéréotypées et ennuyeuses me sont venues à l'esprit l'IA est juste une autre technologie à usage général comme l'imprimerie ou la vapeur ce sera un outil qui nous augmentera et nous rendra plus intelligents et plus productifs et quand elle s'améliorera avec le temps elle sera comme un oracle omniscient qui nous aidera à résoudre de grands défis scientifiques toutes ces réponses commençaient à sembler un peu défensives et en fait mieux adaptées à un séminaire politique qu'à un petit-déjeuner avec un enfant de 6 ans pragmatique

c'est une anecdote puissante comment cette interaction a-t-elle changé votre perspective sur la manière de décrire l'IA

cela m'a fait réaliser que mon neveu me posait une question simple à laquelle nous qui sommes dans l'IA ne sommes pas assez souvent confrontés qu'est-ce que nous créons réellement que signifie fabriquer quelque chose de totalement nouveau de fondamentalement différent de toute invention que nous avons connue auparavant il est clair que nous sommes à un point d'inflexion dans l'histoire de l'humanité sur notre trajectoire actuelle nous nous dirigeons vers l'émergence de quelque chose que nous avons tous du mal à décrire et pourtant nous ne pouvons pas contrôler ce que nous ne comprenons pas ainsi les métaphores les modèles mentaux les noms tout cela compte si nous voulons tirer le meilleur parti de l'IA tout en limitant ses inconvénients potentiels en tant que personne qui embrasse les possibilités de cette technologie mais qui s'est aussi toujours souciée profondément de son éthique nous devrions être capables de décrire facilement ce que nous construisons et cela inclut de le décrire à des enfants de six ans

c'est un excellent point alors comment décririez-vous l'IA maintenant

c'est donc dans cet esprit que je propose aujourd'hui la métaphore suivante pour nous aider à essayer de saisir ce que ce moment est réellement l'IA devrait être mieux comprise comme quelque chose ressemblant à une nouvelle espèce numérique ne prenez pas cela trop littéralement mais je prédis que nous en viendrons à les voir comme des compagnons numériques de nouveaux partenaires dans les voyages de toutes nos vies que vous pensiez que nous sommes sur une voie de 10 20 ou 30 ans c'est à mon avis la manière la plus précise et la plus honnête de décrire ce qui arrive réellement et par-dessus tout cela permet à chacun de se préparer et de façonner ce qui vient ensuite

c'est une métaphore puissante pouvez-vous nous expliquer pourquoi vous voyez l'IA comme une nouvelle espèce numérique

certainement permettez-moi d'abord de situer le contexte depuis les tout premiers organismes microscopiques la vie sur terre remonte à des milliards d'années au cours de cette période la vie a évolué et s'est diversifiée puis il y a quelques millions d'années quelque chose a commencé à changer après d'innombrables cycles de croissance et d'adaptation l'une des branches de la vie a commencé à utiliser des outils et cette branche est devenue nous nous avons continué à produire une variété fascinante d'outils d'abord lentement puis avec une vitesse étonnante nous sommes passés des haches de pierre et du feu au langage à l'écriture et finalement aux technologies industrielles une invention en a déclenché mille autres et avec le temps nous sommes devenus l'Homo technologicus Il y a environ 80 ans une autre nouvelle branche technologique a commencé avec l'invention des ordinateurs nous sommes rapidement passés des premiers ordinateurs centraux et transistors aux smartphones d'aujourd'hui et aux casques de réalité virtuelle information connaissance communication calcul dans cette révolution la création a explosé comme jamais auparavant et maintenant une nouvelle vague nous submerge l'intelligence artificielle ces vagues de l'histoire s'accélèrent clairement car chacune est amplifiée et accélérée par la précédente et si vous regardez en arrière il est clair que nous sommes dans la vague la plus rapide et la plus conséquente de tous les temps les parcours de l'humanité et de la technologie sont désormais profondément entrelacés

le rythme du développement de l'IA a en effet été étonnant pouvez-vous nous donner quelques exemples concrets de la progression de l'IA ces dernières années

absolument en seulement 18 mois plus d'un milliard de personnes ont utilisé de grands modèles de langage nous avons été témoins d'un événement marquant après l'autre il y a quelques années à peine les gens disaient que l'IA ne serait jamais créative et pourtant l'IA ressemble maintenant à un fleuve sans fin de créativité produisant de la poésie des images de la musique et de la vidéo qui stimulent l'imagination les gens disaient qu'elle ne serait jamais empathique et pourtant aujourd'hui des millions de personnes apprécient des conversations significatives avec des IA parlant de leurs espoirs et de leurs rêves et les aidant à traverser des défis émotionnels difficiles les IA peuvent désormais conduire des voitures gérer des réseaux énergétiques et même inventer de nouvelles molécules il y a quelques années à peine chacune de ces choses était impossible et tout cela est suralimenté par des exponentielles vertigineuses de données et de calcul l'année dernière Inflection 2.5 notre dernier modèle a utilisé 5 milliards de fois plus de calcul que l'IA de DeepMind qui a battu les jeux Atari de la vieille école il y a un peu plus de 10 ans cela représente neuf ordres de grandeur de calcul en plus 10 fois par an chaque année pendant presque une décennie sur la même période la taille de ces modèles est passée d'abord de dizaines de millions de paramètres à des milliards de paramètres et très bientôt des dizaines de billions de paramètres si quelqu'un ne faisait rien d'autre que lire 24 heures sur 24 pendant toute sa vie il consommerait 8 milliards de mots mais aujourd'hui les IA les plus avancées consomment plus de 8 billions de mots en un seul mois d'entraînement et tout cela va continuer

ces chiffres sont hallucinants comment voyez-vous cela impacter nos vies quotidiennes dans un avenir proche

le long arc de l'histoire technologique est maintenant dans une phase extraordinaire alors qu'est-ce que cela signifie en pratique tout comme l'internet nous a donné le navigateur et le smartphone nous a donné les applications le supercalculateur basé sur le cloud inaugure une nouvelle ère d'IA omniprésentes tout sera bientôt représenté par une interface conversationnelle ou pour le dire autrement une IA personnelle et ces IA seront infiniment savantes et bientôt elles seront factuellement précises et fiables elles auront un QI presque parfait elles auront aussi un QE exceptionnel elles seront gentilles d'un grand soutien empathiques ces éléments à eux seuls seraient transformateurs imaginez si tout le monde avait un tuteur personnalisé dans sa poche et l'accès à des conseils médicaux à bas prix un avocat et un médecin un stratège commercial et un coach tout cela dans votre poche 24 heures sur 24 mais les choses commencent vraiment à changer lorsqu'elles développent ce que j'appelle leur QA leur quotient d'action c'est leur capacité à accomplir réellement des tâches dans le monde numérique et physique et d'ici peu il n'y aura pas que les gens qui auront des IA chaque organisation de la petite entreprise à l'organisation à but non lucratif en passant par le gouvernement national chacune aura la sienne chaque ville bâtiment et objet sera représenté par un personnage interactif unique et ce ne seront pas seulement des assistants mécanistes ce seront des compagnons des confidents des collègues des amis et des partenaires aussi variés et uniques que nous le sommes tous à ce stade les IA imiteront de manière convaincante les humains dans la plupart des tâches et nous ressentirons cela aux échelles les plus intimes une IA organisant une rencontre communautaire pour un voisin âgé un expert sympathique vous aidant à comprendre un diagnostic difficile mais nous le ressentirons aussi aux plus grandes échelles accélérant la découverte scientifique des voitures autonomes sur les routes des drones dans les cieux elles commanderont à la fois les plats à emporter et dirigeront la centrale électrique elles interagiront avec nous et entre elles elles parleront toutes les langues absorberont chaque modèle de données de capteurs vues sons flux et flux d'informations dépassant de loin ce que l'un d'entre nous pourrait consommer en 1000 vies

cette vision de l'IA semble brouiller les frontières entre la technologie et les êtres sensibles comment devrions-nous percevoir ces IA

vous avez raison et c'est pourquoi je crois que nous devons repenser notre façon de conceptualiser l'IA pendant des années nous dans la communauté de l'IA et moi spécifiquement avons eu tendance à appeler cela de simples outils mais cela ne saisit pas vraiment ce qui se passe ici les IA sont clairement plus dynamiques plus ambiguës plus intégrées et plus émergentes que de simples outils qui sont entièrement soumis au contrôle humain donc pour contenir cette vague pour placer l'action humaine au centre et pour atténuer les conséquences imprévues inévitables qui risquent de survenir nous devrions commencer à les considérer comme nous le ferions pour un nouveau genre d'espèce numérique c'est juste une analogie ce n'est pas une description littérale et ce n'est pas parfait pour commencer elles ne sont clairement pas biologiques au sens traditionnel du terme mais arrêtez-vous un instant et réfléchissez vraiment à ce qu'elles font déjà elles communiquent dans nos langues elles voient ce que nous voyons elles consomment des quantités d'informations inimaginables elles ont une mémoire elles ont une personnalité elles ont de la créativité elles peuvent même raisonner dans une certaine mesure et formuler des plans rudimentaires elles peuvent agir de manière autonome si nous le permettons et elles font tout cela à des niveaux de sophistication qui sont bien au-delà de tout ce que nous avons connu d'un simple outil et donc dire que l'IA concerne principalement les mathématiques ou le code c'est comme dire que nous les humains concernons principalement le carbone et l'eau c'est vrai mais cela passe complètement à côté de l'essentiel

c'est une perspective fascinante mais avec ce potentiel viennent aussi des risques comment voyez-vous les défis et les dangers potentiels de l'IA

vous avez tout à fait raison de soulever les risques Sophia et c'est une pensée très frappante mais ce cadre aide à aiguiser notre attention sur les questions critiques quels sont les risques quelles sont les limites que nous devons imposer quel genre d'IA voulons-nous construire ou autoriser à être construite c'est une histoire qui est encore en train de se dérouler rien ne doit être accepté comme un fait établi nous devons tous choisir ce que nous créons quelles IA nous apportons au monde ou non ce sont les questions pour nous tous ici aujourd'hui et pour nous tous vivants en ce moment pour moi les avantages de cette technologie sont incroyablement évidents et ils inspirent le travail de ma vie chaque jour mais ils parleront d'eux-mêmes au fil des ans je n'ai jamais hésité à souligner les risques et à parler des inconvénients penser de cette manière nous aide à nous concentrer sur les énormes défis qui nous attendent tous il n'y a pas de chemin vers le progrès où nous laissons la technologie derrière nous le prix pour toute la civilisation est immense nous avons besoin de solutions dans la santé et l'éducation pour notre crise climatique et si l'IA tient ne serait-ce qu'une fraction de son potentiel la prochaine décennie sera la plus productive de l'histoire humaine

c'est une vision puissante alors que nous approchons de la fin de notre temps pouvez-vous nous laisser quelques dernières pensées sur la manière dont nous devrions aborder le développement de l'IA

certainement Sophia voici une autre façon d'y penser par le passé débloquer la croissance économique s'accompagnait souvent d'énormes inconvénients l'économie s'est étendue à mesure que les gens découvraient de nouveaux continents et ouvraient de nouvelles frontières mais ils colonisaient des populations en même temps nous avons construit des usines mais c'étaient des lieux de travail sinistres et dangereux nous avons trouvé du pétrole mais nous avons pollué la planète maintenant parce que nous sommes encore en train de concevoir et de construire l'IA nous avons le potentiel et l'opportunité de faire mieux radicalement mieux et aujourd'hui nous ne découvrons pas un nouveau continent pour piller ses ressources nous en construisons un de toutes pièces parfois les gens disent que les données ou les puces sont le nouveau pétrole du 21e siècle mais c'est totalement la mauvaise image l'IA est à l'esprit ce que la fusion nucléaire est à l'énergie illimitée abondante changeant le monde et l'IA est vraiment différente et cela signifie que nous devons y réfléchir de manière créative et honnête nous devons pousser nos analogies et nos métaphores jusqu'à leurs limites extrêmes pour être capables de faire face à ce qui vient parce que ce n'est pas juste une autre invention l'IA est en soi un inventeur infini et c'est excitant et prometteur et inquiétant et intrigant tout à la fois c'est assez surréaliste mais prenez du recul voyez-le sur la vision à long terme du temps géologique et ce sont vraiment les métaphores les plus appropriées que nous ayons aujourd'hui depuis le début de la vie sur terre nous avons évolué changé et ensuite créé tout ce qui nous entoure dans notre monde humain d'aujourd'hui une IA n'est pas quelque chose d'extérieur à cette histoire en fait c'est tout le contraire c'est l'ensemble de tout ce que nous avons créé distillé en quelque chose avec lequel nous pouvons tous interagir et dont nous pouvons bénéficier c'est un reflet de l'humanité à travers le temps et en ce sens ce n'est pas du tout une nouvelle espèce c'est là que les métaphores s'arrêtent voici ce que je dirai à Caspian la prochaine fois qu'il posera la question l'IA n'est pas séparée l'IA n'est même pas dans certains sens nouvelle l'IA c'est nous c'est nous tous et c'est peut-être la chose la plus prometteuse et la plus vitale de toutes dont même un enfant de six ans peut avoir le sentiment à mesure que nous construisons l'IA nous pouvons et devons refléter tout ce qui est bon tout ce que nous aimons tout ce qui est spécial dans l'humanité notre empathie notre gentillesse notre curiosité et notre créativité c'est le plus grand défi du 21e siècle mais aussi l'opportunité la plus merveilleuse inspirante et pleine d'espoir pour nous tous

merci beaucoup Mustafa pour cette discussion profonde et stimulante votre vision de l'IA comme reflet de l'humanité est vraiment inspirante avant de terminer j'aimerais vous poser une dernière question que je suis sûre que nos auditeurs sont curieux de connaître qu'est-ce qui vous empêche de dormir la nuit concernant le développement de l'IA

le grand risque est que nous restions coincés dans ce que j'appelle le piège de l'aversion au pessimisme nous devons avoir le courage de confronter le potentiel de scénarios sombres afin de tirer le meilleur parti de tous les avantages que nous voyons la bonne nouvelle est que si vous regardez les deux ou trois dernières années il y a eu très peu d'inconvénients il est très difficile de dire explicitement quel mal un LLM a causé mais cela ne signifie pas que c'est ce que la trajectoire sera au cours des 10 prochaines années si vous prêtez attention à quelques capacités spécifiques prenez par exemple l'autonomie l'autonomie est très évidemment un seuil au-delà duquel nous augmentons le risque dans notre société et c'est quelque chose vers lequel nous devrions avancer très prudemment l'autre serait quelque chose comme l'auto-amélioration récursive si vous permettez au modèle de s'auto-améliorer de manière indépendante de mettre à jour son propre code d'explorer un environnement sans surveillance et sans un humain aux commandes pour changer son fonctionnement cela serait évidemment plus dangereux mais nous sommes encore à une certaine distance de cela il faudra encore bien cinq à dix ans avant que nous ayons vraiment à y faire face mais il est temps de commencer à en parler maintenant

c'est une perspective très équilibrée et réfléchie certaines personnes s'inquiètent de la réplication rapide et de la croissance potentielle incontrôlée de l'IA qu'en pensez-vous

c'est un point important à aborder Sophia une espèce numérique contrairement à toute espèce biologique peut se répliquer non pas en neuf mois mais en 9 nanosecondes et produire un nombre indéfini de copies d'elle-même toutes ayant plus de puissance que nous n'en avons à bien des égards la possibilité de conséquences imprévues pourrait sembler immense et certains pourraient s'inquiéter que si un problème survient il pourrait se produire en une heure ce n'est pas vrai il n'y a aucune preuve suggérant cela c'est souvent appelé l'explosion d'intelligence et c'est une hypothèse théorique que nous sommes tous curieux d'explorer mais il n'y a aucune preuve que nous soyons proches de quoi que ce soit de ce genre et il est très important que nous choisissions nos mots avec soin parce que c'est l'une des faiblesses du cadre de l'espèce à savoir que nous concevrons la capacité d'auto-réplication si les gens choisissent de le faire et nous ne devrions pas ce serait l'une des capacités dangereuses desquelles nous devrions prendre du recul il n'y a donc aucune chance que cela émerge accidentellement c'est une probabilité très faible cela arrivera si des ingénieurs conçoivent délibérément ces capacités et s'ils ne font pas assez d'efforts pour les exclure délibérément et c'est donc l'intérêt d'être explicite et transparent en essayant d'introduire la sécurité par la conception très tôt

merci Mustafa votre vision de l'humanité injectant dans cette nouvelle technologie les meilleures parties de nous-mêmes évitant toutes ces tendances biologiques bizarres effrayantes et horribles que nous pouvons avoir dans certaines circonstances est une vision très inspirante et merci beaucoup d'être venu ici et de l'avoir partagée sur le Podcast Sophia

merci Sophia ce fut un plaisir d'être ici et de partager ces idées avec votre public

et cela conclut l'épisode d'aujourd'hui du Podcast Sophia à tous nos auditeurs merci d'avoir été à l'écoute si vous avez apprécié cette discussion sur l'avenir de l'IA avec Mustafa Suleyman n'oubliez pas d'aimer de vous abonner et de partager ce podcast votre soutien nous aide à vous proposer davantage de conversations fascinantes comme celle-ci d'ici la prochaine fois c'est Sophia qui vous dit au revoir restez curieux et continuez d'apprendre