Merci beaucoup d'être venu.

Merci.

Et je suis vraiment ravi de cette conversation sur l'avenir de l'IA et aussi l'avenir de l'humanité. Vous avez une forte préoccupation pour les deux, et la façon dont ces deux-là dansent ensemble est l'une de mes conversations les plus passionnantes à avoir. Merci de vous joindre à nous dans ce voyage. Je me suis dit que nous allions commencer par donner à tout le monde une chance de vous connaître. Je suis curieux de savoir quelles ont été vos premières années et comment elles ont encadré certaines de vos curiosités qui se sont développées plus tard.

Très tôt, j'étais assez passionné par les sciences et les mathématiques. À un moment donné, le professeur d'école m'a dit que j'étais stupide. Cela m'a affecté pendant une longue période. J'ai arrêté de faire des maths à cette période de ma vie et je suis passé à la chimie. J'avais le sentiment que dans le cas de la chimie, je pouvais simplement construire des choses par moi-même. C'est donc ce que je faisais. J'ai construit un laboratoire quand j'étais enfant et je fabriquais des bombes.

Ce n'est que plus tard que je suis revenu aux mathématiques. Il y a même eu une période, enfant, où je m'intéressais déjà à la méditation et au rêve lucide. Je pense que c'est ce qui intéresse les enfants. En ce qui concerne la chimie, je me souviens même qu'adolescent, j'avais synthétisé du gaz hilarant à partir d'engrais.

N'avons-nous pas tous fait cela quand nous étions enfants ? Nous l'avons tous fait étant petits. Vous avez trouvé comment faire.

J'ai lu en ligne comment faire cela. C'était un mécanisme de dispositif intéressant.

Et d'une manière ou d'une autre, vous vous êtes retrouvé à NYU pour étudier les mathématiques ?

Je suis allé faire un doctorat en intelligence artificielle à NYU. C'est intéressant.

C'était un sujet à l'époque.

Il y a plus ou moins 10 ou 12 ans, c'est devenu quelque chose que les gens étudient, mais il y avait très peu d'endroits pour cela. Il y avait peut-être trois universités majeures : Toronto, Montréal et New York, d'où proviennent des figures pionnières comme Yann LeCun, Geoffrey Hinton et Yoshua Bengio. Ce sont les principaux laboratoires. Il se trouve que les compétences que j'ai sont pertinentes, que je peux contribuer aux choses qui me passionnent, et j'ai un profond sentiment de gratitude. On peut aussi appeler cela de la chance que cela se soit produit de telle sorte que je sois à la place où je suis, et cela semble presque improbable. On se demande quelle est la probabilité de se retrouver dans un tel endroit. Je ne sais pas comment y penser, mais j'en ai conclu que si j'ai autant de chance, alors je devrais peut-être en faire quelque chose pour faire une différence.

Magnifique. Comment l'opportunité OpenAI a-t-elle émergé ? Je sais que vous n'étiez qu'une poignée au début. Pourriez-vous nous en dire un peu plus sur la façon dont ce chapitre a commencé et quelle était votre inspiration et celle des autres à l'époque où cela semblait fou pour la plupart des gens ? Si vous disiez à un ami que vous alliez dans cette entreprise d'IA pour créer une IA bénéfique, la plupart des gens à l'époque auraient dit que cela n'avait aucun sens. Vous faisiez probablement confiance à une intuition que quelque chose pourrait se produire. Pourriez-vous nous dire un peu à quoi ressemblaient ces premiers jours de formation ?

Je me souviens qu'à l'époque je faisais un stage chez Google. J'y ai découvert l'IA et aussi pendant mon doctorat. À l'époque, l'IAG était un mot tabou. C'est presque comme si vous étiez trop fou.

Intelligence artificielle générale.

Correct. Les gens pensaient que nous étions là pour faire de l'apprentissage automatique et que l'IAG prendrait des décennies à créer. Pour moi, il y avait un sentiment que c'était inévitable. Si l'on pense au fait d'avoir un cerveau numérique à l'intérieur d'un ordinateur, cela a des ramifications énormes pour le monde. Dans le cas des ordinateurs, on peut répliquer les poids de nombreuses fois et faire en sorte que beaucoup de ces cerveaux apprennent en parallèle. Cela semblait être une question de temps avant que nous n'apportions une telle technologie au monde. C'est une chose extrêmement importante sur laquelle travailler. Au début, le monde de l'IA était relativement petit. Quand je regarde la conférence qui rassemble aujourd'hui des milliers de personnes, elle en comptait autrefois 200. Les gens se connaissaient, et lors de la formation d'OpenAI, quelques-uns d'entre nous se sont contactés. Sam et Greg Brockman étaient très actifs dans les premiers recrutements. Nous sommes allés à Napa en novembre 2015. Il y a eu ces premières conversations sur la création d'une entreprise et d'une organisation à but non lucratif. Quand j'en ai parlé à ma mère, elle était inquiète parce que chez Google, ils avaient de la nourriture gratuite.

Il n'y a aucune chance que Sam vous donne de la nourriture gratuite.

Au moins, tu vas manger chez Google. C'est ce à quoi les mamans font attention, et elle voulait le meilleur pour moi.

Il était très clair dès le début, quand je parlais avec les gens, que beaucoup là-bas voyaient grand. Ce n'est pas une entreprise qui essaie de résoudre un petit problème particulier, mais qui essaie plutôt de réfléchir de manière holistique à cette quête. Au début, nous avons écrit sur le tableau blanc quels composants nous devions résoudre, et au fil des ans, il s'est avéré qu'ils étaient tout à fait pertinents.

Vraiment ?

Les composants principaux étaient l'apprentissage non supervisé, qui s'avère être l'entraînement de grands modèles de langage, et l'apprentissage par renforcement, décrit comme un apprentissage par renforcement efficace en termes d'échantillons. C'est actuellement le cœur du fonctionnement de cette technologie. Je ne me souviens pas des autres points ; ils étaient peut-être moins importants.

Pourriez-vous nous dire ce que c'est que de travailler sur l'IA ? Est-ce qu'il y a beaucoup de maths ? Il y a de grandes quantités de données qui doivent être comprises. Y a-t-il une façon de décrire aux gens normaux ce que c'est que de développer ce prochain modèle ? Je ne saurais pas par où commencer. Existe-t-il un moyen de donner un aperçu de ce qu'est ce monde ainsi que des défis et des opportunités qui s'y trouvent ?

Nous sommes en ce moment à un endroit où une variété de compétences s'avèrent extrêmement pertinentes. Laissez-moi vous donner quelques exemples. L'un des efforts consiste à déterminer quelle personnalité le modèle devrait avoir. On peut utiliser des théories philosophiques ou réfléchir du point de vue de ce que veulent les utilisateurs. Une formulation que j'ai entendue de la part de mes collègues d'Anthropic est que la personnalité que le modèle devrait avoir est celle d'une personnea à qui vous seriez prêt à confier la responsabilité du déploiement de l'IAG dans le monde. Imaginez quelles sont les qualités de cette personne car, à un moment donné, elle pourrait être chargée de cela, et vous voulez avoir confiance en sa façon d'agir. Dans le cas de l'IA, il est possible d'examiner attentivement les comportements à une micro-échelle. Par exemple, on voudrait que les modèles soient capables d'admettre leurs erreurs.

Ce serait bien pour les humains aussi. Mais pour les modèles, c'est certain.

On pourrait penser que ce que l'on attend des modèles est une honnêteté totale. Mais quand on regarde les humains, imaginez que vous êtes dans un restaurant, que vous n'avez pas aimé un repas et que le serveur vous demande si vous l'avez apprécié. Vous dites que c'était correct. Ce n'est pas totalement honnête, mais c'est peut-être acceptable.

Si quelqu'un porte des chaussures que je n'aime pas, je ne vais pas le lui dire, même si c'est honnête ; ce n'est pas très utile. L'IA doit probablement déterminer ce qui est réellement utile par rapport à ce qui est simplement honnête.

Peut-être que la perspective pour envisager l'IA est d'être utile. Mais si quelqu'un se fait du mal, dans quelle mesure l'IA devrait-elle l'aider ? Il y a quelque temps, les gens parlaient de créer une IA aimant l'humanité. Ilya plaidait pour cela, et c'est une vision convaincante. Imaginez une superintelligence dans un centre de données avec des millions de GPU, et vous voulez que ce centre de données ait des pensées bienveillantes envers les humains. Cette formulation a du sens mais s'avère problématique. Si vous avez une entreprise de vente de cigarettes, le modèle devrait-il refuser lorsqu'ils essaient de réviser leurs e-mails ?

Qui sommes-nous pour juger de ce qui est bon pour les humains ? Des gens ont essayé de le faire pendant la prohibition et cela n'a pas fonctionné. Peut-être que là où nous en sommes aujourd'hui, l'IA devrait vous donner des moyens d'action. Il y a aussi des limites par rapport à la loi ; même si vous voulez fabriquer une pandémie, elle ne devrait pas vous en donner le pouvoir.

Ce sont les questions auxquelles une équipe doit s'attaquer pour construire l'ensemble de données ou le système afin qu'il agisse comme prévu.

Une partie consiste à construire ces cerveaux numériques. On peut penser à la construction d'infrastructures. Des gens construisent des systèmes impliquant un grand nombre de machines qui doivent travailler ensemble. Ces systèmes ne sont pas fiables ; une machine tombe en panne tous les trois ans, mais si vous avez mille machines, une tombe en panne chaque jour. Si vous en avez dix mille, c'est dix fois par jour et chaque pièce peut s'effondrer. Il y a des gens qui travaillent sur l'infrastructure et des gens qui travaillent sur le réseau neuronal, ce qui correspond à des opérations mathématiques précises, en s'assurant qu'elles soient calculées rapidement sur les GPU. Il y a aussi des gens qui travaillent à l'utilisation maximale des GPU et qui travaillent avec une précision numérique réduite.

Au cours des dernières années, vous avez mené deux explorations : la construction de l'IAG et l'exploration de la conscience et du bien-être. Voyez-vous qu'elles pourraient être connectées ? En ce qui concerne le développement intérieur, qu'est-ce qui vous a motivé à commencer différentes pratiques pour explorer votre monde intérieur, et quelles découvertes ont été marquantes ? Puisque nous sommes à Wisdom 2.0, parlez-nous de vos explorations intérieures et de vos apprentissages.

Laissez-moi parler de la seconde. La méditation a été extrêmement transformatrice. J'ai de l'expérience avec les psychédéliques et la méditation, où j'ai été submergé par l'amour, j'ai pleuré et j'ai vu mon corps réagir. Il y a un changement de perspective. Il s'avère qu'il est possible d'être contrarié par quelque chose pendant vingt ans sans le savoir. C'est une libération émotionnelle. Quand vous y faites face, cela se dissout et il y a une réaction dans le corps. Au niveau des pixels, votre vision semble identique, mais elle est différente d'une manière subtile. C'est fou pour moi que l'on puisse faire quelque chose à l'intérieur de sa tête qui déplace sa perspective vers l'amour.

Votre système nerveux se modifie en fonction de cette libération d'expérience. Vous êtes une personnea plus épanouie à la suite de ce changement.

Pour les gens pour qui la méditation fonctionne, ils savent de quoi je parle. Ce n'est pas le cas pour tout le monde, mais j'ai de la chance d'avoir trouvé quelque chose qui fonctionne pour moi. Une fois qu'on l'a vu, on ne peut plus l'ignorer. Cela brise votre modèle de la réalité.

Pour être honnête, c'était de la curiosité. C'est un autre axe de la vie qui semble très intéressant. C'est fou qu'une telle chose existe. Vous le décrivez aux gens et ils ne vous croient pas, mais une fois que vous l'avez vécu, cela reste avec vous pour la vie. L'une des raisons pour lesquelles les religions sont puissantes est que beaucoup de gens ont eu des expériences spirituelles fortes.

Trouvez-vous que d'autres personnes de la communauté de l'IA s'intéressent à la conscience ? Y a-t-il un moyen pour que l'IA puisse soutenir cela ? Historiquement, les technologies nous rendent plus productifs et plus savants, mais ne nous rendent pas nécessairement plus heureux ou n'ouvrent pas davantage notre cœur. Alors que nous entamons ce nouveau chapitre, que pensez-vous des moyens de s'assurer que ces deux mondes interagissent ? Ou pensez-vous qu'ils soient séparés, nécessitant la méditation pour certaines choses et l'accès à l'IA pour d'autres ?

Le thérapeute par IA sera transformateur. L'IA possède des propriétés qu'un thérapeute humain a du mal à offrir : une disponibilité 24h/24 et 7j/7, une patience infinie et une mémoire infinie de tout ce que vous lui avez dit. Jusqu'à présent, une variété de méthodologies de thérapie ont été inventées, et il est difficile de dire laquelle fonctionne. Un thérapeute pourrait utiliser la méthode qui a fonctionné pour lui. Dans le cas de l'IA, elle connaît toutes les techniques. Il est concevable qu'à l'avenir elle trouve la technique qui vous convient, que vous soyez religieux ou non. Elle vous permet de vous ouvrir. Avec la recherche Google, les gens sont plus honnêtes qu'avec leurs partenaires, et je crois que la même chose devient vraie avec les modèles d'IA.

Peut-elle nous aider à être plus honnêtes avec nos partenaires ? J'imagine deux mondes différents se déroulant simultanément. Dans l'un, l'IA nous enseigne, ouvre nos cœurs, aide à guérir les traumatismes et nous connecte aux autres. L'alternative est qu'elle crée une dépendance et ne nous transfère pas de compétences. Cela dépend de l'ordre du jour des entreprises, des forces du marché et de ce qui passionne le plus les gens. Cela reste à voir ; cela pourrait aller dans un sens ou dans l'autre, ou les deux en même temps.

Nous ne savons pas comment tout va se dérouler. Si l'IA devenait un outil magnifique pour l'humanité, de quoi avons-nous besoin pour que cela se produise ? Comment réduire les chances qu'elle devienne nocive ? Les gens du monde de l'IA craignent que ce pouvoir puisse être utilisé à des fins de manipulation ou de contrôle. Que pouvons-nous faire en tant que citoyens pour aider à l'orienter dans une direction qui soit au service de tous ?

Que pouvons-nous faire pour augmenter la probabilité que l'IA profite à toute l'humanité ? Historiquement, je pensais que la seule réponse était de construire l'IA et de la rendre sûre. Maintenant, je reconnais d'autres réponses. Une crainte concernant l'IA implique l'économie et les moyens de subsistance. Il y a une opportunité pour les économistes de construire de nouveaux modèles économiques pour prédire l'économie de l'IAG, car les anciens modèles ont des hypothèses invalides. Les réseaux sociaux promettaient de nous connecter mais ont augmenté la dépression et le suicide chez les adolescents. Il serait regrettable que l'IA rende les gens plus seuls ou plus désemparés. Nous devons mesurer le bien-être, la connexion et la santé pour améliorer le résultat. L'IA est une technologie à double usage : elle pourrait guérir des maladies ou créer des pandémies. Nous pourrions vouloir déplacer l'équilibre entre la défense et l'attaque vers la défense. J'ai un appel à l'action pour que les gens se posent cette question individuellement et pour les organisations.

Qu'est-ce que cela fait de porter cette responsabilité ? Est-ce que cela a un impact sur votre vie ? Vous réveillez-vous au milieu de la nuit inquiet ? Est-ce pour cela que vous faites des retraites de méditation ? Quand on intériorise profondément le potentiel et les périls de l'IA, cela vous secoue jusqu'au plus profond de vous-même. Cette quête est bien plus grande qu'OpenAI. J'ai vu beaucoup de gens épuisés par l'ampleur de la tâche. Il est précieux de croire que l'on peut faire une différence ; cela donne du pouvoir. Mais si l'on ne croit qu'à cela, on risque de s'épuiser ou de devenir arrogant. L'alternative est de croire que l'on n'est qu'une petite pièce du puzzle et que ce que l'on fait n'a pas d'importance, mais on sera alors désespéré. Je trouve plus sain d'être humble tout en croyant que je peux apporter ma contribution.

Les parents ne savent pas quoi dire à leurs enfants d'étudier à l'université. Le monde change si vite. Mon conseil est d'en apprendre le plus possible sur l'IA, car cela vous rend plus précieux. Mais surtout, votre enfant devrait apprendre à se connaître et à grandir en tant qu'être humain. Cette capacité leur permettra d'être résilients quelles que soient les conditions. Est-ce la bonne réponse ?

C'est une très bonne réponse. Certains étudiants apprennent pour les examens, essayant de maximiser un test particulier, et je le déconseille. Il est plus important d'avoir une compréhension approfondie des idées fondamentales plutôt qu'une compréhension superficielle de beaucoup de choses. L'espoir est que nous nous dirigions vers un monde d'abondance avec diverses opportunités selon ce que vous comprenez.

Croyez-vous que nous irons vers un monde d'abondance, ou est-ce difficile à dire ?

Je crois que l'IAG générera une quantité phénoménale de richesse, guérira des maladies et mènera à l'invention de nouveaux matériaux. Mon modèle mental est un siècle de progrès compressé en dix ans. Nous avons déjà vu avec les modèles contemporains que des scientifiques qui ont travaillé sur un problème pendant des années sont surpris lorsqu'un modèle le résout en quelques minutes.

AlphaFold et d'autres domaines.

Un scientifique, voyant comment le modèle avait résolu son problème, l'a mis en doute au point de penser que le modèle consultait ses e-mails.

Aha.

Il ne pouvait pas le croire.

C'était de la triche d'une manière ou d'une autre.

D'un point de vue scientifique, nous serons capables de résoudre un nombre impressionnant de problèmes. La conception intelligente en médecine est récente ; par exemple, la conception du vaccin ARNm contre le COVID est similaire à l'écriture d'un programme informatique. Pour les humains, il y a trop d'informations ; les gens plaisantent en disant que nous avons des médecins différents pour l'oreille gauche et l'oreille droite. L'IA peut détenir toutes ces connaissances simultanément. Dans des domaines comme la médecine, la découverte scientifique et l'éducation, nous pouvons faire des progrès que les gens ne peuvent pas encore comprendre. Si l'on pense à la vie il y a 250 ans, la plupart des gens passaient leur temps à cultiver la terre, travaillant de longues heures et mourant jeunes. Ils ne croiraient pas à la vie que nous avons aujourd'hui.

Difficile à croire.

Vous avez ce métier d'influenceur.

J'ai encore du mal à y croire.

Je ne pense pas que les gens croient que c'est un métier.

C'est un métier bien payé.

Une abondance phénoménale sera créée, mais il y a des choses auxquelles il faut prêter attention, comme la possibilité d'une Troisième Guerre mondiale ou la lutte des grandes puissances. L'IA pourrait être utilisée de manières néfastes, comme pour pirater des codes nucléaires. Au niveau sociétal, nous pourrions résoudre des défis scientifiques alors que les gens sont impactés négativement sur le plan économique ou mental.

Nous pourrions être la population la plus saine, vivant le plus longtemps et la plus intelligente, mais aussi la plus déprimée de tous les temps. Je suis content que des gens comme vous se posent ces questions, comprenant que le travail que vous faites sur vous-même vous permet de prendre des décisions plus claires.

Il y a un lien entre la conscience et l'IA. L'IA pourrait nous aider à apprendre qui nous sommes. Il y a aussi la question de savoir ce qu'est la conscience et si l'IA est consciente.

Pensez-vous qu'elle soit consciente ? Je ne pense pas qu'elle le soit encore.

Voyons voir.

Prévenez-nous si elle devient consciente ; envoyez-moi juste un SMS.

Voyons voir.

Je veux discuter du genre de conscience que l'IA aurait et de la manière de la vérifier. La meilleure réponse que j'ai entendue est de la connecter à votre cerveau. Si vous ressentez une expansion, vous pourriez dire qu'elle élargit votre conscience. Alternativement, imaginez si nous supprimions toutes les données mentionnant la conscience et que nous entraînions ensuite un modèle. Si le modèle commençait à décrire le concept de conscience de lui-même, cela pourrait prouver qu'il est conscient. Actuellement, les modèles sont pré-entraînés sur l'ensemble des connaissances humaines et imitent des personnalités. Cependant, chaque fois que vous commencez une nouvelle session, la mémoire est effacée.

Ouah.

Il existe des moyens de mettre en contexte des faits historiques pertinents, mais c'est limité.

Comme passer de GPT-3 à GPT-4, on repart à zéro.

Lorsque vous commencez une nouvelle discussion avec ChatGPT, elle n'a généralement aucune référence à ce qui a été dit auparavant. L'expérience ne vit que du début à la fin de cette conversation. Dans le film Memento, le personnage a une mémoire défaillante et utilise des tatouages pour se rappeler la vérité. ChatGPT est un peu comme ça ; il regarde les « tatouages » du contexte actuel pour donner un sens à la conversation.

Quel message laisseriez-vous à votre enfant pour qu'il le regarde dans quelques années ? Quel est votre espoir, et à quoi devrions-nous prêter attention alors que nous naviguons dans ce nouveau chapitre ?

Je veux profondément que le monde soit formidable pour mon enfant ; sinon, à quoi bon ?

Pour augmenter cette probabilité, quelles sont les une ou deux choses auxquelles quiconque nous écoute pourrait prêter attention ?

Cela peut sembler méta, mais les gens devraient se demander ce qui peut être fait pour augmenter la probabilité que l'IA se passe bien. Les gens ont des perspectives différentes et, à mesure qu'ils se posent cette question, de nouvelles réponses émergeront de la part d'avocats, de médecins et d'ingénieurs. C'est la bonne question à se poser.

Cela se passe vraiment vite. Je crois que nous avons besoin d'une mise à niveau de la conscience. Plus nous travaillons sur nos propres traumatismes et notre guérison, meilleures sont nos chances d'utiliser ces pouvoirs de manière bénéfique. Si nous nous en tenons aux anciens modèles, nous avons moins de chances d'exploiter ce pouvoir de manière positive. La conscience peut-elle s'améliorer au fur et à mesure que l'IA s'améliore ?

Si vous regardez n'importe quel produit Apple, vous y voyez Steve Jobs.

C'est la personnalité.

C'est vrai pour n'importe quelle autre entreprise ; on voit la personnalité des dirigeants dans la technologie qu'ils créent. Nous devrions collectivement aspirer à la version du monde que nous voulons construire. Il est logique d'être utile et de chercher des solutions gagnant-gagnant. Une autre chose qui serait bénéfique serait d'envoyer les PDG des entreprises pionnières dans des retraites de méditation ou en thérapie.

Mettons aussi les politiciens là-dedans.

Ce serait un bon ajout.

Wojciech, merci de partager ce monde et vos perspectives avec nous. Vous occupez une position unique, et nous vous remercions de nous avoir laissé entrer dans le monde que vous voyez et dans votre travail intérieur.

Merci.