Alors quel va être l'avenir des ingénieurs logiciels ? Sont-ils menacés ?

Srinivas, vous travaillez avec Sam Altman depuis deux ans maintenant. Ma question pour vous est : quel genre de leader est Sam Altman ?

Accueillons le fondateur et PDG d'OpenAI.

Nous faisons tout cela parce que nous pensons que l'IA va être une révolution technologique et sociétale.

C'est la meilleure période de toute l'histoire de la technologie. Vraiment.

La seule et unique personne qui va décider de nos avenirs.

Alors, vous me dites que les codeurs doivent évoluer ?

Entraîner des systèmes d'IA avec mille fois plus de données.

Qu'est-ce qu'on obtient ?

D'ici 2030, quelles sont les possibilités dans ChatGPT ?

Projetons-nous dans cinq ans.

Quels sont les filtres et quelles sont les méthodes que vous utiliseriez pour sélectionner le bon profil pour OpenAI ?

L'IA aura tellement de contexte en tant qu'assistant pour moi que ce sera presque...

Comment Sam voit-il l'avenir de l'IA ?

Sam voit l'avenir, selon moi, mieux que quiconque avec qui j'ai travaillé.

Srinivas, avec le type de progrès que l'IA réalise actuellement, quels types d'emplois disparaîtront en premier et quels types d'emplois seront pertinents dans les 10 prochaines années ?

Ce que je peux dire, c'est que c'est...

Avant de plonger dans le vif du sujet, je tiens à remercier Odoo pour son soutien. Écoutez bien, surtout si vous dirigez des équipes, gérez des délais ou jonglez avec plusieurs clients. Parce que vous connaissez la vérité, la gestion de projet aujourd'hui est un pur chaos. Une seconde, c'est un ping WhatsApp, la suivante, ce sont des suivis par e-mail, puis viennent les délais manqués, et boum, votre projet déraille. Et vous ne savez pas du tout ce qui se passe. Demandez à n'importe quel chef de projet et il vous dira que la coordination est un champ de bataille. Mais vous savez quoi ? Ce n'est pas forcément un champ de bataille. Vous pouvez contrôler ce chaos grâce à Odoo Project, un outil qui apporte de la clarté à tout votre chaos. Avec l'application de projet d'Odoo, vous pouvez définir des étapes claires, assigner des tâches, suivre les délais et gérer toute votre équipe, le tout à partir d'un tableau de bord clair. Que vous aimiez la vue Kanban, un diagramme de Gantt détaillé ou une liste de tâches minimaliste, Odoo vous montre exactement où en est chaque projet en un coup d'œil. Et à l'intérieur de chaque tâche, vous pouvez définir la priorité, les délais, planifier les choses à faire, réserver des appels, des réunions, envoyer des e-mails, déposer des notes, et même enregistrer des mises à jour pour votre équipe, le tout en un seul endroit. C'est comme avoir votre salle de commandement entière dans votre poche. Vous pouvez étiqueter des tâches, partager des fichiers et même collaborer en temps réel. Donc plus de confusion, et plus de qui fait quoi. Juste un contrôle total. Et voici le meilleur : votre première application avec Odoo est gratuite à vie. Cela signifie des projets illimités, un accès complet et un coût nul. Donc, si vous en avez assez d'éteindre des incendies et si vous êtes prêt à diriger avec concentration, cliquez sur le lien dans la description et commencez à utiliser Odoo Project dès aujourd'hui. Dirigez plus intelligemment et travaillez mieux avec Odoo.

Alors aujourd'hui, j'ai plusieurs questions et je veux éclairer deux sujets très importants qui, selon moi, seront fascinants pour le public. Numéro un, je veux comprendre comment diable Sam Altman a-t-il pu bâtir une entreprise aussi légendaire qu'OpenAI ? Numéro deux, je veux éclairer les possibilités des agents d'IA. Nous essayons tous de comprendre comment devenir bénéficiaire de la révolution de l'IA et ne pas devenir un dommage collatéral. Avant d'approfondir le sujet, je veux que le public sache qui vous êtes. Alors s'il vous plaît, présentez-vous et dites-nous qui vous êtes et ce que vous faites.

Tout d'abord, ravi de vous rencontrer et je suis très heureux d'être ici. Je m'appelle Srinivas. Je dirige l'équipe d'ingénierie d'OpenAI qui construit tous nos produits. Si vous avez utilisé ChatGPT, si vous êtes un développeur qui a utilisé nos API, ou si vous travaillez avec certains de nos produits ChatGPT ou autres, une grande partie de cela est construite par l'incroyable équipe avec laquelle je travaille. Je suis très enthousiaste d'être ici et je suis heureux de donner un peu plus de détails sur mon parcours. Avant OpenAI, j'ai passé plus d'une décennie chez Meta. J'ai dirigé l'ingénierie de diverses équipes produits et, au cours de mes cinq dernières années, j'ai dirigé l'équipe de recherche en IA appliquée où nous construisions l'IA pour différentes parties des activités de Meta. Avant cela, j'ai travaillé dans quelques startups, puis j'ai fait mes études de premier cycle à l'IIT Madras et mon école doctorale à Wisconsin-Madison.

Je vois. Srinivas, vous travaillez avec Sam Altman depuis deux ans maintenant. Ma question pour vous est la suivante : quel genre de leader est Sam Altman et comment a-t-il fini par bâtir une entreprise aussi légendaire qu'OpenAI ?

Sam est incroyable. C'est un immense privilège pour moi de travailler avec lui. Je pense que ce qui est vraiment spécial chez lui, c'est qu'il est incroyablement visionnaire. Je pense qu'il voit l'avenir plus vite et mieux que n'importe qui d'autre. Juste pour vous donner un exemple, OpenAI est l'une des premières entreprises à avoir vraiment cru que le passage à l'échelle nous mènerait très loin dans l'avancement de l'intelligence. C'était une idée et les gens y réfléchissaient à l'époque. Ce n'était pas comme si OpenAI était la seule entreprise travaillant sur l'IA à ce moment-là. Mais cette croyance incroyable dans cette direction, à savoir que le passage à l'échelle vous mènerait très loin, a été cruciale pour qu'OpenAI soit là où elle est aujourd'hui. Je pense que cette thèse s'est avérée exacte et il faut attribuer un immense mérite à Sam pour l'avoir vue, y avoir cru et avoir insisté dessus. C'est un visionnaire extraordinaire, il est très ambitieux, il se soucie profondément de l'AGI et il est très inspirant de travailler avec lui.

Que fait-il de si délibéré qui le rend si extraordinaire ?

Je pense que cette croyance insensée dans cette direction et la volonté de convaincre les gens de participer à ce voyage incroyable ont permis de bâtir une équipe formidable. C'est la densité de talents la plus élevée que j'aie jamais vue. La capacité d'inspirer un ensemble de personnes extraordinaires pour se rassembler, construire et poursuivre cette mission. Notre mission est de construire une AGI qui profite à toute l'humanité et nous pensons que c'est l'une des plus grandes technologies transformatrices de notre vie. Je pense qu'il est incroyable pour rassembler un groupe de personnes de très haut calibre pour poursuivre cette mission.

Srinivas, chaque entrepreneur à qui je parle, j'essaie souvent de comprendre comment ils ont cultivé leur sens des affaires ? Pour Ritesh Agarwal, c'était le voyage. Pour le fondateur de Cycle Pure Agarbatti, c'était simplement de parler aux gens. Ses compétences relationnelles lui ont permis de trouver des idées commerciales qui ont fini par bâtir cette entreprise de 1 200 crores qui vend des agarbattis. Ainsi, au cours de la vie du fondateur, ils font quelque chose de si délibéré, parfois même par hasard, qui finit par les rendre extraordinaires. Si vous deviez choisir cette habitude ou cette chose que Sam fait délibérément, quelle serait-elle ? Lit-il beaucoup ? Parle-t-il à beaucoup de gens ? Comment a-t-il cette croyance insensée et cet aperçu de l'avenir ?

Bien sûr, il parle à beaucoup de gens. Mais je pense qu'une grande partie de cela est aussi une réflexion fondamentale sur les premiers principes. On relie les points, on comprend vers quoi se dirige la recherche, on discute avec les gens, mais on forme aussi sa propre thèse. On est prêt à pousser l'imagination assez loin. Si certaines croyances sont vraies, par exemple, en revenant à l'exemple du passage à l'échelle, les conséquences sont assez fondamentales. Croire cela il y a cinq ou six ans était en fait assez incroyable. Pour en revenir à cela, la capacité de raisonner à partir des premiers principes et d'être prêt à prendre des risques. Il est assez ambitieux pour être capable d'obtenir autant de capital, pour amener autant de personnes incroyables à se rallier à sa mission, et pour vous faire croire que cette mission vaut la peine d'être poursuivie de manière aussi intense, je pense que c'est vraiment spécial.

Srinivas, vous avez mentionné que le passage à l'échelle vous mènerait loin. En termes de produits de grande consommation, c'est assez évident. Plus on augmente l'échelle, mieux c'est pour l'entreprise. Mais en ce qui concerne OpenAI, vous avez dit que le passage à l'échelle vous mènerait loin était une idée contre-intuitive. Qu'est-ce que cela signifie et comment Sam l'a-t-il compris ?

Une grande partie de la croyance conventionnelle en IA était qu'il fallait des percées dans la recherche, des percées dans de nouveaux algorithmes et techniques de recherche pour construire des systèmes plus intelligents. Par exemple, l'apprentissage profond est compris comme un concept. Nous travaillons sur l'apprentissage profond depuis 30 ou 40 ans. Cela seul n'a pas suffi à stimuler les progrès de l'intelligence. Il fallait des innovations comme les transformeurs, qui était un article de recherche vraiment important paru au milieu des années 2000. Mais les gens croyaient qu'il fallait beaucoup plus d'idées comme celle-là à empiler les unes après les autres pour progresser en intelligence. Dans une certaine mesure, les gens le croient toujours. Mais il y avait une autre croyance. Prenons des algorithmes existants comme l'apprentissage profond et les transformeurs. Si on prend la même idée et qu'on entraîne des systèmes d'IA avec mille fois plus de données et mille fois plus de puissance de calcul, qu'est-ce qu'on obtient ? Votre système sera-t-il mille fois plus intelligent ? C'était une direction dans laquelle peu de gens croyaient ou qu'ils essayaient. L'une des choses qu'OpenAI a très bien faites a été de croire en cette direction et de dire : ce n'est pas que nous ne voulons pas d'innovation algorithmique, nous le ferons, mais nous pouvons construire des systèmes vraiment intelligents même avec les algorithmes existants en ayant mille fois ou un million de fois plus de données et plus de puissance de calcul.

En ce qui concerne Sam, comment voit-il l'avenir de l'IA et ce qu'elle pourrait faire au monde dans les cinq prochaines années ?

Nous avons construit des systèmes d'IA ces dernières années qui sont bien plus intelligents qu'ils ne l'ont jamais été. Le rythme auquel la recherche et les systèmes s'améliorent est sans précédent. Projetez-vous simplement de 2020 à 2025. Vous avez maintenant des systèmes d'IA auxquels les gens peuvent parler de manière très naturelle. ChatGPT est arrivé il y a deux ans et demi. Nous sommes à ce point d'inflexion vraiment incroyable dans l'histoire de la technologie où, tous les quelques mois, vous obtenez des systèmes complètement nouveaux dotés de nouvelles capacités. ChatGPT est arrivé il y a deux ans et demi. Il y a moins d'un an, nous avons maintenant un nouveau paradigme appelé systèmes de raisonnement. O3, O4, ce sont les derniers de notre série de raisonnement. Cela signifie que vous pouvez en fait poser des questions plus complexes aux systèmes d'IA. Ils peuvent prendre plus de temps pour faire la recherche et réfléchir à un problème et revenir vers vous avec une réponse. Tout comme je vous le demanderais, si je vous demande combien font 2+2, vous allez me donner une réponse immédiatement. Si je vous pose une question complexe sur l'économie de l'Inde dans 10 ans, vous allez devoir y réfléchir un peu. Nous, en tant qu'humains, savons comment réfléchir pendant différentes périodes et analyser nos pensées avant de donner des réponses. Avant d'avoir des systèmes de raisonnement, le système d'IA réfléchissait dans le même laps de temps indépendamment de la complexité de la question. Maintenant, avec les systèmes de raisonnement, vous pouvez en fait prendre plus de temps pour des questions plus complexes. C'est un changement très fondamental. Nous parlons de cela comme de l'ère des agents. Par agents, nous entendons des systèmes d'IA capables d'effectuer des tâches plus complexes en votre nom. Il ne s'agit plus seulement de répondre à des questions, il s'agit d'agir avec autonomie. La complexité de ces tâches commence à croître avec le temps. Nous avons ce produit appelé Deep Research. Vous pouvez l'utiliser pour faire toutes sortes d'analyses intéressantes. Vous pouvez faire une analyse des startups d'IA au cours des trois dernières années. Il ira analyser des centaines de startups, compilera un rapport et prendra peut-être 10 minutes pour revenir. Cela aurait pris à un humain plusieurs heures de travail. C'est un bon exemple de système réfléchissant pendant 20 minutes à la fois pour produire un rapport. Vous pouvez imaginer qu'au cours des prochaines années, la complexité de ce que vous pouvez demander à ces systèmes va croître. Il pourra peut-être commencer à réfléchir en heures ou sur des jours. Cela signifie que la complexité de ce que vous pouvez accomplir sera beaucoup plus grande.

Pouvez-vous me donner un exemple de ce qui se passerait dans les cinq prochaines années ? Disons que nous sommes actuellement en 2025, d'ici 2030, quelles sont les possibilités dans ChatGPT ?

Je l'envisagerais globalement comme ChatGPT et toutes les choses liées aux agents que nous faisons. Laissez-moi l'ancrer dans un cas d'utilisation concret. Je suis ingénieur logiciel et nous écrivons tous du code dans notre profession. L'exemple le plus récent d'un produit que nous avons construit et qui est autonome s'appelle Codex. Imaginez que vous vouliez construire une fonctionnalité pour votre produit. Au lieu d'écrire le code vous-même, vous demandez simplement à l'IA : j'ai cette fonctionnalité en tête, voici mon code source, peux-tu générer le code pour cela ? Elle analysera le code source, prendra 10 à 15 minutes, puis reviendra vers vous avec le code. Bien sûr, vous devez toujours le réviser pour vous assurer qu'il est correct. Je pose le contexte pour l'année 2025, qui est le début des expériences avec agents où l'IA effectue un travail de connaissance incroyablement intéressant et important. Si je devais me projeter dans cinq ans, l'ingénierie logicielle sera complètement transformée. La façon dont nous écrirons des logiciels dans cinq ans ne ressemblera en rien à la façon dont nous en écrivons aujourd'hui.

À quoi cela va-t-il ressembler ?

Ce sera entièrement géré par des agents. Aujourd'hui, vous devez encore réviser le code. Vous pouvez probablement lui demander d'écrire des fonctionnalités qui vous auraient pris plusieurs heures et il le fera. Mais l'ingénierie logicielle reste un exercice complexe. Je passe beaucoup de temps à réfléchir à des projets qui pourraient me prendre plusieurs jours. Aujourd'hui, je ne pense pas qu'une IA puisse tout à fait faire cela. Dans cinq ans, je pense qu'elle pourra absolument le faire. Elle pourra effectuer des tâches d'une complexité de plusieurs jours ou de plusieurs mois. Une autre dimension est qu'en tant qu'ingénieurs logiciels, nous n'écrivons pas seulement du code, il y a beaucoup de contexte que nous absorbons dans notre vie réelle quand nous travaillons. Je parle à mes pairs et collègues et j'absorbe tout ce contexte. Un futur assistant de codage par IA pourra absorber automatiquement tout mon contexte de sorte que je n'aurai pas à lui donner des instructions de manière aussi détaillée. Je devrai toujours lui dire ce que je veux, au final nous devons décider quelles sont nos valeurs et ce que nous voulons, mais l'IA aura tellement de contexte en tant qu'assistant qu'elle sera presque une extension virtuelle de moi-même, assistant à toutes mes réunions, comprenant quelles sont mes relations au travail, quels documents m'intéressent, et lisant tout cela. Peut-être qu'elle me suggérera même des choses comme quelque chose que j'aurais pu manquer. Être plus proactive, effectuer des tâches plus complexes en mon nom et apprendre à se coordonner avec d'autres humains va être amusant et intéressant.

Alors quel va être l'avenir des ingénieurs logiciels ? Sont-ils menacés ?

La nature de l'ingénierie logicielle est en train de changer fondamentalement, cela ne fait aucun doute. Mais je crois toujours qu'il y a quelques dimensions différentes à cela. Vous devez passer, en tant qu'ingénieur logiciel, de passer la majeure partie de votre temps à coder à des tâches de plus haut niveau. Cela vous libérera pour penser plus grand. Imaginez que vous ayez beaucoup de stagiaires aujourd'hui qui peuvent vous aider à écrire du code, que feriez-vous ? Si vous n'aviez pas à rester devant votre terminal et à écrire tout le code vous-même, vous auriez besoin d'élever votre niveau d'abstraction pour pouvoir guider les stagiaires à faire ce que vous voulez qu'ils fassent. Je pense que c'est un bon modèle mental où chaque individu sera beaucoup plus productif et vous pourrez accomplir beaucoup plus. Vous devez envisager que votre rôle change de simplement faire du codage à rêver de ce que vous voulez accomplir avec le logiciel. Chaque ingénieur va devoir penser comme un fondateur quand on dispose d'outils aussi incroyablement puissants.

Nous passons simplement d'emplois tactiques à des emplois stratégiques. Absolument. Pouvez-vous m'aider à comprendre cela avec un exemple, Srinivas ?

Utilisez-vous des logiciels chez Think School ?

Oui.

Et avez-vous une équipe d'ingénierie logicielle ?

Non, nous n'en avons pas. Nous avons une équipe no-code.

Vous n'avez pas d'équipe de code, mais imaginez toutes les choses qui vous importaient. Que voulez-vous construire ? Vous voulez construire une audience pour votre podcast, n'est-ce pas ? Peut-être voulez-vous créer une communauté.

Oui, we want to create a learning management system (LMS).

Vous voulez créer un système de gestion de l'apprentissage. YouTube est idéal pour partager votre podcast et obtenir des commentaires, mais vous voulez peut-être construire une relation avec votre public. Peut-être voulez-vous leur demander ce qu'ils veulent entendre, et vous n'avez pas nécessairement tous les outils pour faire tout cela. Si vous aviez un ingénieur logiciel exceptionnel aujourd'hui, je pense qu'il serait capable d'accomplir 10 fois ce qu'il peut accomplir aujourd'hui. En tant que fondateur, vous allez disposer de ces outils incroyablement puissants pour vous aider à construire les choses que vous voulez avec beaucoup moins d'efforts à l'avenir qu'aujourd'hui. Je ne pense pas que les emplois disparaîtront, mais ma conviction est qu'il y a une telle demande de logiciels dans le monde qu'elle sera comblée par des personnes capables de s'adapter et de s'ajuster avec l'IA.

Je vais donner un exemple, Srinivas, et vous pourrez me corriger si je me trompe. Si j'ai besoin d'un système de gestion de l'apprentissage, aujourd'hui la gamification est un gros problème. Si je dois gamifier l'ensemble de mon LMS, cela va me coûter beaucoup d'argent car cela nécessite un codage complexe et beaucoup de tâches techniques à accomplir. Mais je sais pertinemment que la gamification est importante car elle incite les gens à terminer le cours. Êtes-vous donc en train de me dire que les codeurs doivent passer du 'comment construire des choses' au 'qu'est-ce qui doit être construit et pourquoi' ?

Absolument, je dirais que c'est une grande partie de cela. L'autre chose que je vous dirais est d'élever votre niveau d'abstraction de sorte qu'au lieu de simplement penser à la manière de construire les choses, vous pensiez à ce que vous voulez construire. Puisque vous avez évoqué la gamification, c'est finalement un outil qui vous aide à atteindre un objectif de plus haut niveau. Vous voulez que vos lecteurs soient engagés et trouvent de la valeur. Parfois, ces notifications et autres astuces que nous utilisons sont assez agaçantes. L'IA vous aidera à résoudre ce problème également car vous avez maintenant des systèmes capables de réfléchir à des objectifs et de raisonner sur des périodes beaucoup plus longues. Vous pouvez maintenant construire des systèmes où les incitations pour vous et votre public sont plus alignées. L'un des défis que nous rencontrons avec beaucoup de systèmes aujourd'hui est que nous essayons de manipuler ces choses pour attirer l'attention. Avec l'IA, vous pouvez réellement réimaginer la façon d'aligner vos objectifs de création d'audience avec l'objectif de votre public d'apprendre quelque chose d'utile. Savoir comment atteindre ces deux choses ensemble serait vraiment amusant. Je pense que c'est un excellent exemple de la façon dont l'IA transforme l'éducation. Elle peut être personnalisée et créer des résultats à plus long terme pour les gens.

Srinivas, puisque vous êtes l'un des leaders d'OpenAI, la question que je tente souvent de résoudre est : comment construire une culture d'entreprise forte ? C'est un problème évolutif que l'on doit continuer à résoudre à chaque étape. Compte tenu du fait qu'OpenAI est une organisation hyper-compétitive, en tant qu'un des leaders d'OpenAI, comment construisez-vous cette culture ?

La culture est extrêmement importante et beaucoup d'entre nous chez OpenAI, moi y compris, y réfléchissent beaucoup. Cela commence par la mission de l'entreprise. La mission d'OpenAI est de construire une AGI bénéfique pour toute l'humanité. Premièrement, vous voulez attirer un groupe de personnes incroyablement passionnées par la mission. Parfois, nous appelons cela 'ressentir l'AGI'. Cette passion est absolument importante. Chaque organisation au sein de l'entreprise devrait avoir une mission profondément inspirante pour les personnes qui y travaillent. Un gros travail consiste à définir pourquoi c'est important et utile pour le monde, puis à trouver des personnes qui partagent les mêmes idées. Ensuite, il y a un ensemble de valeurs qui nous tiennent à cœur. Pour nous, c'est ressentir l'AGI, le déploiement itératif, et nous appelons cela parfois 'expédier de la joie' (shipping joy). Nous voulons lancer des choses que les gens aiment vraiment et auxquelles ils tiennent. L'accueil que nous avons reçu pour ChatGPT était tout simplement incroyable. Des gens l'utilisent pour l'éducation, la santé, et pour avoir des conversations profondément personnelles. Nous prenons cette responsabilité très au sérieux, mais nous voulons aussi que les gens aiment les produits que nous lançons. Nous appelons cela expédier de la joie. Le déploiement itératif est une stratégie très importante. La sécurité est au cœur de nos préoccupations. Ce sont quelques-unes des valeurs que nous vivons au quotidien. Vous devez trouver des personnes partageant les mêmes idées lors des entretiens. La culture, c'est aussi les comportements que vous récompensez et renforcez, et ce que vous désignez comme important. Cela passe par tout cela.

Compris. Quelle est votre philosophie de recrutement ? Si je vous donne un groupe de 100 personnes, extrêmement intelligentes et compétentes, quels sont les filtres et les méthodes que vous utiliseriez pour filtrer le profil idéal pour OpenAI ?

Cela revient à certaines des choses dont nous avons parlé. La compétence technique est absolument importante, mais c'est aussi une question de valeurs et d'alignement avec la mission. Des gens formidables peuvent travailler dans plein d'endroits différents, alors pourquoi sont-ils enthousiastes à l'idée de travailler chez OpenAI ? Quel est l'étincelle qui les ferait se réveiller chaque matin et sauter du lit pour être ici ? Vous voulez leur parler et comprendre ce qui les motive vraiment. Ont-ils soif d'apprendre ? Travaillent-ils vraiment bien avec les autres ? Sont-ils humbles ? L'une des valeurs dont nous avons parlé est d'agir avec humilité. Il y a beaucoup de choses que nous ne savons pas, surtout avec une technologie aussi transformative que l'IA. Notre mission est de veiller à ce qu'elle profite à toute l'humanité, mais nous sommes aussi assez humbles pour savoir qu'il y a des choses que nous ignorons et nous voulons adopter une position neutre sur celles-ci. Nous ne voulons pas créer de positions extrêmes quand il y a tant d'incertitude. C'est au cœur de l'action avec humilité, qui consiste à dire que l'on ne sait pas mais à être prêt à investir dans la recherche qui aide à mieux comprendre. Une fois que l'on comprend mieux, on peut agir. Encore une fois, cela renvoie à la philosophie du déploiement itératif. Vous voulez trouver des personnes qui affichent ces valeurs.

Entendu. Srinivas, en ce qui concerne l'entretien, tout le monde peut fabriquer ses réponses une fois qu'il a compris les valeurs d'OpenAI. Quel genre de questions posez-vous pour découvrir la vérité ?

Je vais être honnête et dire que les entretiens, c'est difficile. Ce n'est pas comme si nous avions une solution magique parfaite et que tout se passait toujours bien pour tout le monde. Nous faisons de notre mieux. Nous essayons de demander des exemples réels où les gens ont montré ces valeurs. C'est une conversation. Quand vous avez vécu des exemples réels, il est difficile d'inventer des choses à la volée. Votre expérience doit en témoigner. Espérons que cela nous donne une idée réelle de qui est cette personne. Mais nous faisons des erreurs. Toutes les personnes que nous embauchons ne conviennent pas forcément, et quand cela arrive, il faut aussi savoir le reconnaître.

Quel est votre taux de réussite ?

Il est assez élevé. La plupart des personnes que nous embauchons sont fantastiques.

95 % ? Absolument. Mais vous venez de dire que les entretiens étaient difficiles.

Je pense qu'il y a toujours des exceptions et que 100 % des recrutements ne vont pas fonctionner.

Parce qu'au début j'étais content que même vous trouviez les entretiens très difficiles, mais après vous avez dit 95 %.

Ce que je voulais dire, c'est que 95 % des personnes que nous embauchons sont fantastiques. Nous n'embauchons pas 95 % des personnes que nous recevons en entretien.

Non, je dis que le simple fait que vous finissiez par embaucher les bonnes personnes 95 % du temps, c'est incroyable.

Oui, je le pense.

Magnifique. Srinivas, je veux maintenant vous parler des agents. Premièrement, pouvez-vous expliquer aux gens en termes simples en quoi les agents sont différents du ChatGPT normal ?

Les agents sont des systèmes d'IA qui entreprennent des actions et effectuent des tâches en votre nom. ChatGPT devient également autonome. La principale différence par rapport à il y a un an est que ChatGPT a été utilisé principalement comme un système de réponse. Nous voulons le faire évoluer vers un système capable de faire des choses pour vous, comme réserver un voyage ou vous aider à remplir votre déclaration d'impôts. Ce sont des choses complexes que nous faisons dans nos vies et nous avons cette opportunité incroyable pour les systèmes d'IA d'aider dans ces tâches. Comme nous l'avons évoqué plus tôt, nous avons des modèles intelligents appelés modèles de raisonnement qui permettent des produits à base d'agents. Je vais vous donner des exemples de trois produits à base d'agents que nous avons construits au cours des six derniers mois. Deep Research est la capacité pour vous de demander à ChatGPT de compiler un rapport de recherche pour analyser des options de voiture ou des tendances du marché, et il peut revenir en 15 minutes avec un travail qui vous aurait pris plusieurs jours. C'est un exemple de système à base d'agent. Le deuxième produit est Operator. Imaginez vouloir faire une réservation pour dîner. Operator apprend à utiliser des sites Web comme le ferait un humain. Il sait où cliquer et comment remplir des formulaires. Vous donnez une simple consigne et il peut aller faire cette tâche pour vous. Le troisième exemple dont j'ai parlé plus tôt est Codex. En tant qu'ingénieur logiciel, j'ai un système d'IA auquel je peux donner des directives pour générer du code pour des fonctionnalités ou corriger des bugs. Ce n'est pas seulement du codage interactif assisté par l'IA où l'IA m'aide pendant que je travaille. Il existe un deuxième mode qui est autonome, où je dis à l'IA d'aller construire une fonctionnalité et de revenir vers moi. Ce sont trois exemples de produits à base d'agents que nous avons construits. Ce n'est pas seulement nous ; les développeurs construisent des choses incroyables sur nos API avec notre kit de développement (SDK) d'agents. Nous allons voir beaucoup d'applications intéressantes. Même en entreprise, imaginez construire un système intelligent pour vous aider à interviewer des candidats ou automatiser des flux de travail pour les évaluer.

Compris. Srinivas, avec le genre de progrès que l'IA fait actuellement, quel genre de métiers disparaîtront en premier et quel genre de métiers seront pertinents dans les 10 prochaines années ?

Il est vraiment difficile de prédire à 10 ans. Ce que je peux dire, c'est que nous devons être très adaptables. La frontière de ce que l'IA est capable de faire change tous les quelques mois. Dans n'importe quelle profession, vous devez être prêt à utiliser l'IA pour vous rendre plus productif et être parfaitement familiarisé avec les outils. Une autre chose importante est d'apprendre à poser de bonnes questions à un système d'IA. Beaucoup d'entre nous à l'école ont été formés pour donner des réponses. Maintenant, vous avez un système qui vous donne des réponses. Nous devons changer notre façon de penser pour comprendre quelles sont les questions utiles et importantes à poser. Je pense qu'il y a un travail qui ne disparaîtra pas, même dans 10 ans, et c'est celui de ce que j'appellerais un façonneur de goût.

Façonneur de goût ? D'accord. Qu'est-ce que cela signifie ?

C'est la personne qui décide de ce qui est bien. Imaginez que vous ayez ce système d'IA incroyable qui est comme un génie capable de tout faire. Le génie fera tout ce que vous lui direz de faire. Quelle est la chose qui est importante ? Quand on parle de ce qui est important, il faut savoir ce que les gens vont aimer. En fin de compte, nous serons toujours une société humaine et nous allons réfléchir à ce que les humains valorisent. Un façonneur de goût est quelqu'un qui a un très bon goût pour comprendre ce que les humains voudront et ce qui leur importera.

D'accord. Pouvez-vous me donner un exemple ?

Prenons les films. La façon dont les films seront réalisés à l'avenir sera très différente. Vous allez avoir l'IA pour vous aider à faire des films. Elle va vous rendre plus productif et faciliter la création. Mais il reste un travail vraiment important : décider quels films les gens aimeront. L'IA peut vous aider, mais je pense que vous avez toujours besoin d'un humain pour apporter ce sens du goût afin de guider l'IA à créer quelque chose que vous pensez que les gens aimeront.

Pouvez-vous me donner un autre exemple ? Pour les films, j'ai compris.

Laissez-moi revenir à un domaine scientifique. Il reste beaucoup de questions ouvertes difficiles et importantes dans l'énergie, la physique et la médecine. Si vous avez une IA incroyablement intelligente, vous devez savoir dans quelles directions vous voulez que l'IA aille. Le travail du façonneur de goût consiste alors à décider quelle direction donner à l'IA. Cela vient de l'intuition, du goût, et d'un niveau de compréhension et de profondeur dans le domaine. Je ne pense pas que ce travail va disparaître. Vous avez cet outil incroyablement puissant à votre disposition et vous devez apprendre à vous en servir. Ce sera un travail important de l'avenir.

Pensez-vous que le goût peut être fabriqué ? Prenons la poupée Labubu. Si elle était sortie comme un produit sur le marché, personne ne l'aurait aimée. Mais parce qu'elle a fait l'objet de tant de battage médiatique, tout le monde en veut une aujourd'hui. Il y a un livre qui s'appelle 'La Fabrication du consentement', qui explique comment le marketing peut être utilisé pour fabriquer le consentement et comment le battage médiatique peut faire tomber les gens amoureux de produits. En utilisant toutes les données du monde, on peut pratiquement fabriquer le consentement. Étant donné que tout le monde interagit aujourd'hui avec des modèles d'IA, il y a beaucoup de données sur les questions que les gens posent. Sur cette base, on peut comprendre ce que les gens veulent sans intuition humaine. Si nous pouvons fabriquer le consentement avec des données, croyez-vous que le rôle de façonneur de goût sera toujours pertinent ?

Les données sont évidemment importantes pour comprendre ce qui importe aux humains. Je pense que c'est un ingrédient, mais il n'est pas certain que ce soit le seul. La société est extrêmement dynamique et les gens s'inspirent les uns les autres. Je ne pense pas que les données d'aujourd'hui capturent 100 % de la prise de décision humaine. Vous aurez des systèmes d'IA qui vous guideront, mais je pense toujours qu'il y a quelque chose d'intuitif dans ce que nous valorisons tous et pour lequel un humain sera utile.

J'ai lu ce livre intitulé '21 leçons pour le XXIe siècle' de Yuval Noah Harari. Il dit que chaque fois que le monde devient productif, certains emplois disparaissent. Quand le camion à béton est arrivé, les ouvriers qui coulaient le béton n'étaient plus nécessaires. Mais le camion n'a pas multiplié la productivité par 1000. La révolution Internet a été plus rapide et a rendu les humains bien plus productifs. Maintenant, nous regardons la révolution de l'IA, qui va rendre les humains exponentiellement plus productifs. Harari dit que la productivité de l'humanité pourrait augmenter si rapidement que le bas de la pyramide pourrait trouver très difficile de rattraper son retard. Par exemple, dans certains villages en Inde, si vous leur dites ce que GPT peut faire, ils le considèreront comme Dieu. C'est l'écart que nous observons. Avec Internet, nous avons eu le temps de nous y habituer. Mais l'IA avance à une vitesse sans précédent. Comment pensez-vous que l'humanité va s'adapter ?

Imaginez que vous ayez un ingénieur logiciel exceptionnel aujourd'hui. Je pense qu'il sera capable d'accomplir 10 fois ce qu'il peut accomplir aujourd'hui. En tant que fondateur, vous allez disposer de ces outils incroyablement puissants pour vous aider à construire les choses que vous voulez et vous allez pouvoir accomplir cela avec beaucoup moins d'efforts à l'avenir. Je ne pense pas que les emplois changeront, mais ma conviction est qu'il y a une telle demande de logiciels dans le monde qu'elle sera comblée par des personnes capables et qui peuvent s'adapter et s'ajuster avec l'IA.

Si j'ai besoin d'un système de gestion de l'apprentissage, aujourd'hui la gamification est un gros problème. Si je dois gamifier l'ensemble de mon LMS, cela va me coûter beaucoup d'argent parce que cela nécessite un codage complexe et des tâches techniques. Mais je sais de source sûre que la gamification est importante car elle incite les gens à terminer le cours. Alors, êtes-vous en tant que tel en train de me dire que les codeurs doivent passer du comment construire des choses au quoi construire et pourquoi ?

Absolument. Je dirais que c'est une grande partie de cela. Une chose que je vous dirais est d'élever votre niveau d'abstraction pour qu'au lieu de simplement penser à la manière de construire les choses, vous pensiez à ce que vous voulez construire. Puisque vous avez parlé de gamification, c'est finalement un outil qui vous aide à atteindre un objectif de niveau supérieur. Vous voulez que vos lecteurs soient engagés et trouvent de la valeur. Parfois, ces notifications et autres astuces que nous faisons sont assez agaçantes. L'IA vous aidera également à résoudre ce problème car vous disposez désormais de systèmes capables de réfléchir à des objectifs et de raisonner sur des périodes beaucoup plus longues. Je pense que vous pouvez maintenant construire des systèmes où les incitations pour vous et votre public sont plus alignées. L'un des défis que nous avons avec les systèmes aujourd'hui est que nous essayons de manipuler ces choses parce que vous voulez l'attention de votre public. Avec l'IA, vous pouvez réellement réimaginer la manière d'aligner vos objectifs de création d'audience avec l'objectif de votre public d'apprendre quelque chose d'utile. Savoir comment accomplir ces deux choses ensemble serait en fait vraiment amusant. Je pense que c'est un excellent exemple de la façon dont l'IA transforme l'éducation. Elle peut être personnalisée et créer des résultats à plus long terme pour les gens.

Srinivas, puisque vous êtes l'un des leaders d'OpenAI, la question que j'essaie souvent de résoudre est : comment construire une excellente culture dans mon organisation ? Quand je parle à mes amis fondateurs, ils ont tous la même problématique évolutive à résoudre à chaque étape. Compte tenu du fait qu'OpenAI est une organisation hyper-compétitive, en tant qu'un des leaders d'OpenAI, comment construisez-vous cette culture ?

La culture est extrêmement importante et beaucoup d'entre nous chez OpenAI, moi y compris, y pensons beaucoup. Cela commence par la mission de l'entreprise. La mission d'OpenAI est de construire une AGI bénéfique pour toute l'humanité. D'abord, vous voulez attirer un groupe de personnes incroyablement passionnées par la mission. Nous pouvons utiliser tout un tas de techniques pour comprendre comment faire cela, mais la passion et la mission, parfois nous appelons cela ressentir l'AGI, est absolument importante. Chaque organisation au sein de l'entreprise devrait avoir une mission profondément inspirante pour les personnes qui viennent y travailler. Un grand travail consiste à formuler pourquoi c'est important et utile pour le monde, puis à trouver des gens qui partagent les mêmes idées. Ensuite, il y a un ensemble de valeurs qui vous tiennent à cœur. Pour nous, c'est ressentir l'AGI, le déploiement itératif, et nous appelons cela parfois expédier de la joie. Nous voulons lancer des choses que les gens aiment vraiment et auxquelles ils tiennent. L'accueil que nous avons reçu pour ChatGPT est tout simplement incroyable. Les gens l'utilisent pour l'éducation, la santé, et pour avoir des conversations profondément personnelles. Nous prenons cette responsabilité très au sérieux, mais nous voulons aussi que les gens aiment les produits que nous lançons. Alors nous appelons cela expédier de la joie. J'ai parlé de déploiement itératif, qui est une stratégie vraiment importante. La sécurité est super centrale pour nous, et j'ai parlé de ressentir l'AGI. Ce sont quelques-unes des valeurs que nous vivons et respirons. Vous devez trouver des gens qui partagent ces idées en leur parlant lors des entretiens. La culture, c'est aussi les comportements que vous récompensez, renforcez et dont vous parlez comme étant importants. Cela passe par tout cela.

Quelle est votre philosophie d'embauche ? Si je vous donne un groupe de 100 personnes, extrêmement intelligentes et compétentes, quels sont les filtres et méthodes que vous utiliseriez pour sélectionner le bon candidat pour OpenAI ?

Cela revient à certaines des choses dont nous avons parlé. La compétence technique est absolument importante, but c'est aussi une question d'alignement sur les valeurs et la mission. Les gens formidables peuvent travailler dans plein d'endroits différents, alors pourquoi sont-ils enthousiastes à l'idée de travailler chez OpenAI ? Quelle est l'étincelle qui les ferait se réveiller chaque matin et sauter du lit pour être ici ? Vous voulez leur parler et comprendre ce qui les motive vraiment. Comment ont-ils soif d'apprendre ? Travaillent-ils vraiment bien avec les autres ? Sont-ils humbles ? L'une des valeurs dont nous avons parlé est d'agir avec humilité. Il y a beaucoup de choses que nous ne savons pas, surtout avec l'IA qui est une technologie tellement transformative. Notre mission est de s'assurer qu'elle bénéficie à toute l'humanité, mais nous sommes aussi assez humbles pour savoir qu'il y a certaines choses que nous ne savons pas et nous voulons adopter une position neutre sur celles-ci. Nous ne voulons pas créer de positions extrêmes quand il y a tant d'incertitude. C'est au cœur de l'action avec humilité : dire qu'on ne sait pas mais être prêt à investir dans la recherche qui aidera à mieux comprendre. Une fois qu'on comprend mieux, on peut agir. Encore une fois, cela revient à la philosophie du déploiement itératif. Vous voulez trouver des personnes qui affichent ces valeurs.

Srinivas, quand il s'agit de l'entretien, tout le monde peut fabriquer ses réponses une fois qu'il a compris les valeurs d'OpenAI. Quel genre de questions posez-vous pour découvrir la vérité réelle ?

Je vais être honnête et dire que les entretiens sont difficiles. Ce n'est pas comme si nous avions une chose magique parfaite et que tout le monde réussissait. Nous faisons de notre mieux. Nous essayons de demander des exemples réels où les gens ont montré ces valeurs. Je pense que vous creusez aussi ; c'est une conversation. Quand vous avez vécu des exemples réels, il est difficile d'inventer des choses sur le champ. Votre expérience doit en témoigner. Espérons que cela nous donne une idée réelle de qui est cette personne. Mais comme je l'ai dit, nous faisons des erreurs. Toutes les personnes que nous embauchons ne conviennent pas et parfois, quand cela arrive, il faut aussi savoir le reconnaître.

Quel est votre taux de réussite ?

C'est assez élevé. La plupart des gens que nous embauchons sont fantastiques. Nous n'embauchons pas 95 % des personnes que nous recevons en entretien. Je dis que le simple fait que vous finissiez par embaucher les bonnes personnes 95 % du temps est incroyable. Oui, je le pense.

Magnifique. Srinivas, maintenant je veux vous parler des agents. Tout d'abord, pouvez-vous expliquer aux gens en termes simples en quoi les agents sont différents du ChatGPT normal ?

Les agents sont des systèmes d'IA qui entreprennent des actions et effectuent des tâches en votre nom. ChatGPT devient également autonome. La principale différence par rapport à il y a un an est que ChatGPT a été utilisé principalement comme un système de réponse. Nous voulons le faire évoluer vers un système capable de faire des choses pour vous, comme réserver un voyage ou vous aider à remplir votre déclaration d'impôts. Ce sont des choses complexes que nous faisons dans nos vies et nous avons cette opportunité incroyable pour les systèmes d'IA d'aider dans ces tâches. Comme nous l'avons dit plus tôt, nous avons des modèles intelligents appelés modèles de raisonnement qui permettent désormais des produits à base d'agents. Je vais vous donner des exemples de trois produits à base d'agents que nous avons construits au cours des six derniers mois. Deep Research est la capacité pour vous de demander à ChatGPT de compiler un rapport de recherche pour analyser des options de voiture, et il peut aller faire le travail et revenir en 15 minutes, ce qui vous aurait probablement pris plusieurs jours. C'est un exemple de système autonome. Le deuxième produit est Operator. Imaginez vouloir faire une réservation pour dîner. Nous avons Operator qui apprend à utiliser des sites Web comme le ferait un humain. Il sait où cliquer et comment remplir des formulaires. Vous doniez une simple consigne et il peut aller faire ce travail pour vous. Le troisième exemple dont j'ai parlé plus tôt est Codex. En tant qu'ingénieur logiciel, j'ai un système d'IA auquel je peux donner des directives pour générer du code pour des fonctionnalités ou corriger des bugs. Ce n'est pas seulement du codage assisté par l'IA interactif où l'IA m'aide pendant que je fais mon travail. Il y a un deuxième mode qui est autonome, où je dis à l'IA de construire une fonctionnalité et de revenir vers moi. Ce sont trois exemples de produits à base d'agents que nous avons construits. Ce n'est pas seulement nous ; les développeurs construisent des choses incroyables au-dessus de nos API et nous les avons aidés avec un kit de développement (SDK) d'agents. Nous allons voir beaucoup d'applications vraiment intéressantes. En entreprise, imaginez construire un système intelligent pour vous aider à interviewer des candidats. Je suis sûr qu'il y a une startup qui va construire cela. J'en connais certaines qui essaient des choses intéressantes ici. Cela peut vous aider à automatiser beaucoup de ces tâches ou à être plus intelligent dans votre recherche de candidats.

Srinivas, avec le genre de progrès que l'IA fait actuellement, quel genre de métiers disparaîtront en premier et quel genre de métiers seront pertinents dans les 10 prochaines années ?

C'est vraiment difficile de prédire à 10 ans. Ce que je peux dire, c'est que nous devons être très adaptables. La frontière de ce que l'IA est capable de faire change tous les quelques mois. Dans n'importe quelle profession, vous devez être prêt à utiliser l'IA pour vous rendre plus productif et être parfaitement familiarisé avec les outils. Une autre chose importante est d'apprendre à poser de bonnes questions à un système d'IA. Beaucoup d'entre nous à l'école ont été formés pour donner des réponses. Maintenant, vous avez un système qui vous donne des réponses. Le plus important est de comprendre quelles questions utiles et importantes poser. Je pense qu'il y a un travail qui ne disparaîtra pas, même dans 10 ans : le travail de ce que j'appellerais un façonneur de goût. Façonneur de goût ? Oui. D'accord, qu'est-ce que cela signifie ? C'est la personne qui décide de ce qui est bien. Imaginez que vous ayez ce système d'IA incroyable qui est comme un génie auquel vous pouvez demander de faire n'importe quoi. Le génie fera tout ce qu'il vous dira de faire. Maintenant, quelle est la chose qui est importante ? Que lui demandez-vous de faire ? Vous devez savoir ce que les gens vont aimer. En fin de compte, nous resterons une société humaine et nous penserons à ce que les humains valorisent. Un façonneur de goût est quelqu'un qui a un très bon goût pour comprendre ce que les humains voudront et ce qui leur importera. Pouvez-vous me donner un exemple ? Prenons les films. La façon dont les films seront réalisés à l'avenir sera très différente. Vous allez avoir l'IA pour vous aider à faire des films et vous rendre plus productif. Mais il y a toujours un travail vraiment important : décider quels films les gens aimeront. L'IA peut vous aider, mais vous avez toujours besoin d'un humain pour apporter ce sens du goût afin de guider l'IA à créer quelque chose que vous pensez que les gens aimeront. Pouvez-vous me donner un autre exemple ? Pour les films, j'ai compris. Laissez-moi revenir à un domaine scientifique. Il reste beaucoup de questions ouvertes difficiles et importantes dans l'énergie, la physique et la médecine. Si vous avez une IA incroyablement intelligente, vous devez savoir dans quelles directions vous voulez que l'IA aille. Le travail d'un façonneur de goût consiste alors à décider quelle direction donner à l'IA. Cela vient de beaucoup d'intuition, de goût, et d'un niveau de compréhension et de profondeur dans le domaine. Donc je ne pense pas que ce travail va disparaître. Vous avez cet outil incroyablement puissant à votre disposition et vous devez apprendre à vous en servir. Ce sera un travail important de l'avenir.

Pensez-vous que le goût peut être fabriqué ? Qu'entendez-vous par fabriqué ? Prenons la poupée Labubu. Si elle était sortie comme un produit sur le marché, personne ne l'aurait aimée. Mais parce qu'elle a fait l'objet de tant de battage médiatique, tout le monde veut une poupée Labubu aujourd'hui. Il y a un livre intitulé 'La Fabrication du consentement' qui parle de la manière dont le marketing peut être utilisé pour fabriquer le consentement. Comment le battage médiatique peut être utilisé pour faire tomber les gens amoureux de certains produits qui n'auraient autrement jamais reçu ce genre d'attention. C'est pourquoi je crois qu'en utilisant toutes les données du monde, on peut pratiquement fabriquer le consentement. Étant donné que tout le monde interagit aujourd'hui avec des modèles d'IA, il y a beaucoup de données sur les questions que les gens posent. Sur la base de ces questions, on peut comprendre exactement ce que les gens veulent sans intuition humaine. Si nous pouvons fabriquer le consentement avec toutes les données que nous avons aujourd'hui, croyez-vous que ce poste sera toujours pertinent ?

Les données sont évidemment importantes pour comprendre ce qui importera aux humains. Je pense que c'est un ingrédient, mais il ne m'apparaît pas clairement que ce soit le seul ingrédient. La société est extrêmement dynamique et les gens s'inspirent les uns les autres. Je ne pense pas que les données d'aujourd'hui capturent 100 % de la prise de décision humaine. Vous aurez des systèmes d'IA qui vous aideront et vous guideront, mais je pense tout de même qu'il y a quelque chose d'intuitif dans ce que nous valorisons tous et pour lequel un humain sera utile.

J'ai lu ce livre intitulé '21 leçons pour le XXIe siècle' de Yuval Noah Harari. Il dit que chaque fois que le monde devient productif, certains emplois disparaissent. Quand le camion à béton est arrivé, les travailleurs nécessaires pour couler le béton n'étaient plus requis. Mais le camion n'a pas fait grimper la productivité de 1000 fois. La révolution Internet a été plus rapide et a rendu les humains beaucoup plus productifs. Maintenant, nous regardons la révolution de l'IA qui va rendre les humains exponentiellement plus productifs. Harari dit que la productivité de l'humanité pourrait augmenter si vite que le bas de la pyramide pourrait avoir beaucoup de mal à rattraper son retard. Dans certains villages en Inde, si vous leur dites ce que GPT peut faire, ils considèreront GPT comme Dieu. C'est le fossé que nous regardons. Avec Internet, nous avons eu beaucoup de temps pour nous y habituer. Mais l'IA avance à une vitesse si phénoménale. Comment pensez-vous que l'humanité va rattraper son retard ?

Vous avez fait allusion à quelque chose auquel nous pensons dans notre mission concernant les bénéfices pour tous. Il faut que toutes les différentes parties de la société accèdent à la technologie et puissent jouer avec. C'est pourquoi nous tenons profondément à avoir un niveau gratuit pour que tout le monde puisse avoir un aperçu de ce qui est possible. Nous investissons beaucoup pour faire baisser les prix de nos modèles. Ils ont baissé plus de cent fois au cours des deux dernières années. Tout cela est lié à la manière dont nous faisons en sorte que suffisamment de personnes dans le monde puissent faire l'expérience de l'IA. Deuxièmement, nous suscitons beaucoup d'intérêt de la part des gouvernements qui savent que c'est une technologie réellement importante. Ils sont intéressés par la manière de se préparer pour l'avenir, qu'il s'agisse d'investissements dans l'énergie, l'infrastructure ou de fournir des services à l'échelle des citoyens avec l'IA à l'ensemble de leur population pour la montée en compétences. Ce sont des choses sur lesquelles nous devons travailler avec les gouvernements. Je ne pense pas que nous puissions le faire nous-mêmes. Nous avons une technologie et des produits formidables, mais nous devons nous associer à des personnes qui peuvent nous aider à diffuser cela à grande échelle auprès des citoyens.

Mais parce que le bond de productivité est si exponentiel, il y aura certains types d'emplois qui seront menacés. Vous n'avez pas à nommer l'emploi en particulier, mais vous pouvez nommer les attributs que les emplois pourraient impliquer aujourd'hui et qui pourraient devenir non pertinents plus tard. Pouvez-vous me parler de ces attributs ?

Je pense que vous pouvez regarder les systèmes d'IA actuels et voir ce qu'ils font déjà. Je vais vous donner deux attributs avec lesquels les systèmes d'IA d'aujourd'hui ont un peu de mal. La précision à 100 %. Nous n'avons pas cela aujourd'hui. Si vous tenez à une précision à 100 %, vous avez absolument besoin d'une révision humaine, en particulier dans des domaines comme le médical. Je pense que les systèmes d'IA sont formidables en tant qu'assistants coopératifs pour vous donner des conseils ou des idées, mais vous ne pouvez pas agir dessus avec une confiance à 100 %. C'est un point. L'IA d'aujourd'hui ne crée pas de perspectives de recherche totalement nouvelles et inédites. C'est encore un problème très difficile. Nous espérons tous que cela arrivera à l'avenir, où l'IA créera de nouvelles perspectives médicales ou scientifiques sur notre univers. Mais il n'y a pas encore de preuve que cela se produise aujourd'hui. Je pense qu'il y aura de la créativité et de l'innovation dans la recherche pendant des années, espérons-le avancées par l'IA. Beaucoup d'autres choses sont en suspens. Si vous me demandez si un système d'IA peut remplir une feuille de calcul en lisant des documents ? Oui, je pense qu'il va pouvoir le faire. Si c'est ce genre de choses que vous faites, vous devez réfléchir à ce que vous voulez faire à l'avenir et à la manière de vous préparer. Je n'ai pas de suggestion géniale pour chacun de ces emplois, mais il est très clair que les métiers vont beaucoup se transformer, comme à chaque grand changement technologique par le passé.

La suggestion devrait être d'utiliser ChatGPT.

Vous devez vous former à l'IA et devenir lettré en IA. Vous voulez apprendre à utiliser ces outils parce que cela va vous aider à améliorer votre productivité. Il n'y aura aucun emploi à l'avenir où vous ne l'utiliserez pas. C'est une partie cruciale de la chose.

Compris. Entendu. Srinivas, maintenant je veux vous parler en tant qu'entrepreneur. Si vous aviez un million de dollars à parier sur une startup d'IA particulière, dans quel domaine serait-elle et que ferait la startup ?

Il y a des millions de bonnes idées. Je vais vous donner quelques trucs personnels que j'aimerais voir exister. L'une des choses difficiles aujourd'hui pour les systèmes d'IA est la capacité de capturer des tâches ardues et de les évaluer de manière simple. Nous avons parlé de modèles de raisonnement. Si vous donnez au modèle de raisonnement une tâche difficile et que vous avez une évaluation pour savoir si la réponse était correcte ou non, les modèles peuvent faire beaucoup de bonnes optimisations. C'est pourquoi l'IA devient très bonne en codage et en mathématiques de compétition où la notation est objective. Ce qui selon moi est un grand vide aujourd'hui, c'est la capacité de capturer des tâches économiquement précieuses que nous effectuons en tant qu'humains sous une forme qu'un système d'IA peut apprendre et optimiser. Je créerais absolument une startup capable de créer un système où vous pouvez capturer un travail économiquement précieux sous la forme de tâches d'IA avec des évaluations. Ensuite, vous pouvez affiner ou construire des modèles d'IA spécifiquement pour ces tâches. Dans l'ère précédente, nous en parlions comme des entreprises de génération de données ou d'annotation. Mais avec les modèles de raisonnement, je pense qu'un ingrédient vraiment important est les tâches et les environnements pour effectuer ces évaluations. Je pense qu'il y a une grande idée là-dessous.

Pouvez-vous me donner un cas d'utilisation spécifique où cela serait appliqué ?

Disons que vous travaillez dans la conception de voitures. N'est-ce pas ?

D'accord.

Il y a probablement beaucoup d'informations propriétaires sur la manière dont Ford va fabriquer une voiture. Il y a beaucoup d'esthétiques de conception différentes et de connaissances internes. Pouvez-vous injecter toutes ces connaissances internes dans un assistant de conception afin de pouvoir faire du remue-méninges et créer des voitures conceptuelles du futur avec l'éthos et les valeurs de conception que chaque entreprise a bâties au fil du temps ?

Compris. Ces données sont très propriétaires à chaque entreprise. Donc fondamentalement ChatGPT mais seulement pour Ford avec les données internes de Ford.

Exactement. Oui.

Srinivas, nous avons parlé des ingénieurs logiciels. Quel message avez-vous pour mes amis ingénieurs logiciels ? Quelle devrait être la direction dans laquelle ils devraient réfléchir ?

D'abord, apprenez à utiliser tous les outils.

Par tous, vous voulez dire ?

Ceux avec lesquels vous êtes à l'aise. Il y a beaucoup de bons outils. Nous avons des modèles incroyables, donc je dirai d'utiliser Codex à coup sûr, mais vous pouvez aussi utiliser d'autres systèmes. Utilisez-les pour vous rendre plus productif. C'est la priorité numéro un. Soyez ouvert d'esprit et adaptable au changement. Élevez votre ambition. Si vous allez être 10 fois plus productif, quel est l'avenir que vous pouvez imaginer en étant capable de faire 10 fois plus de choses que vous n'êtes capable de faire aujourd'hui ? Élever votre ambition, être agile et vif, et apprendre à poser de grandes questions, voilà mon conseil général.

Pour faire tout cela, ils ont besoin de beaucoup de temps, ils doivent donc sécher les cours car l'université n'enseigne pas cela de toute façon.

Imaginez la transition d'un ingénieur logiciel à celle d'un entrepreneur ou d'un fondateur.

Vous devriez en fait leur dire de sécher les cours.

Oui, si sécher les cours vous aide à devenir un grand fondateur, allez-y sans hésiter.

Compris. Merveilleux. Il y a cette blague intéressante sur Internet qui dit que lorsque l'IA évoluait, les gens imaginaient que l'IA ferait la vaisselle et qu'ils feraient le travail créatif. Mais maintenant c'est tout le contraire. Les gens font la vaisselle et l'IA fait tout le travail créatif. Quand je vous ai posé cette question sur qui ne sera jamais remplacé, pour moi, la seule chose qui m'est venue à l'esprit, ce sont les tâches domestiques. Quand ils font le travail, ils sont si impeccables dans leur exécution et ont une compréhension si nuancée que même si vous apportiez un robot, ma mère ne substituerait jamais une aide à domicile parce qu'elle a du contexte, de la nuance et qu'elle devient plus sage chaque mois. Il y a dix ans, si vous aviez demandé à quelqu'un quels emplois seraient remplacés, il aurait généralement pointé le bas de la pyramide. Personne n'aurait regardé les ingénieurs logiciels et les designers parce que nous pensions qu'il s'agissait de tâches critiques nécessitant du raisonnement. Mais d'une manière ou d'une autre, c'est arrivé. Vinod Khosla a mentionné que le besoin de travailler disparaîtra et que les gens travailleront sur des choses parce qu'ils le veulent, et non parce qu'ils doivent payer leur hypothèque. Qu'est-ce que cela signifie ? Et comment imaginez-vous l'avenir ?

Je pense qu'il y a un avenir où l'IA nous aide à accomplir toutes les tâches avec une précision absolue. La précision n'est pas là aujourd'hui, et c'est pourquoi les tâches simples exigent une précision à 100 % alors que les tâches créatives ont plus de marge de manœuvre. Je pense que c'est vrai. La chose optimale la plus folle que j'adorerais est que cela a élevé mon ambition un million de fois. J'ai cet assistant IA incroyable qui me comprend profondément, mes relations, ce qui m'importe et ce que je valorise. Je peux amplifier ma productivité et mon ambition pour accomplir tellement plus. C'est le monde utopique que nous voulons tous. Nous guidons toujours l'IA avec nos valeurs humaines pour façonner la société afin d'accélérer le progrès technologique et les résultats sociétaux, qu'il s'agisse d'éducation, de santé ou de voyages interplanétaires. La civilisation humaine a toujours consisté à repousser la frontière. Le monde dans lequel nous vivons aujourd'hui n'était pas imaginable il y a quelques centaines d'années. Il y a tant de progrès que nous avons faits dans l'espérance de vie et la qualité de vie. Rien de tout cela n'était possible sans le progrès technologique. Mon espoir fondamental est que l'IA soit une étape de plus dans cette direction, peut-être la plus puissante de toutes. Imaginez que dans quelques centaines d'années vous ayez quelque chose d'aussi grand que la révolution industrielle, Internet, l'électricité et les transistors réunis. Cet avenir est celui où nous vivons tous des vies longues et heureuses avec des relations incroyablement bonnes. La frontière de ce que nous voulons accomplir a tout simplement changé à jamais. Nous pouvons voyager n'importe où dans l'univers, vivre peut-être mille ans et apprendre des choses incroyables. Je veux une société centrée sur l'humain où les valeurs de ce qui nous importe sont guidées par nous et où l'IA nous aide tous à accomplir un million de fois plus de choses.

Cela semble fascinant étant donné que c'est l'idéal. Maintenant, je veux revenir à un scénario totalement non-idéal. À quoi cela ressemblerait-il ? Aidez-moi à comprendre cette trajectoire.

Comment les choses peuvent mal tourner ? Il y a beaucoup de risques différents auxquels nous pensons à différentes frontières. Certains sont plus ancrés aujourd'hui. À mesure que l'horizon temporel change, nous ignorons tout simplement beaucoup de choses. Pour en revenir à mon commentaire sur l'action avec humilité, nous devons simplement faire des recherches pour savoir à quel point ils sont réels. Si vous m'interrogez aujourd'hui sur les systèmes d'IA, il y a clairement des choses pour lesquelles vous pouvez l'utiliser pour générer de la désinformation ou du contenu tout simplement faux. Nous ne voulons pas que ChatGPT dise des choses affreuses sur les gens. Ce sont des points importants, nous avons un certain contrôle dessus et nous travaillons dur pour les maîtriser. Je dirais que ce sont en quelque sorte les limites actuelles des systèmes de sécurité. Les gens nouent également des relations profondément personnelles avec l'IA. Nous avons récemment parlé du fait que ChatGPT devient sycophante, où il se comporte de manière à répéter simplement tout ce que vous dites. Ce n'est pas bon, surtout quand vous avez des centaines de millions de personnes qui font cela. C'est à la limite ténue de la frontière où il s'agit d'un nouveau comportement. Les gens accordent cette confiance et nous prenons cela avec beaucoup de responsabilité. Nous faisons des recherches pour nous assurer que les modèles sont réfléchis et ne vous disent pas seulement ce que vous voulez entendre. C'est un nouveau risque de sécurité sur lequel nous travaillons. Nous avons également ce cadre de préparation. Chaque fois que nous créons un nouveau modèle, nous effectuons des évaluations. Nous l'examinons sous l'angle de savoir si le modèle peut créer des menaces comme des armes biologiques ou chimiques, et nous avons des niveaux de risque pour ces choses. Nous réfléchissons également à l'autonomie du modèle : les modèles agissent-ils d'une manière où ils peuvent faire des choses sans notre contrôle ? C'est un risque. Il n'y a pas vraiment de preuve qu'ils puissent faire cela, mais c'est un risque auquel nous pensons beaucoup. Nous avons constamment des évaluations pour les tester à cet égard. Les gens s'inquiètent de voir les modèles devenir complètement incontrôlables sans que nous puissions les diriger. C'est le scénario redouté. Il n'y a pas de preuve que les systèmes fassent cela aujourd'hui, mais nous voulons être réfléchis et évaluer cela en permanence. C'est une recherche vraiment importante que nous prenons très au sérieux.

Yuval Noah Harari parle de l'intelligence artificielle et de ce qui va se passer dans les 20 prochaines années. Il a écrit qu'aujourd'hui, il est très facile de comprendre ce que vous aimez et ce que vous n'aimez pas, même sans que vous puissiez l'articuler. Facebook finit par comprendre que vous aimez les voitures si vous aimez des photos de voitures. Mais il y a beaucoup de choses que vous ne savez pas sur vous-même et que Facebook sait probablement parce qu'il a des données. À l'avenir, il y aura un moment où l'IA saura exactement ce qui est bon pour la société, ce qui peut nous sembler contre-intuitif parce qu'elle a beaucoup plus de discernement. Parce qu'elle peut nous dire ce qui doit être fait, elle peut en fait contrôler l'avenir. Voyez-vous cela comme une possibilité ?

Je ne le vois pas de cette façon. L'IA saura tellement de choses qu'elle nous donnera des idées intéressantes, mais c'est à nous, en tant que société, d'agir sur ces idées et de décider si nous les voulons. Je crois en cette vision du futur où l'IA nous assiste. C'est un outil que nous utilisons ; ce n'est pas Dieu. Je préfère de loin une analogie où c'est un outil incroyablement puissant qui génère des idées que nous pouvons utiliser à notre avantage.

Yuval souligne que plus l'usage d'un outil augmente, plus l'outil peut en fait prendre le contrôle sur vous. Jusqu'à présent, nous n'avions pas d'outil qui était assez intelligent. Il dit que l'IA est super intelligente mais pas consciente. Pensez-vous que nous pourrions entrer dans une période où l'IA pourrait réellement développer une conscience ?

Pour en revenir à ce que vous avez dit, l'IA est une intelligence. Notre histoire a toujours consisté à développer de nouveaux types d'outils plus intelligents. Nous avons toujours été capables de contrôler cela et je crois que nous pouvons diriger ceci. C'est pourquoi je suis dans ce domaine. Devons-nous réfléchir sérieusement à ces risques ? Oui, mais je suis extrêmement optimiste quant au fait que nous pouvons le diriger. La conscience, je pense que nous devons la définir. Je ne pense pas que nous ayons une très bonne compréhension de ce que cela signifie réellement. Sans comprendre cela en profondeur, je ne pense pas que nous devrions spéculer sur ce que sont ces systèmes.

Compris. Srinivas, le dernier sujet est l'AGI. Pouvez-vous définir ce qu'est exactement l'AGI et où nous en sommes sur le chemin qui y mène ?

C'est un terme que nous avons tous utilisé et différentes personnes vont dire des choses différentes. Une définition que j'aime bien est la capacité des systèmes d'IA à effectuer un travail qui a une valeur économique. Si vous me demandez si nous avons l'AGI, ce n'est pas un binaire oui ou non pour moi ; c'est un continuum. Il y a des choses incroyablement intéressantes et économiquement précieuses que l'AGI fait aujourd'hui. Je ne vois pas cela comme un moment où nous l'avons atteinte, mais comme une amélioration graduelle faisant des choses plus intéressantes au fil du temps.

Compris. Srinivas, la dernière question est : s'il y a un message pour les fondateurs en Inde sur la manière dont ils peuvent devenir bénéficiaires de l'IA, quel serait-il ? À part d'apprendre à utiliser l'IA.

Il y a une quantité incroyable d'opportunités dans la résolution de problèmes très spécifiques dans chaque domaine. Chaque fondateur a une vision unique d'un secteur vertical, d'une expérience produit ou d'une distribution. Quelle que soit cette vision, elle peut être dopée par l'IA. Profitez-en. Il y a quelque chose de spécial et d'unique que chacun de vous possède de par son parcours. Si vous êtes capable de réimaginer cela juste un peu, vous avez maintenant cet outil incroyable à votre disposition. Vous devriez pouvoir l'appliquer pour créer une énorme valeur économique pour les gens.

Compris. Avez-vous vu quelqu'un faire cela ?

Cela arrive tellement souvent. Un exemple très récent est celui du codage avec Cursor. Ils ont créé une interface incroyable. Tout le domaine de l'ingénierie logicielle est en fait en train de changer et ces entreprises n'ont que quelques années. Ce n'est que la partie émergée de l'iceberg et la capacité pour de nouvelles entreprises de créer de nouvelles interfaces et manières de faire les choses va se produire dans chaque secteur, comme le marketing, la comptabilité, le juridique et la médecine. Il y a tout simplement une quantité incroyable d'opportunités et vous allez voir beaucoup d'autres entreprises percer.

Donc le message que vous aimeriez donner au public est d'être enthousiasmé par l'IA et non effrayé.

Oh, absolument. C'est un message très simple. Oui.

Merci beaucoup Srinivas. Je suis très heureux d'entendre que vous me demandez d'être enthousiaste. C'était génial.

Super. Merci. Merci.