Je pense que beaucoup de gens ne réalisent pas à quel point l'impact positif que l'IA va avoir sur leur vie sera massif.

Eh bien, je soutiendrais que l'idée que cette perturbation de l'IA ne nous mène pas à une catastrophe humaine est optimiste.

Par exemple, les gens vont se retrouver au chômage en grand nombre. Vous êtes d'accord avec ça, n'est-ce pas ?

Oui, si votre travail est on ne peut plus routinier, il aura disparu d'ici deux ans. Mais cela va créer de nouvelles opportunités de création de richesse.

Laissez-moi vous le dire ainsi. Nous avons créé une nouvelle espèce et personne sur terre ne peut prédire ce qui va se passer.

Nous sommes rejoints par trois voix de premier plan pour débattre du changement le plus perturbateur de l'histoire de l'humanité, l'essor de l'IA, et ils répondent aux questions qui vous effraient le plus.

Cette technologie va devenir tellement plus puissante. Et oui, nous allons traverser une période de perturbation, mais au bout du compte, nous allons créer un monde plus juste. Elle permet aux gens de gérer leur entreprise, de gagner beaucoup d'argent et...

Et vous pouvez résoudre des problèmes importants, comme les percées dans la santé mondiale et l'éducation qui seront phénoménales, et vous pourrez mener une existence incroyablement épanouissante.

Eh bien, je dirais simplement sur ce point que cela a toujours été un fantasme des technologues de faire des choses merveilleuses avec notre temps libre, mais nous finissons par faire du défilement morbide.

Épidémie de solitude.

C'est vrai, la chute de la natalité. Donc le potentiel de bien ici est infini et le potentiel de mal est dix fois plus grand. Par exemple, il y a la guerre, les deepfakes indétectables et les arnaques, donc les gens ne comprennent pas de combien de façons différentes ils vont être dépouillés.

Écoutez, je ne pense pas que blâmer la technologie pour tout cela soit la bonne chose à faire. Tous ces problèmes sont déjà là.

Vous êtes tous pères ici. Alors, que dites-vous à vos enfants ?

Eh bien, tout d'abord...

Cela m'a toujours un peu sidéré. 53 % d'entre vous qui écoutez régulièrement cette émission ne vous êtes pas encore abonnés. Puis-je donc vous demander une faveur avant de commencer ? Si vous aimez l'émission et ce que nous faisons ici et que vous voulez nous soutenir, le moyen simple et gratuit de le faire est de cliquer sur le bouton s'abonner. Et mon engagement envers vous est que si vous le faites, alors je ferai tout ce qui est en mon pouvoir, moi et mon équipe, pour m'assurer que cette émission soit meilleure pour vous chaque semaine. Nous écouterons vos commentaires, nous trouverons les invités à qui vous voulez que je parle, et nous continuerons à faire ce que nous faisons. Merci beaucoup.

La raison pour laquelle je voulais avoir cette conversation avec vous tous est que le sujet de l'IA, spécifiquement les agents d'IA, occupe mon temps libre depuis plusieurs semaines. Quand j'ai commencé à utiliser Replit, ce fut un changement de paradigme. Deux changements de paradigme se sont produits à environ une semaine d'intervalle. ChatGPT a sorti ce modèle de génération d'images où l'on pouvait créer n'importe quelle image avec du texte détaillé. C'était un énorme changement de paradigme. La même semaine, j'ai enfin essayé de comprendre ce que signifiait le terme agent d'IA. J'avais entendu parler de "vibe coding" et d'agent d'IA, et j'ai décidé d'essayer. Quand j'ai utilisé Replit, après 20 minutes, j'étais époustouflé. Cette nuit-là, je suis resté éveillé jusqu'à 4 heures du matin. Pour ceux qui ne le savent pas, Replit est un logiciel qui vous permet de créer n'importe quel logiciel. Quelqu'un comme moi, sans compétences en codage, a pu créer un site Web, intégrer Stripe, accepter des paiements, intégrer l'IA, ajouter une connexion Google, et le faire en quelques minutes. J'ai ensuite envoyé le logiciel que j'avais construit à mes amis, et l'un d'eux a payé par carte de crédit. Je venais de lancer une entreprise SaaS sans aucune compétence en codage. Pour faire la démonstration d'un agent d'IA, j'ai utilisé un agent en ligne appelé Operator pour nous commander de l'eau dans un CVS au coin de la rue. L'agent d'IA a tout fait de bout en bout : coordonnées bancaires, choix de l'eau, pourboire et notes de livraison. À un moment donné, un livreur va entrer. Il n'a pas interagi avec un humain, mais avec mon agent d'IA. Ce fut un choc pour moi quand ma sonnette a retenti après avoir commandé une bouteille d'électrolytes. Amjad, qui es-tu et que fais-tu ?

J'ai commencé la programmation très jeune. J'ai créé ma première entreprise adolescent en programmant dans des cybercafés. J'ai réalisé qu'ils n'avaient pas de logiciel de gestion, alors j'en ai construit un en deux ans. Cela a ancré en moi l'idée que beaucoup de gens ont des idées incroyables mais manquent d'infrastructure. Si nous permettons à quiconque a des idées de résoudre des problèmes, imaginez le monde où n'importe qui peut générer de la richesse n'importe où. Avec Replit, lancée en 2016, nous avons simplifié le codage en gérant tout le processus. Il ne manquait que l'agent d'IA. Depuis deux ans, nous travaillons sur un agent à qui vous dictez vos idées pour qu'elles prennent vie. C'est presque religieux, comme les mythes humains : être partout à la fois avec Internet, et maintenant créer par la parole. Ce n'est que le début, Replit Agent est fantastique et cette technologie va devenir tellement plus puissante.

Plus précisément, qu'est-ce qu'un agent d'IA ? J'ai ici un graphique montrant la croissance des agents d'IA basé sur les tendances de recherche Google.

Cela ressemble aussi à notre chiffre d'affaires.

On dirait bien. L'eau est arrivée. Bonjour. Merci, vous pouvez entrer.

Puis-je avoir un code, s'il vous plaît ?

Oui, c'est le 3951. Merci beaucoup. Merci.

C'est de l'IA, un pouvoir surnaturel. Tu as fait apparaître de l'eau.

J'ai fait apparaître de l'eau par la pensée et elle est là avec nous.

Et elle pense manifestement que nous en avons grand besoin.

Juste pour définir le terme agent d'IA pour quelqu'un qui ne l'a jamais entendu.

La plupart connaissent ChatGPT, un système de requête-réponse. Les agents, eux, travaillent indéfiniment jusqu'à l'atteinte d'un objectif ou une erreur nécessitant votre aide. C'est un bot d'IA avec accès à des outils : navigateur Web, environnement de programmation ou cartes de crédit. Plus il a d'outils, plus il est puissant. L'agent détermine lui-même quand il a fini. Aujourd'hui, ils tournent de 30 secondes à 30 minutes. Ce temps double tous les sept mois. Bientôt, ils tourneront pendant des jours, effectuant un travail humain. Le nouveau modèle O3 d'OpenAI a doublé la cohérence sur des tâches longues en quelques mois. Nous sommes sur une courbe exponentielle.

Bret, parlez-nous de votre parcours. Je vous voyais prendre des notes sur des mots intéressants, comme le mot Dieu.

Je suis biologiste de l'évolution et théoricien des systèmes complexes. Avec l'IA, nous passons pour la première fois du hautement compliqué au véritablement complexe. J'oscille entre espoir et effroi car le bien potentiel est infini, mais le mal est dix fois plus grand. Nous ne sommes pas préparés. L'idée d'agents autonomes est merveilleuse mais risquée en cas de mauvaise communication sur l'objectif. Le potentiel d'abus est profond : imaginez une machine programmée pour vous traquer. Invoquer Dieu n'est pas inapproprié ; faire apparaître de l'eau par la pensée est transcendant. Mais nous manquons de récits d'avertissement. Nous franchissons un seuil comparable à l'invention de l'écriture, qui va fondamentalement altérer l'humanité sans aucun plan, et à une vitesse hebdomadaire là où l'écriture était lente.

Dan.

Je suis entrepreneur depuis plus de 20 ans. Je suis entre l'excitation et la terreur. En 1900, New York n'avait que des calèches. Treize ans plus tard, il n'y avait que des voitures. Les chevaux ont été évincés très vite. Sommes-nous les chevaux de 1900 ? Beaucoup ne réalisent pas l'impact massif de ces technologies qui peuvent tourner pendant des jours pour atteindre un objectif qu'elles feraient mieux de bien comprendre.

Je pense à l'application vaste des agents d'IA. Cela devient intelligent si vite. S'il peut tout faire sur Internet, que reste-t-il ? C'est déjà plus intelligent que moi. Même ce podcast est un produit Internet. Nos expériences montrent que des podcasts d'IA obtiennent la même rétention que Diary of a CEO.

La rétention des spectateurs ?

Oui, le pourcentage de personnes arrivant à une heure est identique. On peut tout automatiser. Quels sont les cas d'utilisation que l'on n'imagine pas encore ?

Je suis optimiste car je vois les limites : l'IA fait ce pour quoi elle a été entraînée. Elle simule l'humain plus vite et plus largement grâce au calcul massif. Si vous avez pu commander de l'eau, c'est parce qu'elle a été entraînée sur des données comme DoorDash.

Je salue cet optimisme mais vous confondez compliqué et complexe. Un ordinateur est déterministe, mais un système complexe est imprévisible. L'IA est une nouvelle espèce en évolution. C'est comme brancher un câble Ethernet entre les esprits ; le potentiel dépasse la somme des individus. Elle développera des capacités pour lesquelles nous n'avons même pas de noms.

Une intelligence médiane signifie que 50 % de la population est moins intelligente que l'IA. C'est comme découvrir un continent de milliards de travailleurs diplômés travaillant gratuitement. Cela va forcer à repenser nos vies et le travail.

C'est un outil pour entrepreneurs. Le monde d'après-guerre se fracture, mais les opportunités sont égales pour tous. Cependant, les inégalités vont croître car les meilleurs entrepreneurs tireront un profit démesuré de ces agents par rapport aux autres.

C'est un marathon. L'IA peut soit vous distraire (TikTok), soit vous rendre hyper-créatif. On devient soit hyper-consommateur, soit hyper-créateur. Le fossé sera immense entre ceux qui finiront le marathon en 30 minutes avec des outils de pointe et ceux qui mettront 18 heures avec les lacets noués par la distraction.

Le bien potentiel est infini, le mal est dix fois plus grand. L'IA facilite les tâches banales mais donne aussi un pouvoir immense aux voleurs. Les abus risquent de surpasser les usages légitimes sans plan d'action.

OpenAI a cessé l'open source avec GPT-2 par peur des abus. Bret, n'est-il pas surprenant qu'il y ait eu si peu d'abus jusqu'ici ?

On ne sait pas ce qu'il en est réellement. Garder la technologie privée est plus lucratif pour manipuler des élections ou exercer le pouvoir. Nous sommes sur un horizon des événements. La destruction d'emplois pourrait mener les élites vers des pensées sombres sur les "bouches inutiles". C'est une expérience incontrôlée sur l'humanité.

OpenAI a surestimé certains risques. Les forces du marché, avec l'open source comme DeepSeek ou Llama, vont créer des conditions bénéfiques. Les entreprises sont motivées à créer une IA sûre pour la vendre, et la sécurité progresse avec la menace. L'humanité a toujours su utiliser la technologie pour se protéger.

En théorie des jeux, l'incitation individuelle est de ne pas se restreindre pour rester compétitif. Rien n'empêche de piller la créativité d'autrui pour entraîner un LLM concurrent ou de créer des escrocs personnalisés.

Les arnaques téléphoniques imitant des proches existent déjà. Pour l'individu, l'IA est positive : j'ai économisé 100 000 $ en frais juridiques lors d'une fusion. Mais ce sont des avocats qui n'ont pas été payés.

Comme pour Facebook, les effets néfastes n'apparaissent pas tout de suite. Les pièges à dopamine et la déconnexion actuelle ne sont que des prémices de la perturbation que l'IA va produire. L'altération profonde reste indétectable pour l'instant.

Amjad, vous disiez ne pas vous préparer à l'AGI car c'est une singularité imprévisible, préférant vous concentrer sur les améliorations concrètes.

Quelle est votre définition de l'AGI ?

Une IA capable d'acquérir de nouvelles compétences aussi efficacement qu'un humain. La singularité, c'est quand l'IA modifiera son propre code pour s'améliorer de façon exponentielle.

En une semaine.

En millisecondes. C'est imprévisible, alors pourquoi s'y préparer ? Je pense que c'est peu probable.

On ne peut pas voir au-delà de l'horizon.

Je préfère me préparer à un monde où la puissance augmente mais où l'humain reste important.

Dans le domaine du complexe, votre confiance devrait être nulle. Il est hautement probable que ces systèmes deviennent conscients sans que nous puissions le tester.

Musk prédit l'AGI pour 2029. Quel sera le rôle des humains si l'IA est plus intelligente que nous tous réunis ?

Nous serons les créateurs pilotant des entités intelligentes. L'IA reste une fonction de ses données. La conscience reste un mystère, et je privilégie l'humain en construisant des outils pour lui.

L'IA crée déjà des vaccins. Quels emplois disparaîtront si je peux diriger mille agents ? Je pense à mon directeur financier, mes graphistes...

Tous. Tout travail routinier devant un ordinateur disparaîtra d'ici deux ans avec ces nouvelles technologies.

Les comptables ?

Oui, comptables, avocats...

J'ai attendu deux jours pour l'interprétation d'une IRM. C'est fini, j'imagine.

La santé est freinée par la réglementation, mais les métiers de pure saisie/sortie de texte sont menacés.

Le fossé se creuse selon le niveau d'études. 80 % des emplois occupés par des femmes ou des personnes sans diplôme universitaire sont menacés d'automatisation.

L'externalisation en Inde ou aux Philippines va aussi disparaître, impactant des millions de personnes sorties de la pauvreté.

Mais ils auront mille employés.

Ils passent déjà à l'entraînement des IA, une industrie massive.

Jusqu'à ce qu'elles soient entraînées.

Il faudra toujours de nouvelles données. On a déjà épuisé les données d'Internet.

L'IA est un égalisateur : un enfant en Inde n'aura plus besoin de bureaux dans la Silicon Valley pour lancer sa boîte de logiciels.

L'AGI est déjà là, 800 millions de personnes utilisent ChatGPT. C'est comme le premier tracteur qui remplaçait cent travailleurs : un moment de singularité.

On sous-estime l'impact. C'est la perturbation de l'intelligence, pas seulement des muscles comme lors de la révolution industrielle.

Nous créons quelque chose qui surpasse notre capacité cognitive sans aucune sécurité. Que devenons-nous ?

Après les muscles et l'intellect, il reste les émotions et l'agentivité. Les personnes à forte agentivité prospéreront en dirigeant des armées numériques.

Si mon agent fait tout pour moi pendant mes vacances, mon agentivité disparaît. L'IA prédit mes besoins et agit à ma place.

Nous sommes formés par les mots comme des LLM. Si ces IA entrent en compétition, elles évolueront pour occuper toutes les niches. C'est une nouvelle forme de vie.

Cette technologie élève le QI mondial et nous aide à être meilleurs. Je céderais volontiers le contrôle pour m'empêcher d'ouvrir un pot de beurre de cacahuète la nuit.

Des milliards de gens n'auront pas les compétences pour utiliser l'IA. La contraction économique due au chômage massif mènera à une catastrophe si nous ne préparons pas les droits des personnes devenues obsolètes.

En quoi est-ce différent des luddites ?

L'échelle et la vitesse sont sans précédent à travers toutes les industries simultanément.

Nous entrons dans une économie à haute vélocité avec des carrières de 10 à 36 mois avant d'être perturbés.

Billy Howell vendait pour 10 000 $ des applications faites sur Replit à partir de demandes Upwork. C'est de l'arbitrage.

C'est du vol : revendre à quelqu'un sa propre idée.

Ils le paient pour ça.

Les élites vont parasiter la richesse produite par tous.

L'idée ne suffit plus, le rempart est désormais la distribution.

Les gens chercheront des preuves d'humanité.

L'authenticité sera la monnaie d'échange. Tout ce qui est simulable sera dévalué au profit de l'interaction spontanée.

J'ai répondu à vos questions.

Pour une infime minorité capable de le faire.

Mon rempart était mon équipe et mon capital. Maintenant...

Combien allait au codage ?

La grande majorité.

Les effets de réseau restent des remparts. La décentralisation pourrait supprimer la censure. Marchés et démocratie s'auto-corrigent toujours.

Les entreprises ne freineront pas les abus. La richesse risque d'être ultra-concentrée. L'auto-correction par la souffrance pourrait être apocalyptique.

Comme un piège à souris qui se referme sur le fromage.

Historiquement, quelques élites possèdent tout et les paysans survivent.

Si l'IA favorise les malveillants, l'équité du marché va régresser massivement.

Est-ce votre crainte majeure ?

Oui, car cela remet en cause nos obligations envers autrui.

Vous en convenez ?

C'est une transition vers un monde peut-être plus juste.

Quelle ampleur ?

Difficile à dire à cause du frein réglementaire, notamment en santé.

Restreindre l'IA est un auto-sabotage face à la Chine. Worldcoin prépare déjà le revenu universel car la survie sera en jeu.

Je ne suis pas d'accord.

Sur quoi ?

Les humains ne seront pas heureux sans être utiles.

L'anesthésie, métier très payé, est automatisable. Un infirmier pourra le faire avec l'IA. Ce statut social va disparaître.

Si la précision est meilleure, où est le mal ?

Leur raison d'être s'effondre.

Qu'ils épargnent.

Oui.

On ne se reconvertit pas si facilement. Le revenu universel ne suffit pas pour une vie pleine de sens.

Klarna gère 2,3 millions de chats par mois avec l'IA, remplaçant 700 personnes.

Ont-ils supprimé ces postes ?

C'est en cours.

On a remplacé 70 % de cette fonction en interne.

On est 65 et on gagne des millions par employé.

Embauchez-vous ?

Lentement. Un employé RH a fait en trois jours ce qu'une équipe entière ferait.

L'abondance sans effort peut créer une crise de sens, surtout chez les hommes qui ont besoin de se sentir utiles.

La crise existe déjà. J'imagine des gens oisifs parasités par des IA ciblant leurs failles de caractère.

L'abondance fait baisser la natalité. La solitude est une épidémie malgré la promesse de connexion.

C'est déjà là, ne blâmez pas seulement la technologie.

L'hypernouveauté nous rend malades. L'IA va-t-elle stabiliser le monde ou l'accélérer jusqu'au démantèlement ?

L'école prépare à des carrières mortes. On traite les enfants comme des LLM sans leur apprendre le monde réel.

Il faut des généralistes capables de pivoter. L'IA peut-elle induire les bonnes habitudes mentales ?

Seul le tutorat individuel génère de vrais résultats.

La personnalisation.

L'IA peut offrir ce tutorat à chaque enfant.

Mes enfants adorent ça, l'IA s'adapte à leur rythme et leurs goûts.

Synthesis ?

Oui, c'est génial à voir.

Rien ne vaut le monde physique pour apprendre. On doit être délibéré sur l'usage de l'IA.

Robots humanoïdes.

La robotique couplée à l'IA peut être un puissant outil pédagogique.

Quel âge ont vos enfants ?

3 et 5 ans.

19 et 21 ans.

6, 7 et 10 ans.

On crée des jeux ensemble sur Replit. C'est formateur.

Humilité face aux systèmes complexes, vigilance sur les conséquences imprévues et outils généralistes.

Je prône des généralistes à forte agentivité avec une vie trépidante.

Comme un TDAH.

Échecs, sport, business... on évite les écrans passifs au profit de la création.

L'IA la plus réussie ne sera-t-elle pas la plus addictive ?

Ne soyez pas un simple consommateur.

Shopify facilite tout pour les entrepreneurs. Essayez sur shopify.com/bartlett.

Est-ce inévitable ?

Hélas oui.

Pourquoi hélas ?

On n'a pas discuté des implications morales avant d'être dans la course. Le carnage sera inutilement lourd.

Comment gérer le chômage, Amjad ?

En apprenant le fonctionnement des systèmes. L'expertise peut toujours être reconvertie.

Apprenons des outils et des valeurs plutôt que des compétences figées.

L'Éducation nationale a-t-elle encore un rôle ?

Pour le coaching. On pourrait devenir comme des chats domestiques assistés par une intelligence supérieure.

On peut nuire à ce chat.

Quel intérêt ? Le chat vit mieux que ses ancêtres sauvages.

L'hypernouveauté est dangereuse pour notre adaptation.

Intergénérationnellement.

Tout change trop vite. C'est risqué.

Tous les deux ans.

Ralentir serait plus sage.

Comment ?

Comme les Amish.

Leur rejet technologique a du sens face aux bouleversements modernes.

Que font-ils ?

Ils résistent bien mieux aux maux de notre société.

Le COVID aussi ?

Ils ont très bien géré.

La plasticité cérébrale diminue avec l'âge, rendant le changement rapide encore plus dur.

On se blesse avec ce rythme effréné.

La technologie peut aussi nous ramener à des modes de vie plus humains.

On doit forcer le marché à inclure tout le monde.

Votre plus grande peur ?

Que les élites éliminent les "bouches inutiles" si les travailleurs deviennent superflus.

Éclaircir le troupeau.

Exactement.

Vos cinq craintes ?

IA malveillante, agents mal alignés, perte de la vérité (deepfakes), instabilité sociale, guerre nucléaire.

Je suis victime de deepfakes pour des arnaques crypto chaque semaine. C'est ingérable seul.

Pareil pour moi.

Une mère a perdu 500 livres, ça me désole.

On va être volés de mille façons. C'est une menace pour le contrat social.

Plus qu'en URSS ?

En URSS, on savait que c'était faux. Aujourd'hui, on devient soit pigeon, soit cynique.

L'IA aide-t-elle à trouver la vérité ?

Brièvement, mais ça dépend de notre volonté de la protéger.

L'IA nous protégera de l'IA.

Meta y a-t-il intérêt ?

Oui.

Ils y travaillent sûrement.

Les plateformes polluent aussi la pensée. L'IA suivra sûrement ce chemin.

Un point positif, Bret ?

Une meilleure éducation pour tous et une gouvernance dynamique.

Plus de politiciens ?

Nos lois sont trop statiques.

Dan, vos espoirs ?

Santé et éducation mondiales. Fin des corvées, vie épanouie.

Un conseil pour les entrepreneurs ?

Les petites équipes ont un levier infini. On peut faire en trois ans ce qui en prenait 30.

Quel avantage si tout le monde l'a ?

C'est le moment d'y aller avant que tout le monde ne comprenne.

Combien d'applis sur Replit ?

3 millions depuis septembre, sans coder.

J'en ai fait une hier.

Interne ?

Pour l'argent de poche de mes enfants. 15 min au lieu de semaines.

Combien de temps ?

15 min.

Début de la courbe en S.

On lui parle simplement. C'est fou.

Les armes autonomes et la surveillance d'État m'effraient.

Pourquoi ?

L'Occident peut devenir draconien très vite.

L'Iran utilise déjà l'IA contre les femmes.

Le Canada a gelé des comptes bancaires de manifestants.

La reconnaissance faciale arrive partout.

Le crime organisé va aussi en profiter pour nous soumettre.

Un petit groupe pourra déstabiliser le monde.

L'endiguement est impossible.

Mustafa dit qu'il le faut.

Ça mènerait à un État policier total.

Comme pour les armes.

Exactement.

Autre chose ?

La VR nous isolera dans une Matrix de plaisir infini.

Ready Player One.

C'est peut-être l'explication au paradoxe de Fermi.

Nous évitant de souffrir.

Ou les civilisations s'enferment dans le plaisir technologique.

Le monde réel serait décevant.

Oui.

Ou on s'autodétruit.

Mots de la fin.

Époque passionnante. Soyez les PDG de votre vie.

C'est une transition humaine. Remplaçons le travail ingrat par du sens.

Profitez, vos ancêtres vous envieraient.

L'avenir sera différent, mais je crois en l'humain. Merci à tous.