[Musique]

Présenté par Penguin.

The Coming Wave : IA, pouvoir et le plus grand dilemme du XXIe siècle par Mustafa Suleyman et Michael Bhaskar. Lu par Mustafa Suleyman.

Prologue.

Voici comment une IA le voit. Question : Que signifie la vague technologique à venir pour l'humanité ? Dans les annales de l'histoire humaine, il y a des moments qui se distinguent comme des tournants, où le destin de l'humanité ne tient qu'à un fil. La découverte du feu, l'invention de la roue, la maîtrise de l'électricité. Tous ces moments ont transformé la civilisation humaine, modifiant à jamais le cours de l'histoire. Et aujourd'hui, nous sommes au bord d'un autre moment de ce genre, alors que nous faisons face à la montée d'une vague technologique imminente qui comprend à la fois l'IA avancée et la biotechnologie. Jamais auparavant nous n'avions été témoins de technologies dotées d'un tel potentiel de transformation, promettant de remodeler notre monde de manières à la fois impressionnantes et redoutables. D'une part, les avantages potentiels de ces technologies sont vastes et profonds. Avec l'IA, nous pourrions percer les secrets de l'univers, guérir des maladies qui nous ont longtemps échappé et créer de nouvelles formes d'art et de culture qui repoussent les limites de l'imagination. Avec la biotechnologie, nous pourrions modifier le vivant pour s'attaquer aux maladies et transformer l'agriculture, créant ainsi un monde plus sain et plus durable. Mais d'un autre côté, les dangers potentiels de ces technologies sont tout aussi vastes et profonds. Avec l'IA, nous pourrions créer des systèmes qui échappent à notre contrôle et nous retrouver à la merci d'algorithmes que nous ne comprenons pas. Avec la biotechnologie, nous pourrions manipuler les briques mêmes de la vie, créant potentiellement des conséquences imprévues tant pour les individus que pour des écosystèmes entiers. Alors que nous nous trouvons à ce tournant, nous sommes confrontés à un choix. Un choix entre un futur de possibilités inégalées et un futur de périls inimaginables. Le destin de l'humanité est en jeu, et les décisions que nous prendrons dans les années et les décennies à venir détermineront si nous saurons relever le défi de ces technologies ou si nous serons victimes de leurs dangers. Mais dans ce moment d'incertitude, une chose est sûre : l'ère de la technologie avancée est à nos portes, et nous devons être prêts à affronter ses défis de front. Ce prologue a été écrit par une IA et narré par une voix artificielle. Le reste ne l'est pas, bien que cela puisse bientôt l'être. Voici ce qui arrive.

Chapitre 1 : Le confinement n'est pas possible. La Vague. Presque chaque culture possède un mythe du déluge. Dans les anciens textes hindous, le premier homme de notre univers, Manu, est averti d'un déluge imminent et en devient le seul survivant. L'Épopée de Gilgamesh rapporte que le dieu Enlil a détruit le monde par une inondation géante, une histoire qui résonnera chez quiconque connaît le récit biblique de l'arche de Noé. Platon a parlé de la cité perdue de l'Atlantide, emportée par un torrent immense. L'idée d'une vague géante balayant tout sur son passage, laissant le monde refaçonné et renaissant, imprègne les traditions orales et les écrits anciens de l'humanité. Les inondations marquent également l'histoire au sens littéral : les crues saisonnières des grands fleuves du monde, la montée des océans après la fin de l'ère glaciaire, le choc rare d'un tsunami surgissant sans prévenir à l'horizon. L'astéroïde qui a tué les dinosaures a créé une vague titanesque d'un kilomètre et demi de haut, modifiant le cours de l'évolution. La puissance pure de ces houles s'est gravée dans notre conscience collective. Des murs d'eau : imparables, incontrôlés, impossibles à contenir. Ce sont parmi les forces les plus puissantes de la planète. Elles façonnent les continents, irriguent les cultures du monde et favorisent la croissance de la civilisation. D'autres types de vagues ont été tout aussi transformatrices. Regardez à nouveau l'histoire et vous pourrez la voir jalonnée d'une série de vagues métaphoriques : l'ascension et la chute des empires et des religions, et les poussées de commerce. Pensez au christianisme ou à l'islam, des religions qui ont commencé comme de petites rides avant de se propager et de déferler sur d'immenses étendues de la terre. Les vagues de ce genre sont un motif récurrent, encadrant le flux et le reflux de l'histoire, les grandes luttes de pouvoir et les cycles d'expansion et de récession économiques. L'essor et la diffusion des technologies ont également pris la forme de vagues changeant le monde. Une seule tendance dominante a résisté à l'épreuve du temps depuis la découverte du feu et des outils de pierre, les premières technologies exploitées par notre espèce. Presque toutes les technologies fondamentales jamais inventées, des pioches aux charrues, de la poterie à la photographie, des téléphones aux avions, et tout ce qu'il y a entre les deux, suivent une loi unique, apparemment immuable : elles deviennent moins chères et plus faciles à utiliser, et finissent par se propager partout. Cette prolifération de la technologie par vagues est l'histoire de l'Homo technologicus, de l'animal technologique. La quête de l'humanité pour s'améliorer elle-même, améliorer son sort, ses capacités et son influence sur son environnement a alimenté une évolution incessante d'idées et de créations. L'invention est un processus de déploiement, étendu et émergent, mené par des inventeurs, des universitaires, des entrepreneurs et des dirigeants auto-organisés et hautement compétitifs, chacun avançant avec ses propres motivations. Cet écosystème d'invention tend par défaut vers l'expansion. C'est la nature inhérente de la technologie. La question est : que se passe-t-il à partir de là ? Dans les pages qui suivent, je vais vous raconter l'histoire de la prochaine grande vague de l'histoire. Regardez autour de vous. Que voyez-vous ? Des meubles, des bâtiments, des téléphones, de la nourriture, un parc aménagé ? Presque chaque objet dans votre champ de vision a, selon toute probabilité, été créé ou modifié par l'intelligence humaine. Le langage, le fondement même de nos interactions sociales, de nos cultures, de nos organisations politiques et peut-être de ce que signifie être humain, est un autre produit et moteur de notre intelligence. Chaque principe et concept abstrait, chaque petit effort créatif ou projet, chaque rencontre dans votre vie a été médiatisée par la capacité unique et infiniment complexe de notre espèce pour l'imagination, la créativité et la raison. L'ingéniosité humaine est une chose étonnante. Une seule autre force est aussi omniprésente dans ce tableau : la vie biologique elle-même. Avant l'ère moderne, mis à part quelques roches et minéraux, la plupart des artefacts humains, des maisons en bois aux vêtements en coton, en passant par les feux de charbon, provenaient de choses qui étaient autrefois vivantes. Tout ce qui est entré dans le monde depuis lors découle de nous, découle du fait que nous sommes des êtres biologiques. Il n'est pas exagéré de dire que l'intégralité du monde humain dépend soit des systèmes vivants, soit de notre intelligence. Et pourtant, les deux se trouvent maintenant dans un moment sans précédent d'innovation exponentielle et de bouleversement, une augmentation inégalée qui ne laissera que peu de choses inchangées. Une nouvelle vague technologique commence à déferler sur nous. Cette vague libère le pouvoir d'ingénierie de ces deux fondations universelles : une vague de rien de moins que l'intelligence et la vie. La vague à venir se définit par deux technologies de base : l'intelligence artificielle (IA) et la biologie synthétique. Ensemble, elles inaugureront une nouvelle ère pour l'humanité, créant de la richesse et des surplus comme on n'en a jamais vu. Et pourtant, leur prolifération rapide menace également de donner à une diversité d'acteurs malveillants le pouvoir de déclencher des perturbations, de l'instabilité et même des catastrophes à une échelle inimaginable. Cette vague crée un défi immense qui définira le XXIe siècle. Notre avenir dépend de ces technologies tout en étant mis en péril par elles. De là où nous en sommes aujourd'hui, il semble que contenir cette vague — c'est-à-dire la contrôler, la freiner ou même l'arrêter — ne soit pas possible. Ce livre se demande pourquoi cela pourrait être vrai et ce que cela signifie si c'est le cas. Les implications de ces questions affecteront finalement toutes les personnes vivantes et chaque génération qui nous suivra. Je crois que cette vague technologique imminente amène l'histoire humaine à un tournant. S'il est impossible de la contenir, les conséquences pour notre espèce sont dramatiques, potentiellement désastreuses. De même, sans ses fruits, nous sommes exposés et précaires. C'est un argument que j'ai avancé de nombreuses fois au cours de la dernière décennie à huis clos. Mais alors que les impacts deviennent de plus en plus impossibles à ignorer, il est temps que je défende cette thèse publiquement. Le Dilemme. Contempler le pouvoir profond de l'intelligence humaine m'a conduit à me poser une question simple, qui a consumé ma vie depuis lors : et si nous pouvions distiller l'essence de ce qui nous rend, nous humains, si productifs et capables en...

Nous espérons que vous avez apprécié cet aperçu. Pour continuer à écouter ce livre audio sur Google Play Livres, utilisez le lien dans la description de la vidéo.