Qu'est-ce que l'IA et qu'est-ce qu'elle n'est pas ?

L'explication la plus simple de l'IA est un système qui s'améliore par l'apprentissage. Elle est occupée à apprendre quelque chose, et c'est probablement la définition la plus simple et la plus actuelle. Quand je parle d'IA à mes amis non techniques, ils pensent généralement à un film qu'ils ont vu. Le film met toujours en scène un robot, le robot déraille et ce robot est terrassé par une femme scientifique qui triomphe. Je propose une variante de ce film où les ordinateurs conspirent tous contre les humains et commencent à les tuer. Les humains s'en aperçoivent, les ordinateurs s'enfuient devant les humains, et une femme scientifique trouve comment débrancher les ordinateurs un par un. Ce n'est pas ce qu'est l'IA. C'est une fiction de cinéma. Il faudra attendre très longtemps, si possible jamais, avant qu'ils n'aient à gérer cela.

Ce qu'est réellement l'IA, c'est un système de connaissances implémenté dans le cloud, donc elle est autour de vous tout le temps. Elle est très douée pour examiner de grands ensembles de données et prédire des choses. Elle est très douée pour observer et trouver des modèles que les humains ne peuvent pas voir. J'ai mentionné plus tôt que les ordinateurs étaient très doués pour la vision. C'était la première percée. Mais ce qu'ils font maintenant, c'est chercher des modèles de corrélation que les humains ne peuvent pas voir. Alors imaginons que le mardi vous fassiez quelque chose et le vendredi quelqu'un d'autre fasse quelque chose, et il s'avère que vous êtes magiquement liés dans l'univers de telle sorte que le mardi cause le vendredi. Mais ce n'est pas un modèle apparent. Les ordinateurs peuvent découvrir ce modèle, cette aiguille dans une botte de foin, particulièrement bien. Lorsque vous exploitez cela à grande échelle, vous vous retrouvez avec des systèmes qui semblent humains parce qu'ils peuvent agréger des données et qu'ils peuvent penser ce que vous pensez, ils peuvent générer une solution.

Il existe une technologie appelée GAN, les réseaux antagonistes génératifs, où l'ordinateur peut générer des candidats et un autre réseau dit "pas assez bon", "pas assez bon", "pas assez bon" jusqu'à ce qu'ils trouvent. Les GAN ont été utilisés par exemple pour créer des photos d'actrices et d'acteurs qui sont fausses mais qui ont l'air si réelles que vous êtes sûr de les connaître.

L'une des préoccupations, les réelles préoccupations concernant l'IA, est qu'il sera très difficile de faire la différence entre l'information et la désinformation. Je vais vous donner un exemple. Supposons que tous vos lecteurs et auditeurs sont évidemment humains et que les règles standard des humains s'appliquent à nous tous. Il existe ce qu'on appelle le biais d'ancrage, ce qu'on appelle le biais de récence. Les gens ne sont pas des ordinateurs complètement rationnels et ils ne devraient pas l'être, nous ne voulons pas qu'ils le soient, nous aimons les humains. Mais imaginons que l'ordinateur obtienne suffisamment de personnes de ce type et qu'il comprenne que si je dis d'abord la chose scandaleuse suivante, vous me croirez toujours. L'ordinateur découvre cela et tout d'un coup, tout ce qu'il fait fait boom, boom, boom. J'ai beaucoup réfléchi à la façon dont les politiciens parlent. Si vous regardez attentivement, ils prennent un ensemble de phrases et les répètent inlassablement. Ce sont des phrases simples, c'est l'ancrage. Ils essaient d'amener le public, leurs électeurs, à partir de ce fait et à juger au-delà de celui-ci. Les ordinateurs seront incroyablement doués pour exploiter cela. Cela signifie que le monde, notre monde social qui nous entoure, deviendra incroyablement confus au cours de la prochaine décennie car il y aura tant d'acteurs qui voudront nous désinformer. Entreprises, politiciens, nos opposants, pour le plaisir, Dieu sait qui d'autre. Nous ne savons pas comment gérer cela.