Mes pires craintes sont que nous — le domaine, la technologie, l'industrie — causions des dommages importants au monde.

Je pense que si cette technologie tourne mal, cela peut aller très mal, et nous voulons être francs à ce sujet.

Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise, mais nous essayons d'être très lucides sur le pire scénario et sur le travail que nous devons accomplir pour l'atténuer.

Depuis plusieurs mois maintenant, le public est fasciné par GPT, DALL-E et d'autres outils d'IA.

Ces exemples, comme les devoirs faits par ChatGPT ou les articles et tribunes qu'il peut écrire, ressemblent à des nouveautés.

Mais les avancées sous-jacentes de cette ère sont plus que de simples expériences de recherche.

Ce ne sont plus des fantasmes de science-fiction. Elles sont réelles et présentes.

Les promesses de guérir le cancer, de développer de nouvelles compréhensions de la physique et de la biologie, ou de modéliser le climat et la météo sont toutes très encourageantes et porteuses d'espoir, mais nous connaissons aussi les méfaits potentiels.

Et nous les avons déjà vus : désinformation militarisée, discrimination en matière de logement, harcèlement des femmes, usurpation d'identité, clonage de voix et deepfakes.

Ce sont les risques potentiels, malgré les autres récompenses.

Et pour moi, le plus grand cauchemar est peut-être la nouvelle révolution industrielle imminente, le déplacement de millions de travailleurs, la perte d'un nombre considérable d'emplois et la nécessité de se préparer à cette nouvelle révolution industrielle par la formation professionnelle.

Monsieur Altman, nous allons commencer par vous, si cela vous convient. Merci.

Merci, Monsieur le Président Blumenthal, Monsieur le Membre de rang Hawley, membres de la commission judiciaire. Merci de me donner l'occasion de vous parler aujourd'hui des grands réseaux neuronaux.

C'est vraiment un honneur d'être ici, encore plus en ce moment que ce à quoi je m'attendais.

Je m'appelle Sam Altman. Je suis le directeur général d'OpenAI.

OpenAI a été fondée sur la conviction que l'intelligence artificielle a le potentiel d'améliorer presque tous les aspects de nos vies, mais aussi qu'elle crée des risques sérieux que nous devons travailler ensemble à gérer.

Nous sommes ici parce que les gens adorent cette technologie. Nous pensons qu'il peut s'agir d'un moment charnière comme l'invention de l'imprimerie. Nous devons travailler ensemble pour qu'il en soit ainsi.

OpenAI est une entreprise inhabituelle, et nous l'avons conçue ainsi parce que l'IA est une technologie inhabituelle.

Nous sommes régis par une organisation à but non lucratif, et nos activités sont guidées par notre mission et notre charte, qui nous engagent à travailler pour assurer une large distribution des bénéfices de l'IA et à maximiser la sécurité des systèmes d'IA.

Nous travaillons à construire des outils qui pourront un jour nous aider à faire de nouvelles découvertes et à relever certains des plus grands défis de l'humanité, comme le changement climatique et la guérison du cancer.

Nos systèmes actifs ne sont pas encore capables de faire ces choses, mais il a été immensément gratifiant de voir de nombreuses personnes à travers le monde tirer tant de valeur de ce que ces systèmes peuvent déjà faire aujourd'hui.

Nous aimons voir les gens utiliser nos outils pour créer, apprendre et être plus productifs.

Nous sommes très optimistes quant au fait qu'il y aura des emplois fantastiques à l'avenir, et que les emplois actuels pourront devenir bien meilleurs.

Nous aimons aussi voir ce que les développeurs font pour améliorer les vies.

Par exemple, Be My Eyes a utilisé notre nouvelle technologie multimodale dans GPT-4 pour aider les personnes malvoyantes à naviguer dans leur environnement.

Nous pensons que les avantages des outils que nous avons déployés jusqu'à présent l'emportent largement sur les risques, mais assurer leur sécurité est vital pour notre travail, et nous déployons des efforts considérables pour garantir que la sécurité soit intégrée à nos systèmes à tous les niveaux.

Avant de publier tout nouveau système, OpenAI effectue des tests approfondis, fait appel à des experts externes pour des examens détaillés et des audits indépendants, améliore le comportement du modèle et met en œuvre des systèmes de sécurité et de surveillance robustes.

Avant de lancer GPT-4, notre dernier modèle, nous avons passé plus de six mois à mener des évaluations approfondies, des simulations d'attaques externes (red teaming) et des tests de capacités dangereuses.

Nous sommes fiers des progrès que nous avons accomplis. GPT-4 est plus susceptible de répondre de manière utile et véridique et de refuser les demandes nuisibles que tout autre modèle largement déployé de capacité similaire.

Cependant, nous pensons que l'intervention réglementaire des gouvernements sera essentielle pour atténuer les risques de modèles de plus en plus puissants.

Par exemple, le gouvernement américain pourrait envisager une combinaison d'exigences de licence et de test pour le développement et la publication de modèles d'IA au-dessus d'un certain seuil de capacités.

Il y a plusieurs autres domaines que j'ai mentionnés dans mon témoignage écrit où je crois que des entreprises comme la nôtre peuvent s'associer aux gouvernements, notamment pour s'assurer que les modèles d'IA les plus puissants respectent un ensemble d'exigences de sécurité, faciliter les processus de développement et de mise à jour des mesures de sécurité, et examiner les opportunités de coordination mondiale.

Et comme vous l'avez mentionné, je pense qu'il est important que les entreprises aient leur propre responsabilité ici, peu importe ce que fait le Congrès.

C'est une période remarquable pour travailler sur l'intelligence artificielle.

Mais à mesure que cette technologie progresse, nous comprenons que les gens s'inquiètent de la façon dont elle pourrait changer notre mode de vie. Nous le sommes aussi.

Mais nous pensons que nous pouvons et devons travailler ensemble pour identifier et gérer les inconvénients potentiels, afin que nous puissions tous profiter des avantages formidables.

Il est essentiel qu'une IA puissante soit développée en tenant compte des valeurs démocratiques, et cela signifie que le leadership américain est critique.

Je crois que nous serons en mesure d'atténuer les risques qui nous attendent et de capitaliser réellement sur le potentiel de cette technologie pour faire croître l'économie américaine et celle du monde, et j'ai hâte de travailler avec vous tous pour répondre à ce moment et pour répondre à vos questions. Merci.

Devrions-nous envisager des laboratoires d'essais indépendants pour fournir des fiches d'évaluation et des étiquettes nutritionnelles — ou l'équivalent des étiquettes nutritionnelles — un emballage qui indique aux gens si le contenu est fiable ou non, quels sont les ingrédients et quels déchets y entrent, car cela pourrait entraîner la sortie de déchets ?

Oui, je pense que c'est une excellente idée. Je pense que les entreprises devraient partager les résultats des tests de leurs modèles avant de les publier. Voici ses faiblesses, et voici ses forces. Des audits indépendants pour cela sont également très importants.

Ces modèles deviennent de plus en plus précis avec le temps. Comme nous l'avons dit aussi fort que n'importe qui, cette technologie en est à ses débuts. Elle fait certainement encore des erreurs.

Nous constatons que les utilisateurs sont assez sophistiqués et comprennent où les erreurs sont susceptibles de se produire, qu'ils doivent être responsables de la vérification de ce que disent les modèles et qu'ils vont vérifier.

Je crains qu'à mesure que les modèles s'améliorent, les utilisateurs puissent avoir de moins en moins de processus de pensée discriminante propre à ce sujet.

Mais je pense que les utilisateurs sont plus capables que ce que nous leur accordons souvent dans des conversations comme celle-ci.

Je pense que beaucoup d'avertissements, que vous verrez si vous avez utilisé ChatGPT concernant les inexactitudes du modèle, sont également importants.

Et je suis enthousiasmé par un monde où les entreprises publient avec les modèles des informations sur leur comportement, sur les inexactitudes, et où des agences ou des entreprises indépendantes fournissent également cela. Je pense que c'est une excellente idée.

J'ai fait allusion dans mes remarques liminaires à la question de l'emploi, aux effets économiques sur le travail. Je pense que vous avez dit, en fait, et je vais citer : "Le développement d'une intelligence machine surhumaine est probablement la plus grande menace pour la survie de l'humanité." Fin de citation.

Vous aviez peut-être en tête l'effet sur les emplois, ce qui est vraiment mon plus grand cauchemar à long terme. Permettez-moi de vous demander quel est votre plus grand cauchemar et si vous partagez cette préoccupation.

Comme pour toutes les révolutions technologiques, je m'attends à ce qu'il y ait un impact significatif sur les emplois, mais l'aspect exact de cet impact est très difficile à prédire.

Si nous revenions de l'autre côté d'une précédente révolution technologique, en parlant des emplois qui existent de l'autre côté — vous pouvez retourner lire des livres à ce sujet, c'est ce que les gens disaient à l'époque — c'est difficile.

Je crois qu'il y aura bien plus d'emplois de l'autre côté, et que les emplois d'aujourd'hui s'amélioreront.

Je pense qu'il est important de comprendre et de considérer GPT-4 comme un outil, pas comme une créature, ce avec quoi il est facile de se confondre, et c'est un outil sur lequel les gens ont beaucoup de contrôle et sur la façon dont ils l'utilisent.

Et deuxièmement, GPT-4 et d'autres systèmes similaires sont bons pour accomplir des tâches, pas des métiers.

On voit donc déjà des gens qui utilisent GPT-4 pour faire leur travail beaucoup plus efficacement en les aidant dans leurs tâches.

Maintenant, GPT-4 automatisera entièrement certains emplois, et il en créera de nouveaux qui, selon nous, seront bien meilleurs.

Cela arrive — encore une fois, ma compréhension de l'histoire de la technologie est celle d'une longue révolution technologique, et non d'un tas de révolutions différentes mises ensemble — mais cela s'est produit continuellement.

À mesure que notre qualité de vie augmente et que les machines et les outils que nous créons peuvent nous aider à vivre de meilleures vies, la barre s'élève pour ce que nous faisons, et notre capacité humaine et ce à quoi nous consacrons notre temps s'orientent vers des projets plus ambitieux et plus satisfaisants.

Il y aura donc un impact sur les emplois. Nous essayons d'être très clairs à ce sujet, et je pense que cela nécessitera un partenariat entre l'industrie et le gouvernement, mais surtout une action du gouvernement pour déterminer comment nous voulons atténuer cela.

Mais je suis très optimiste quant à la qualité des emplois du futur. Je pense que les emplois, l'emploi et ce que nous allons tous faire de notre temps comptent vraiment.

Je conviens que lorsque nous arriverons à des systèmes très puissants, le paysage changera. Je pense que je suis juste plus optimiste quant au fait que nous sommes incroyablement créatifs, que nous trouvons de nouvelles choses à faire avec de meilleurs outils, et que cela continuera à se produire.

Mes pires craintes sont que nous — le domaine, la technologie, l'industrie — causions des dommages importants au monde.

Je pense que cela pourrait arriver de nombreuses façons différentes. C'est pourquoi nous avons lancé l'entreprise. C'est en grande partie pour cela que je suis ici aujourd'hui et pourquoi nous avons été ici par le passé et que nous avons pu passer du temps avec vous.

Je pense que si cette technologie tourne mal, cela peut aller très mal, et nous voulons être francs à ce sujet.

Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise, mais nous essayons d'être très lucides sur le pire scénario et sur le travail que nous devons accomplir pour l'atténuer.

Aidez-moi à comprendre ici quelle est la portée de tout cela. Devrions-nous nous inquiéter des modèles — les grands modèles de langage — qui peuvent prédire les opinions de sondages et qui peuvent ensuite aider les organisations et les entités à affiner des stratégies pour susciter des comportements chez les électeurs ? Devrions-nous nous inquiéter de cela pour nos élections ?

Oui. Merci, Sénateur Hawley, pour la question. C'est l'un de mes domaines de plus grande préoccupation : la capacité plus générale de ces modèles à manipuler, à persuader et à fournir une désinformation interactive personnalisée.

Je pense que ce est une version plus large de ce dont vous parliez, mais étant donné que nous allons faire face à une élection l'année prochaine et que ces modèles s'améliorent, je pense que c'est un domaine de préoccupation majeur.

Je pense qu'il y a beaucoup de politiques que les entreprises peuvent adopter volontairement, et je suis heureux de parler de ce que nous faisons là-bas. Je pense qu'une certaine réglementation serait tout à fait sage sur ce sujet.

Quelqu'un a mentionné plus tôt, et c'est quelque chose avec lequel nous sommes vraiment d'accord : les gens doivent savoir s'ils parlent à une IA, et si le contenu qu'ils regardent pourrait être généré ou non. Je pense que c'est une excellente chose de clarifier cela.

Je pense que nous aurons également besoin de règles et de directives sur ce qui est attendu en termes de divulgation de la part d'une entreprise fournissant un modèle qui pourrait avoir le genre de capacités dont vous parlez.

Donc je suis nerveux à ce sujet. Je pense que les gens sont capables de s'adapter assez rapidement. Quand Photoshop est arrivé sur la scène il y a longtemps, pendant un certain temps, les gens ont été vraiment trompés par les images Photoshop, et ont assez rapidement développé la compréhension que les images pouvaient être retouchées.

Ce sera comme ça, mais puissance dix. Et l'interactivité, la capacité de vraiment modéliser et de bien prédire les humains, comme vous l'avez dit, je pense que cela va nécessiter une combinaison d'entreprises faisant ce qu'il faut, de réglementation et d'éducation du public.

Avez-vous des inquiétudes concernant quelques acteurs disposant de ressources et d'un pouvoir extraordinaires — le pouvoir d'influencer Washington ? Je nous vois — je crois fermement au marché libre, mais la raison pour laquelle j'entre dans une épicerie et qu'un Twinkie est moins cher qu'une pomme, ou qu'un Happy Meal coûte moins cher qu'un saladier, est due à la façon dont le gouvernement fait pencher la balance pour choisir des gagnants et des perdants.

Le marché libre n'est donc pas ce qu'il devrait être lorsque vous avez un pouvoir corporatif important qui peut même influencer le jeu ici. Avez-vous des inquiétudes à ce sujet dans cette prochaine ère d'innovation technologique ?

Oui, encore une fois, c'est pour cela en grande partie que nous avons lancé OpenAI. Nous avons d'énormes inquiétudes à ce sujet.

Je pense qu'il est important de démocratiser les entrées de ces systèmes, les valeurs sur lesquelles nous allons nous aligner, et je pense qu'il est également important de donner aux gens un large usage de ces outils.

Quand nous avons commencé la stratégie d'API, qui est une grande partie de la façon dont nous rendons nos systèmes disponibles pour que n'importe qui puisse les utiliser, il y avait énormément de scepticisme à ce sujet, et cela comporte des défis, c'est certain, mais nous pensons que mettre cela entre les mains de beaucoup de gens et non entre les mains de quelques entreprises est vraiment très important, et nous voyons l'explosion d'innovation qui en résulte.

Mais il est tout à fait vrai que le nombre d'entreprises capables de former les véritables modèles de pointe va être restreint, ne serait-ce qu'en raison des ressources requises, et je pense donc qu'il doit y avoir un examen incroyable sur nous et nos concurrents.

Je pense qu'il existe une industrie riche et passionnante de recherche de qualité et de nouvelles startups qui n'utilisent pas seulement nos modèles mais créent les leurs, et je pense qu'il est important de s'assurer que peu importe ce qui se passe au niveau réglementaire, quelles que soient les nouvelles agences qui pourraient ou non voir le jour, nous préservions cet élan car c'est crucial.

Je crois beaucoup au potentiel démocratisant de la technologie, mais j'ai vu la promesse de cela échouer maintes et maintes fois lorsque les gens disaient : 'Oh, cela va avoir une grande force démocratisante'.

Mon équipe travaille sur beaucoup de questions concernant le renforcement des préjugés par les algorithmes et l'incapacité à annoncer certaines opportunités dans certains codes postaux, mais vous semblez dire — et j'ai entendu cela avec le Web3 — que cela va être décentralisé, que toutes ces choses vont arriver, mais cela me semble ne même pas offrir cette promesse car les gens qui conçoivent cela, cela demande tellement de puissance, d'énergie, de ressources.

Êtes-vous en train de dire que mes rêves de technologie démocratisant davantage les opportunités et plus encore sont possibles au sein d'une technologie qui sera finalement très centralisée entre quelques acteurs qui contrôlent déjà tant de choses ?

Ce point que j'ai soulevé concernant l'utilisation du modèle et la construction par-dessus, c'est vraiment une nouvelle plateforme. Il est certainement important de parler de qui va créer les modèles. Je veux le faire. Je pense aussi qu'il est vraiment important de décider sur quelles valeurs nous allons aligner ces modèles.

Mais en ce qui concerne l'utilisation des modèles, les personnes qui construisent sur l'API d'OpenAI font des choses incroyables. Les gens commentent fréquemment : 'Je n'arrive pas à croire qu'on obtienne autant de technologie pour si peu d'argent'.

Les entreprises que les gens construisent, mettant de l'IA partout, utilisant notre API, ce qui nous permet de mettre en place des garde-fous, je pense que c'est assez passionnant. Et je pense que c'est ainsi que c'est en train d'être — non pas comment ce sera, mais comment c'est en train d'être démocratisé en ce moment.

Je vais clore l'audience et laisser le compte rendu ouvert pendant une semaine. Au cas où quelqu'un souhaiterait soumettre quoi que ce soit, j'encourage chacun d'entre vous qui a soit des manuscrits qui vont être publiés, soit des observations de vos entreprises à nous les soumettre. Et nous attendons avec impatience notre prochaine audience. Celle-ci est close.