Génial. Alors, pourquoi ne pas commencer ? Encore une fois, c'est un plaisir de vous accueillir ici sur notre campus. L'IA a évolué si rapidement, c'est absolument fascinant et vous avez été aux premières loges de beaucoup de ces changements. L'une des questions que, en tant qu'institution engagée envers la justice sociale, l'éthique, la responsabilité, et nous sommes une institution qui croit avoir une place solide dans l'avenir de l'IA, l'une des questions que nous aimerions poser est la suivante : comment pouvons-nous garantir, avec tout ce qui se passe si vite, que les considérations éthiques sont prioritaires ? Et quel rôle les leaders de l'industrie, tels que vous et certains de vos collègues, devraient-ils jouer pour s'assurer que nous avons des pratiques responsables ?

La façon dont j'aime en parler est de dire que l'intelligence artificielle peut être la plus grande révolution technologique, le plus grand nouvel outil, le plus grand moteur de croissance économique que le monde ait connu, mais c'est un "peut", pas un "sera". La technologie est clairement incroyable, mais pour être bien déployée, elle nécessitera le partenariat et l'intégration de toute la société et de s'assurer que cela se fasse de manière équitable pour élever tout le monde. La technologie s'y prête d'ailleurs assez bien, mais nous ne pouvons pas le faire seuls. L'une des raisons pour lesquelles nous aimons venir parler à des gens en dehors de la Silicon Valley et faire des voyages à travers le monde, visiter des universités et parler à des gens de milieux très différents, d'industries différentes et d'objectifs très différents pour ce qu'ils aimeraient que l'IA fasse, est que ChatGPT est désormais un produit très largement utilisé. Il doit servir beaucoup de monde et il doit le faire de manière inclusive, équitable, d'une manière qui apporte le meilleur de cette technologie à tous. Il y a beaucoup de questions très difficiles. Quand nous avons entraîné les premiers GPT — c'était à l'époque de GPT-1 et 2 — nous avons regardé cela et nous nous sommes dit : "Eh bien, nous pouvons entraîner cette chose géniale, mais si vous l'entraînez sur Internet, vous obtenez un système très biaisé." Que faudra-t-il pour corriger cela, pour y remédier ? À l'époque, nous avions quelques idées. L'une d'entre elles, appelée Apprentissage par renforcement à partir de rétroaction humaine, a bien mieux fonctionné que ce que nous pensions pour, je dirais, "débiaiser" un système — car je crois qu'aucune personne ne sera jamais d'accord sur le fait qu'un système puisse être débiaisé — mais pour nous donner des outils afin d'impacter significativement le comportement d'un système. Si vous regardez comment GPT-4 se comporte sur n'importe quel test de biais que vous voulez lui soumettre par rapport aux versions précédentes, nous avons clairement fait beaucoup de progrès. Mais maintenant, il y a la question encore plus difficile : qui décide de ce que devrait être le comportement de ces systèmes ? À quoi ressemble ce processus ? Comment obtenez-vous une contribution démocratique du monde entier pour un système qui va impacter le monde entier ? Comment s'assurer que les voix marginalisées qui ne sont pas toujours entendues le soient haut et fort ? Et pas seulement quel est le comportement par défaut du système, mais jusqu'où quelqu'un est-il autorisé à le pousser ? Comment s'assurer que les utilisateurs donnant leur avis sur leurs propres préférences de valeurs soient pris en compte ? Pour cela, nous avons besoin de beaucoup de collaboration. Nous lançons de nouvelles choses la semaine prochaine concernant les contributions démocratiques, mais nous sommes très enthousiastes car la technologie permet cela, et maintenant nous devons faire face au problème sociétal plus difficile de s'assurer que cela se produise.

Merci. Je vais passer la parole à ma collègue, la Dr Sutherland.

Bien sûr. L'une des choses dont j'ai discuté avec des collègues est la suivante : quel impact ressentez-vous à avoir des contributions marginalisées au stade du développement ? Lorsque vous développez des aspects de l'IA ou de ChatGPT, si à ce niveau vous aviez de la diversité, à quel point cela contribuerait-il à résoudre certains des problèmes de biais ?

C'est critique, tant au niveau des personnes qui proposent les idées d'ingénierie qu'en s'assurant que les personnes qui rédigent les spécifications sur la façon dont le système doit se comporter, puis les personnes qui répondent aux questions, fournissant ce feedback humain par-dessus, pour s'assurer que nous avons un échantillon représentatif. Je pense que c'est important à tous les niveaux. Il y a de nombreuses raisons pour lesquelles je suis ravi d'être ici — j'adore toujours parler dans les universités — mais l'une d'elles est : s'il vous plaît, postulez chez OpenAI ; nous aimerions vous recruter.

C'est bien.

Si je peux insister un peu plus là-dessus, car je vois beaucoup d'étudiants sourire et réagir : nous sommes dans une université, et nous sommes à l'Université Howard. Nous avons un talent incroyable ici. Quels conseils avez-vous pour nos étudiants qui souhaiteraient entrer dans l'industrie, travailler pour OpenAI ou pour d'autres entreprises ? Que peuvent-ils faire pour se préparer ?

Juste avant cela, j'ai pu enregistrer le podcast HU TV, un petit segment pour celui-ci, et je dirai la chose que j'ai dite là-bas parce que j'étais vraiment content de la réponse. Je pense que c'est probablement le meilleur moment, du moins depuis l'internet, pour être diplômé, pour être une personne jeune si vous êtes intéressé par l'industrie technologique. C'est une opportunité très spéciale qui ne se représentera probablement pas de sitôt ; vous avez tous eu beaucoup de chance. Mais c'est à la naissance d'une nouvelle industrie et à une époque de changements considérables que les jeunes ont le plus d'avantage et le plus d'opportunités. Vous êtes tous bien plus familiers avec les outils d'IA que les personnes plus âgées que vous. Vous apportez une nouvelle série de perspectives fraîches non seulement sur la façon de faire les choses existantes, mais sur ce qui peut être créé maintenant et qui n'était tout simplement pas possible avant cela. Il y a une raison pour laquelle je pense que les jeunes sont le moteur de beaucoup de révolutions technologiques. Dans mon emploi précédent chez Y Combinator, c'était évident pour nous, mais c'est un enjeu vraiment majeur et une opportunité vraiment spéciale. En plus de cette perspective, vous entrerez également dans votre carrière à un moment de changements et de bouleversements incroyables, et c'est là que l'avantage revient aux personnes qui débutent ou qui sont plus jeunes. C'est génial — quand le sol tremble, c'est là que toutes les règles changent et que les structures de pouvoir et les ordres existants sont menacés ou affaiblis. Vous avez l'opportunité de venir commencer quelque chose d'entièrement nouveau. Cela peut être une nouvelle entreprise, un nouveau type de travail créatif, ou simplement un emploi dans une entreprise existante d'une manière que les personnes de 10 ou 20 ans de plus que vous ne maîtriseront pas aussi bien et pour laquelle elles n'auront pas l'étincelle créative. C'est la première fois que regrette d'avoir cessé d'être un investisseur — je ne le regrette pas tant que ça car fabriquer de l'IA est bien plus amusant — mais les opportunités de créer de nouvelles entreprises et la nouvelle série d'entreprises qui naîtront au début d'une nouvelle révolution technologique... c'est une période comme le début de la révolution internet quand Amazon, Google et d'autres ont été lancés, ou comme la révolution mobile quand toutes ces entreprises ont été créées, où les grandes nouvelles entreprises voient le jour pile au début d'un nouveau virage technologique massif.

Et si je peux rebondir là-dessus aussi : ces opportunités sont-elles égales en ce moment particulièrement fertile pour les étudiants issus de milieux sous-représentés ? Quel est votre avis là-dessus ?

Oui. L'une des nombreuses raisons... D'ailleurs, sur la réponse précédente, j'ai oublié de dire à nouveau, vous pouvez aussi venir et avoir un impact très excitant chez OpenAI. Mais l'une des choses qui nous enthousiasme dans cette révolution particulière est le degré auquel les communautés sous-représentées s'en sont emparées, mènent la charge avec les nouveaux outils et construisent de nouveaux produits et services avec les nouveaux outils. Nous sommes très optimistes d'après ce que nous voyons jusqu'à présent : ce sera un nouveau tournant beaucoup plus représentatif.

J'aimerais rebondir un instant sur ce que vous avez dit dans votre réponse précédente. Comme l'a indiqué le doyen, nous venons de lancer un programme de master en science des données ici, et l'accent que nous avons mis sur sa mise en place est que nous voulons nous assurer de faire un excellent travail pour ancrer les étudiants — les diplômés — dans les aspects techniques de ce qu'ils doivent savoir et utiliser. En plus de cela, j'aimerais avoir votre avis à ce sujet : nous aimons faire ce que nous appelons "préparer leur carrière pour l'avenir". Par là, j'entends leur donner les compétences de réflexion créative et critique qui seront nécessaires quel que soit l'outil, car les outils changent et évoluent, mais ces capacités innées de réflexion créative seront toujours nécessaires. C'est la façon de pérenniser votre carrière. Qu'en pensez-vous ?

Je suis tout à fait d'accord. Je pense que l'esprit critique, la créativité, la capacité à comprendre ce que les autres veulent, la capacité à avoir de nouvelles idées — en quelque sorte, ce seront les compétences les plus précieuses du futur. Si vous imaginez un monde où chacun d'entre nous dispose d'un ensemble d'assistants d'IA à l'échelle d'une entreprise effectuant des tâches pour nous aider à exprimer notre vision et à créer des choses pour les autres, l'essentiel sera alors la qualité des idées, la sélection des idées. L'IA peut générer des tas de bonnes idées, mais vous avez toujours besoin d'un humain pour dire : "C'est ce que les gens veulent." De plus, les humains se soucient vraiment de l'humain derrière quelque chose. Quand je lis un livre que j'aime vraiment, la première chose que je veux faire est d'aller lire sur cet auteur ; si une IA a écrit ce livre, je pense que je m'y connecterais beaucoup moins d'une certaine manière. De même quand je regarde une œuvre d'art magnifique, ou si j'utilise le produit d'une entreprise, je veux connaître les gens qui l'ont créé. Donc, je pense que dans les deux sens — les humains sachant ce que les autres humains veulent et les humains se souciant des humains derrière quelque chose — ce sera une compétence super importante. Je pense que l'apprentissage de cette capacité à créer, à proposer de nouvelles idées et à choisir des idées parmi les nombreuses options présentées par une IA sera très précieux. Je suis d'accord avec vous, les outils changeront, mais je pense aussi que la familiarité avec les outils d'aujourd'hui et cette nouvelle façon d'utiliser les ordinateurs sont vraiment importantes. Ce sera important pour tout le monde, pas seulement pour les constructeurs d'outils, mais pour tout le monde — de la même manière que si vous ne savez pas utiliser un téléphone mobile, vous êtes extrêmement désavantagé. Ils ne sont pas si difficiles à utiliser, et les gens apprennent, mais plus tôt dans votre carrière ou votre vie vous vous familiarisez avec, mieux c'est. Tout le monde dans cette salle est familier avec cela depuis probablement aussi longtemps qu'il s'en souvienne, mais je me souviens avoir vu des personnes plus âgées lutter pour se familiariser avec le téléphone pour la première fois, aussi intuitif que je le pensais. Je pense que l'adaptabilité humaine est remarquable, et je suis donc très heureux que les gens ne trouvent plus bizarre ou impressionnant que nous puissions parler à un ordinateur comme nous parlons à un humain, et qu'il nous comprenne, nous réponde et fasse des choses pour nous. Mais il y a deux ans, presque personne ne croyait que cela serait possible de sitôt. Ce qui se passe maintenant avec ChatGPT relevait au mieux de la science-fiction, et si vous aviez dit au monde que cela ferait partie de la vie quotidienne des gens deux ans plus tard, je pense qu'ils auraient dit : "Bien sûr que non ; c'est un truc d'Hollywood." C'est un changement significatif que le monde vient de traverser. Je pense que c'est probablement — certainement — le changement le plus significatif dans notre façon d'utiliser les ordinateurs depuis les écrans tactiles des téléphones portables, mais je pense que ce sera probablement bien plus important que cela. Vous pourrez simplement dire à un ordinateur, comme vous le diriez à un ami ou à un employé : "J'ai besoin que telle chose se passe", ou "Qu'est-ce que tu en penses ?", ou "Peux-tu m'aider avec ça ?", et il le fera pour des définitions de plus en plus complexes du "faire". À l'heure actuelle, il peut peut-être écrire du code pour vous, éditer un article pour vous ou vous aider à analyser des choses, mais un jour il écrira un programme complet pour vous, réalisera tout un projet de recherche pour vous et vous aidera à proposer de nouvelles idées — un jour, pas dans un futur lointain. Donc, je pense que c'est un enjeu majeur.

En guise de suivi, la semaine dernière, j'étais à une conférence internationale sur la bio-informatique, et les discussions sur ChatGPT ont occupé une part importante de cette réunion. À un moment donné, quelqu'un a posé la question relative à ChatGPT : où en sommes-nous en tant que société ? Et presque tout le monde s'accordait à dire que nous sommes à une époque de transformation. Nous sommes à une époque de transformation, pas nécessairement à cause du génie technique qui se trouve dans ChatGPT, mais parce qu'il est si facile à utiliser pour tout le monde, que vous soyez une personnedu domaine des STIM ou des sciences humaines, une femme au foyer ou un collégien. Donc, pour faire suite à cela, il est considéré — du moins par les personnes présentes à cette conférence, qui étaient toutes des chercheurs professionnels — que c'est un moment transformateur, presque comme lorsque l'internet a été introduit. Voudriez-vous commenter cela ?

Je vais répondre en deux parties. Tout d'abord, je suis d'accord sur l'ampleur de cette transformation parce que ce qui se passe, c'est que nous passons d'un monde dans lequel l'intelligence est limitée et coûteuse à un monde où elle est abondante et bon marché. Si vous réfléchissez à tout ce que chacun d'entre vous pourrait faire si vous aviez une quantité massive de travail cognitif à votre disposition pour concrétiser les idées que vous voulez voir se réaliser, pour être utile aux autres, pour fournir des services et des conseils... à l'heure actuelle, vous pouvez embaucher des gens et vous pouvez les coordonner, mais c'est assez difficile et très coûteux, et la plupart des gens dans le monde ne peuvent pas s'offrir autant de services cognitifs qu'ils le souhaiteraient. Peu de gens peuvent se payer de grands avocats, par exemple ; c'est un type de service cognitif très spécialisé et très coûteux. Si le coût et la disponibilité de cela diminuent d'un facteur 100 ou 10 000 — pas seulement pour les conseils juridiques, car je ne pense pas que quiconque ait besoin de beaucoup plus de va-et-vient juridiques, mais pour tout ce que nous voulons : de grands divertissements, de grands produits et services, tout le reste, une excellente éducation, d'excellents soins médicaux — c'est un changement profond pour le monde. Nous sommes super enthousiastes à ce sujet, et je pense que tout le monde peut ressentir l'ampleur de ce que représente cette transformation. Votre second point n'est pas une question qu'on m'a posée souvent et je pense qu'elle est excellente, donc je vous en remercie. L'une des choses que j'ai apprises chez Y Combinator, et aussi ce que j'ai appris quand j'étais enfant en étudiant l'histoire de la technologie, c'est qu'on ne va jamais trop loin pour rendre une technologie facile à utiliser et accessible. Chaque 10 % de facilité d'utilisation supplémentaire que vous pouvez apporter à une technologie, peut-être que deux fois plus de personnes l'utilisent, ou qu'elles l'utilisent deux fois plus. Nous avions cette technologie dont nous savions qu'elle était assez cool ; nous ne savions pas tout à fait à quel point les gens allaient l'aimer, mais nous avions le sentiment qu'ils l'aimeraient. Nous l'avons d'abord proposée via une API, et quelques passionnés se sont bien amusés avec, mais pas beaucoup, et c'était un peu inconnu dans le monde. Nous avons sorti GPT-3 dans l'API, je crois que c'était en juin ou juillet 2020, et des gens ont construit des choses. Mais nous avons commencé à réfléchir alors à quelle était l'interface utilisateur la plus simple et la plus naturelle que nous puissions construire là-dessus. J'avais fait cette observation que les ordinateurs avaient tendance au fil du temps à se rapprocher le plus possible de la façon dont nous interagissons avec les autres humains ou notre monde physique. Vous avez commencé avec des cartes perforées pour programmer les ordinateurs — je ne sais pas comment ces gens faisaient, cela me semble incroyable, quelle façon peu naturelle d'utiliser un ordinateur. Ils triaient littéralement ces trucs par terre — fou, mais ils l'ont fait. Ensuite, vous avez eu les lignes de commande, et c'était un peu mieux, il y a une sorte de cadre que je peux voir pour cela, mais je suis reconnaissant de n'avoir jamais vraiment eu à utiliser ces ordinateurs. Puis vous avez eu l'interface utilisateur graphique, et maintenant enfin nous nous approchons de la façon dont nous interagissons avec le monde. Beaucoup de gens ont commencé à l'utiliser, et nous savions comment pointer des choses, et la souris était un analogue raisonnable pour cela. Le clavier était un peu artificiel, mais c'était suffisant. Cette idée que nous avions ces fenêtres et des informations graphiques affichées pour nous — comme nous regardons le monde, nous regardons un écran — il y avait des images, tout cela fonctionnait plutôt bien. Le smartphone a ensuite été une énorme révolution ; nous avons pu nous débarrasser de ce clavier et de cette souris et simplement utiliser nos mains à nouveau, bien plus proche de la façon dont nous utilisions le monde. Nous réfléchissions donc à ce qui allait suivre. La science-fiction l'avait prédit, donc cela n'aurait pas dû nous prendre autant de temps à comprendre, mais vous voulez vraiment juste un ordinateur à qui vous pouvez parler comme vous parlez à un humain. Nous sommes si finement réglés pour utiliser le langage, et la nuance et la sophistication du langage — tout imprécis qu'il soit avec tous les problèmes qu'il a — nous pouvons communiquer à un très haut débit des idées énormément complexes avec le langage. Nous avons donc dit : "Et si nous revenions à cette idée de chatbots ?" Des gens avaient essayé auparavant ; le problème était que le chatbot ne vous comprenait pas vraiment. Peut-être que maintenant il le peut ; essayons de construire cela. Construire l'interface de chat elle-même est évidemment trivial, mais la question était de savoir comment régler le modèle sous-jacent pour qu'il vous soit vraiment utile et vraiment bon pour la conversation.

Eh bien, je pense que nous devrions bientôt passer aux questions, mais je veux poser peut-être une dernière réflexion de ce côté-ci de cet entretien. C'est un peu une question en deux parties : dans ce monde que vous décrivez, alors que la technologie pousse vers ce changement et que nous obtenons ces appareils qui ressemblent plus à des humains avec qui parler, y a-t-il quelque chose que nous perdons de nous-mêmes ? J'ai lu ce livre récemment, "I, Human", et il soulève cette question : perdons-nous quelque chose de nous-mêmes à mesure que nous progressons, que nous gagnons ? Et puis deuxièmement, derrière tout cela se trouvent les algorithmes, bien sûr. Nous, en tant qu'institution, avons lutté avec les critiques sur les biais présents dans ces algorithmes, alors je me demandais si vous pouviez parler de ces deux questions et ensuite nous ouvrirons le débat.

Nous allons perdre quelque chose, c'est certain. Cela arrive avec chaque révolution technologique. Même si je suis convaincu que nous allons gagner bien plus que ce que nous perdons, cela ne signifie pas que nous ne perdons rien, et nous nous méfions tous de la perte pour de bonnes raisons. Je vais vous dire ce que je pense que nous n'allons pas perdre, à savoir deux choses : la valeur et la profondeur des relations humaines — à quel point nous nous soucions des autres humains. Je pense que les gens seront ravis de parler à des amis IA pendant un certain temps, et cela fera partie de l'avenir c'est sûr, mais on entend des gens qui le font beaucoup dire : "Mince, il y a vraiment quelque chose dans le fait de savoir que c'est un autre humain." C'est profondément ancré biologiquement en nous et je ne pense pas que cela disparaisse. Nous sommes si profondément programmés pour nous soucier des autres humains : ce que les autres humains pensent, ce que les autres humains font, la connexion que nous avons avec les autres humains. Nous n'allons pas perdre cela. Nous n'allons pas non plus perdre notre étincelle créative, notre désir d'être utiles les uns aux autres ou notre désir de nous épanouir. Les emplois du futur seront très différents des emplois d'aujourd'hui ; de cela nous pouvons être sûrs. Mais il y aura des emplois ; nous trouverons de nouvelles choses à faire. J'espère que ces futurs emplois, si nous pouvions savoir ce qu'ils sont aujourd'hui, nous dirions : "C'est tellement trivial et stupide ; une telle complaisance. Ces gens sont bien trop riches, bien trop choyés, ils perdent leur temps ; ils ne savent pas ce que c'était quand nous devions faire du vrai travail." J'espère que cela arrivera ; c'est ainsi que je pense que le progrès humain doit aller. Mais nous ne nous arrêtons jamais ; nous ne cessons jamais de créer, nous ne cessons jamais de travailler, nous ne cessons jamais de nous apporter de la valeur mutuellement, et nous n'arrêtons jamais nos stupides jeux de statut. Sur les questions de biais et d'algorithmes, oui, le biais existe à tous les niveaux : au niveau des algorithmes, des ensembles de données, de la façon dont nous définissons les spécifications du comportement de ces modèles et de la façon dont les gens créent ces étiquettes pour eux. Je pense que we pouvons mesurer cela, nous pouvons l'évaluer et nous pouvons parler de ces résultats au fur et à mesure, et cela doit s'améliorer à chaque fois. Mais à mesure que ces modèles deviennent plus sophistiqués et plus intégrés dans toute la société, le biais deviendra plus nuancé et plus important, et il faudra une grande attention pour le garder sous contrôle.

Sam, avant de passer rapidement à nos questions — et il y a des micros à l'avant pour que vous puissiez commencer à avancer — allons-nous avoir un psy par IA ?

Nous en aurons un, c'est sûr. Wow, ça va être difficile. Nous avons environ sept minutes, mais nous allons essayer de faire ce que nous pouvons. Passons cette question ; allons directement aux questions. Si vous pouviez vous identifier rapidement en posant votre question.

Bonjour, je suis Camilo Armas. Je suis étudiant de première année en sciences politiques, originaire de Raleigh, en Caroline du Nord, et je fais partie de la première promotion du programme des boursiers en sciences humaines et sociales. Ma question est la suivante : avec le récent essor de la technologie de l'IA, de nombreux problèmes de confidentialité ont été soulevés concernant le fait qu'une grande partie des données qui alimentent cette technologie provient de sources qui n'ont pas donné leur consentement pour être utilisées dans ces programmes, et qui ne sont pas créditées lorsqu'elles sont utilisées par les programmes. Étiez-vous conscient de ces préoccupations lors de la création d'OpenAI et de ChatGPT, et des mesures sont-elles prises actuellement pour répondre à ces problèmes de confidentialité ? Merci.

Désolé, je peux parler des deux. Dans l'intérêt du temps, serait-il plus utile que je me concentre sur les préoccupations de confidentialité ou sur les préoccupations de propriété intellectuelle ?

Disons les préoccupations de propriété intellectuelle.

D'accord, donc ces modèles apprennent de ce sur quoi ils s'entraînent, mais ils ne le mémorisent pas. De plus, nous pensons qu'il est très important, en tant que principe de propriété intellectuelle, que nous ne devions pas régurgiter du contenu dans la mesure du possible. Il sera difficile d'être parfait à ce sujet car il pourrait y avoir, par exemple, un article du Wall Street Journal qui soit répliqué ailleurs sur Internet et non cité comme un article du Wall Street Journal ; et encore une fois, même si ces modèles essaient d'apprendre, ils peuvent par inadvertance mémoriser des morceaux dans certains cas. Ce que nous voulons donc faire, c'est construire une technologie pour s'assurer que lorsque ces modèles vous donnent un résultat, ils ne violent pas les droits de propriété intellectuelle, et aussi que nous trouvions des moyens de compenser les détenteurs de propriété intellectuelle avec de nouvelles sources de revenus. Nous avons commencé à conclure des accords de licence avec de nombreuses organisations de presse, par exemple, ou de nombreux éditeurs scientifiques, et je pense que tout le monde est enthousiasmé par la nouvelle source de revenus que cela peut présenter.

Bonjour, je suis Dwayne Dixon. Je suis actuellement candidat au doctorat ici à l'Université Howard et enseignant au département de mathématiques. J'enseigne également les mathématiques pour l'apprentissage automatique, mais c'est un cours de lecture dirigée. Je ne sais pas exactement pourquoi nous n'en faisons pas la promotion — ces jeunes hommes sont en fait mes anciens étudiants de Calcul II, c'est ainsi qu'ils l'ont appris. Je suis également l'instructeur et le développeur du programme d'IA pour le collège de mathématiques de Howard, pour lequel j'ai développé le partenariat. Mais le problème est que c'est sur le campus depuis très longtemps, et le partenariat s'est développé via le chapitre étudiant en sciences de Howard, qui a été créé le semestre dernier ; ce sont aussi des étudiants actifs. C'est ouvert à tout le monde, pas seulement aux mathématiques appliquées — majors en informatique, ingénierie, etc. Ma question est : qu'allons-nous faire en tant que Howard ? Parce que votre plateforme est incroyable ; je l'adore. J'ai déjà créé environ six ou sept GPT que les étudiants peuvent utiliser. Mais comment pouvons-nous — parce que je comprends que nous devons être sur le backend de la partie mathématique réelle pour supprimer ces colonnes de biais, n'est-ce pas ? Vous ne le savez pas si nous ne sommes pas en arrière-plan. Alors, comment pouvons-nous intégrer ces personnes dans l'industrie ? Parce que c'est quelque chose qui émerge tout juste et pour lequel nous sommes toujours en retard. Merci.

Concernant Howard, nous resterons en contact. Merci. C'est une bonne question, cependant ; c'est une excellente question. Absolument.

En tant qu'étudiant en ingénierie actuellement, je sais que nous aimerions voir plus de programmes spécialisés, en particulier en apprentissage automatique. Je me demandais simplement si OpenAI fait réellement quelque chose pour atteindre davantage d'institutions marginalisées afin d'impliquer les étudiants dans l'IA ?

Oui, nous avons un certain nombre de programmes, mais celui que je soulignerai est notre programme de résidence. Nous vous formerons pour devenir bon en IA. Nous espérons que vous voudrez peut-être rester chez OpenAI après — la plupart des gens le font généralement — mais vous n'êtes certainement pas obligé. C'est pour les personnes issues de milieux d'ingénierie autres que l'IA, et nous vous formerons pour devenir un chercheur en IA et un ingénieur en IA.

Bonjour, je m'appelle Darian Angar. Je suis professeur d'innovation à la School of Business ici à l'Université Howard. Merci d'être ici, merci d'écouter nos voix, et j'espère merci de faire venir certains de mes étudiants. Nous en sommes aux tout premiers balbutiements de l'IA, et de nombreux pionniers de l'ère Internet ne sont plus des leaders. Je me demandais en quoi vous considérez OpenAI comme différent, ou le paysage concurrentiel comme différent de, disons, les années 1990 que vous avez citées auparavant. Avant Google, il y avait Mosaic. Je voulais vous demander comment vous vous distinguez et tracez un avenir pour OpenAI qui durera 20 ans, 30 ans ou plus ?

C'est une excellente question ; j'y pense tout le temps. Cela a manifestement été difficile. En retour, nous prenons le modèle de base et l'amenons à se comporter d'une certaine manière, et cela nécessite à la fois de décider comment il doit se comporter, puis d'amener les gens à dire : "Ce n'est pas une bonne réponse", ou "Cela correspond à la spécification", ou "Cela ne correspond pas". Avoir une représentation diversifiée à toutes ces étapes est très important, et aussi trouver un accord de la société sur ce que le comportement devrait être. Je sais que je l'ai mentionné plusieurs fois, mais c'est un tel défi. Pour bien faire les choses, il faut un apport de voix aussi diversifié que possible. Je pense que ce sera crucial pour le domaine à l'avenir.

Bonjour, merci. Je m'appelle Kita ; je suis étudiante de deuxième année en sciences criminelles ici. Ma question s'adresse en fait à l'AGI, car l'avenir après l'IA deviendra indéfiniment l'AGI, qu'elle ait simplement des émotions ou qu'elle doive apprendre par elle-même. C'est là que les risques potentiels apparaissent avec une IA ayant réellement des émotions ou les risques potentiels. Donc, je vais vous demander : où en est OpenAI en termes d'AGI, et comment comptez-vous équilibrer les risques et les bénéfices ?

Merci pour la question. C'est probablement la chose à laquelle nous réfléchissons le plus. L'AGI est maintenant un terme si flou et les gens l'utilisent de tant de façons différentes. Ce que vous demandez, je pense, est plus proche de ce que j'appellerais la superintelligence — pas quelque chose qui peut faire les tâches qu'un humain peut faire, mais disons quelque chose qui peut faire de la recherche, faire de la recherche en IA elle-même aussi bien que tous les chercheurs d'OpenAI, et utiliser cela pour s'auto-améliorer. Nous réfléchissons à ce à quoi ressemblera le monde lorsque nous atteindrons ce niveau et à la façon dont nous nous assurerons de faire face aux risques d'un tel système, ce qui est très difficile à faire. Nous avons de nouvelles équipes qui nous aident à réfléchir à la préparation de ce monde, ainsi qu'un travail de sécurité technique pour réfléchir à la façon dont nous pouvons nous assurer que les humains gardent le contrôle de systèmes plus capables que nous. Je pense que ce sera à la fois plus étrange qu'il n'y paraît et aussi, d'une autre manière, beaucoup plus continu — beaucoup plus comme le monde d'aujourd'hui. Les humains seront toujours aux commandes, mais ce que n'importe quel humain peut faire, et certainement ce que n'importe quel groupe d'humains ou nation peut faire, sera considérablement amélioré. Une partie de la raison pour laquelle nous essayons d'en parler, même si cela effraie les gens ou qu'ils pensent que nous sommes fous ou les deux, c'est que si nous avons raison, c'est un enjeu énorme et vraiment important. Cela va nous impacter tous d'une manière colossale, et nous voulons que le monde ait cette conversation maintenant. Nous savons que ChatGPT n'est pas si puissant ; nous savons que s'il ne s'agissait que de ChatGPT, aucune de ces choses n'aurait vraiment d'importance. Mais compte tenu de la raideur de la courbe sur laquelle nous nous trouvons, nous voulons que le monde ait cette conversation afin que nous puissions décider comment équilibrer ces risques et ces bénéfices.

Merci. Juste pour demander : à quel point pensez-vous être proche de réaliser tout cela ?

C'est extrêmement difficile à dire. J'hésite à donner... Je suis toujours heureux de faire des prédictions sur ce qui va se passer, mais la recherche en particulier est super difficile. Mais je dirais qu'au cours de cette décennie, nous parviendrons à des systèmes très puissants. Personnellement, je ne crois pas à cette chose qui peut faire de la recherche en IA aussi bien qu'OpenAI — je me suis déjà trompé auparavant — mais je dirais des systèmes très puissants que beaucoup de gens appelleront AGI. Une version précoce d'ici la fin de cette décennie serait ma supposition, mais cela pourrait être beaucoup plus long.

Bonjour, je m'appelle Sierra Williamson. Je suis étudiante de troisième année en gestion (programme d'honneur), avec une mineure en études africaines, originaire de Melbourne, en Australie. Ma question est : comment OpenAI prévoit-elle de protéger et de soutenir la santé mentale des travailleurs humains qui doivent étiqueter et nettoyer les contenus toxiques ou violents des systèmes d'OpenAI, d'autant plus que ce travail est souvent effectué par des communautés de couleur ?

Excellente question. Évidemment, nous fournissons beaucoup de conseils et de soutien aux gens. Nous en avons appris davantage sur la façon dont cela fonctionne et nous essayons d'en faire davantage en interne avec nos propres membres d'équipe autant que possible, là où nous avons plus de contrôle sur le soutien que nous fournissons. Mais la meilleure chose que je pense que nous puissions faire est de commencer à utiliser ces outils d'IA eux-mêmes pour nous assurer que les humains n'aient pas à regarder le pire du contenu ou à interagir avec le pire du contenu. Des outils qui peuvent aider les humains à avoir une expérience meilleure et plus facile tout en ayant le même impact, voire plus, est une nouvelle chose que nous pouvons faire pour les personnes qui fournissent ce feedback.

Bonjour, je m'appelle Aden Lafay. Je suis un étudiant de première année en informatique ici. Ma question serait : si je pense aux implications négatives de l'IA, l'une qui me vient à l'esprit est les deepfakes et l'usurpation d'identité de personnes en ligne. Comment pensez-vous que l'industrie dans son ensemble puisse atténuer ce problème ?

Il y a deux directions différentes que je peux imaginer. L'une est lorsque les gens disent quelque chose eux-mêmes ou lorsqu'ils approuvent une image particulière, il y a une signature cryptographique que d'autres personnes peuvent vérifier, et vous dites : "C'est vraiment une photo que j'ai prise", ou "C'est vraiment une citation que j'ai dite". En tant que société, nous pourrions décider que, parce que nous sommes inondés de médias générés, nous allons avoir ces réseaux de confiance et nous dirons : "D'accord, vous savez quoi ? Si vous n'avez pas signé cette photo, je vais supposer qu'elle n'est pas réelle." Si quelqu'un que je ne connais pas ne l'a pas signée, et que celui en qui j'ai confiance, et celui en qui j'ai confiance... et je n'ai pas cette chaîne — je vais supposer que ce n'est pas réel. Donc cela pourrait arriver. L'autre chose qui pourrait arriver est que nous ayons suffisamment de règles en place sur les systèmes d'IA puissants qui existent pour qu'il y ait un processus de tatouage numérique que tout le monde applique. Mais avec l'une ou l'autre de ces voies, il y aura une énorme quantité de contenu généré sur Internet, et je pense que la société va simplement évoluer très rapidement pour comprendre qu'il ne faut pas le prendre trop au sérieux.

Bonjour, je suis Alice Blocker, étudiante de deuxième année en sciences politiques originaire de Columbia, en Caroline du Sud. Ma question est : quel rôle ou quelles initiatives pensez-vous qu'OpenAI et l'IA joueront pour améliorer l'éducation collaborative et la façon dont les humains finiront par apprendre à l'avenir avec l'IA ?

C'est l'un des rares domaines qui nous passionne le plus. Les étudiants et les enseignants ont été les premiers adoptants massifs d'OpenAI et de ChatGPT, et ils ont continué à nous surprendre à chaque étape par ce qu'ils font et par l'impact que cela a déjà sur l'éducation. En fait, très peu d'étudiants paient pour GPT-4, donc la plupart d'entre eux utilisent simplement la version gratuite et voient quand même tous ces résultats positifs. Certains des GPT lancés dans le store il y a quelques jours sont d'excellentes expériences éducatives. Nous pouvons voir une voie vers un monde où chaque étudiant bénéficie d'un excellent tuteur personnalisé par IA, et cela transformera sa façon d'apprendre. Vous aurez toujours besoin d'enseignants humains, c'est certain, pour fournir une grande partie du soutien, mais l'amplification que cela peut avoir sur ce qu'un enseignant peut faire... J'espère que nous arriverons à un monde où chaque étudiant qui commencera l'université dans 18 ans sera plus intelligent que n'importe lequel d'entre vous, les étudiants de première année ici dans cette salle. Je pense que ce serait un grand triomphe.

Merci pour votre temps. Robin Vince Van, je viens de la School of Divinity et je suis également président des affaires pour le chapitre CPDC. Ma question est : dans 15 ans, nous allons voir des jeunes faire plus confiance à l'IA qu'à n'importe quoi d'autre. La partie difficile est que, dans un endroit comme la Floride, nous savons que certains livres et même l'histoire sous un angle noir sont supprimés. Alors, quel est le travail accompli ? Cherchez-vous à vous engager auprès des institutions historiquement noires concernant les informations qui s'y trouveront, mais aussi dans les espaces théologiques ? Par exemple, j'utilise également ChatGPT, mais dans les moments où vous posez une question sur l'esclavage ou un texte des Écritures et qu'il y a une référence disant : "Pensez au prisme de l'époque", cela adoucit en quelque sorte la réalité de ce qui s'est réellement passé. Ma question est donc la suivante : si nous supprimons l'histoire réelle d'autres endroits et que les jeunes dans 15-20 ans vont faire confiance à ChatGPT, comment pouvons-nous être sûrs que votre entreprise fera le travail nécessaire pour s'engager avec ces institutions historiquement noires afin de s'assurer que, dans 15-20 ans, des informations précises se trouvent sur OpenAI ?

J'aimerais beaucoup vous en parler davantage. C'est une grande partie de la raison pour laquelle nous essayons de sortir dans le monde et de parler à des gens qui ne sont pas à San Francisco tous les jours. Nous devons absolument trouver un moyen pour que ce qui est encodé dans ces modèles — pas seulement la connaissance, mais la culture et le contexte, et la façon dont les choses sont expliquées — apporte cette perspective diversifiée du monde entier. Donc, s'il y a des domaines où nous manquons le coche maintenant, nous aimerions en parler ; mais plus encore, nous aimerions votre contribution sur les principes à l'avenir et sur la façon de mettre en place un processus fiable pour que cela fonctionne. L'un de mes dictons est : "Chaque répétition nous rend meilleurs." Je crois que le contact avec la réalité — mettre cela en avant et amener des centaines de millions de personnes à l'utiliser et à nous dire ce qui est bon, ce qui fonctionne et ce qui ne fonctionne pas — est le seul moyen de s'améliorer. Nous fabriquons donc la chose du mieux que nous savons le faire avec autant de contributions que nous en avons à ce moment-là, et autant de ressources de calcul et de données que nous en avons à ce moment-là. Nous construisons quelque chose, nous le sortons, les gens font un commentaire comme celui-là, et nous pensons : "D'accord, nous devons trouver comment nous améliorer là-dessus." C'est ainsi que nous procédons.

Avant que le doyen ne nous donne le signal, je veux accepter votre offre. Les gens doivent sortir de San Francisco. Nous avons beaucoup d'autres questions, et nous pourrions poursuivre cette conversation toute la journée. Nous aimerions vous inviter à revenir à un autre moment pour poursuivre la conversation avec Howard.

Nous savons que M. Altman a un impératif, et il y a un certain nombre de questions supplémentaires, mais nous voulions honorer notre engagement envers lui. Vraiment, peut-être que nous pouvons utiliser l'IA pour créer plus de temps, mais je tiens certainement à offrir nos remerciements et notre reconnaissance à M. Sam Altman, au président Vinson et au Dr Sutherland. Comme il l'a souligné, nous voulons certainement que l'Université Howard soit un espace de rassemblement où ce genre de conversations importantes ont lieu. Je sais que nous avons un collègue ici de Microsoft, et nous avons pris l'engagement d'inviter d'autres leaders de l'industrie de l'IA à faire partie de cette conversation avec nos étudiants, nos professeurs et notre personnel. Un collègue des Beaux-Arts m'a également rappelé que nous devrions être conscients que l'intelligence artificielle et ChatGPT ne sont pas seulement une fonction de la technologie et des disciplines technologiques ; c'est de plus en plus utilisé et important dans les beaux-arts, les humanités et les sciences sociales. En tant qu'institution, ce que nous voulons nous assurer de faire, c'est de fournir l'espace où nos spécialistes en sciences sociales, nos experts en humanités et nos experts en beaux-arts ont accès à cette technologie, à la science des données et à l'IA, afin que nous puissions répondre aux questions sociétales plus larges auxquelles nous devons faire face concernant les disparités en matière de soins de santé, les disparités socio-économiques et la réforme de la justice pénale. C'est ce qu'est Howard, et c'est ce que nous allons continuer d'être. Alors s'il vous plaît, joignez-vous à moi pour remercier notre panel.

Je tiens également à remercier nos étudiants ; c'étaient d'excellentes questions qui soulignent davantage le talent disponible ici à Howard. J'invite nos étudiants à accepter l'offre de M. Altman, selon laquelle ils cherchent à embaucher plus d'étudiants de Howard et d'autres étudiants de couleur. Nous voulons continuer à nous assurer que nous offrons également cette opportunité. Merci d'être ici, merci pour vos questions, et nous attendons avec impatience la prochaine occasion d'avoir une session de ce type.

Ce programme a été produit par WHUT et rendu possible par les contributions de téléspectateurs comme vous. Pour plus d'informations sur ce programme ou tout autre programme, veuillez visiter notre site web à whut.org. Merci.