Le sommet mondial sur l'intelligence artificielle se tient actuellement à Paris. L'événement, qui se déroule au Grand Palais, est l'occasion pour les dirigeants mondiaux de côtoyer les dirigeants de la tech qui mènent le changement. En amont du rassemblement, le directeur général d'OpenAI a signé une tribune dans le quotidien français Le Monde, où il écrit : « Si nous voulons de la croissance, des emplois et du progrès, nous devons permettre aux innovateurs d'innover, aux bâtisseurs de bâtir et aux développeurs de développer. » À présent, Peter O'Brien de France 24 couvre l'événement pour nous, et il a rencontré plus tôt Nabiha Syed, directrice exécutive de la Fondation Mozilla.

Nous sommes ici au Grand Palais où le sommet sur l'IA bat son plein. Bien que le sujet principal aujourd'hui puisse être l'investissement et ces 109 milliards d'euros que Macron a mobilisés pour les centres de données français notamment, il y a beaucoup d'autres thèmes à l'ordre du jour : les droits de l'homme, les données, la durabilité. Et je suis ici avec Nabiha Syed, qui est la directrice exécutive de la Fondation Mozilla. À ne pas confondre avec Mozilla, l'entreprise qui produit le navigateur Firefox, pour lequel elle est la plus connue, mais je vais la laisser se présenter. Nabiha, parlez-nous un peu de votre travail.

À la Fondation Mozilla, qui est en fait la fondation propriétaire de la Mozilla Corporation, ainsi que d'une branche de capital-risque et d'un institut de recherche sur l'IA, notre mission est de veiller à ce que le développement technologique serve l'intérêt général. Avoir une fondation, une organisation à but non lucratif aux commandes de ce développement technologique utile est un moyen de placer l'intérêt général au centre des préoccupations à tout moment. Je suis heureuse de dire que c'est un thème que nous entendons partout durant le sommet aujourd'hui.

C'est un discours qu'on n'entend pas forcément aux États-Unis, de la part du gouvernement américain pour le moment. Attendez-vous à quelque chose de différent de la part de JD Vance demain ? De quoi va-t-il parler ?

Je soupçonne que l'élément de compétition géopolitique de l'intelligence artificielle, qui est un sujet que l'administration Trump a souvent qualifié de préoccupation majeure pour elle, sera le sujet de demain.

Et en ce qui concerne les données, vous avez beaucoup travaillé sur les données par le passé, notamment en révélant les abus de données par des acteurs comme Facebook. L'une des grandes préoccupations est de savoir comment nous pouvons avoir des ensembles de données équitables pour tous. Un résultat de ce sommet est une fondation de 2,5 milliards d'euros pour rassembler des données d'intérêt général. Soutenez-vous cette initiative ? Considérez-vous cela comme un bon pas en avant ?

Je pense que c'est une initiative incroyable. Pour avoir une intelligence artificielle qui serve réellement tout le monde, nous devons placer l'intérêt général à chaque niveau de la structure, et cela inclut les ensembles de données. Imaginez si vous aviez des ensembles de données qui ne représentent que certaines personnes, ou certaines langues, ou certains intérêts, ou certaines industries. Quel que soit le modèle d'IA qui utilise ces données, il aura nécessairement une perspective très biaisée, très orientée. Fournir le travail nécessaire pour les rendre équitables, représentatives, structurées et utiles n'est pas bon marché. Avoir autant de ressources derrière une telle initiative est extraordinaire. Chez Mozilla, nous savons combien d'efforts et de ressources il faut pour créer ces ensembles de données. L'un des ensembles de données présentés ici au Palais est un projet que nous menons depuis de nombreuses années appelé Common Voice. Common Voice est l'un des plus grands ensembles de données vocales open source au monde, avec 200 langues différentes représentées. Pour que les gens participent à l'avenir de l'IA, il faut au moins que leurs langues en fassent partie. Nous avons consacré du temps et des ressources à ce travail. Nous savons que d'autres le font aussi, et je suis vraiment enthousiaste par les initiatives qui encouragent ce type d'exemples représentatifs dans les données.

Mozilla est aussi un grand défenseur de l'IA open source, tout comme de nombreux acteurs de la scène française, tels que Hugging Face qui est américain mais aussi très français, ou Mistral également. Un rapport a été publié par Yoshua Bengio, un éminent scientifique de l'IA, pour le sommet, qui rassemble de nombreux avis d'experts sur l'IA du monde entier. Son point de vue est plutôt accablant sur l'open source, et il affirme que les risques l'emportent sur les bénéfices.

Il faut se rappeler que pour n'importe quoi, le rythme de destruction est plus rapide que le rythme de création. Il est plus facile de détruire que de construire. Il est vrai que l'open source est ouvert, donc les acteurs malveillants pourraient agir plus rapidement ou différemment des acteurs bienveillants. Mais du fait de son ouverture, « avec de nombreux yeux, tous les bugs sont superficiels » est une affirmation que l'on entend beaucoup dans l'open source. Nous serons capables d'identifier les préjudices, de les voir et de les arrêter. L'alternative est que tout soit fermé. Lorsqu'il y a des préjudices, le public ne le saura pas, nous ne pourrons pas arrêter la façon dont cela se produit, cela existera dans une boîte noire dont seuls les acteurs qui perpétuent le préjudice sauraient comment cela s'est passé. Cette alternative est intenable, n'est-ce pas ? L'univers fermé est intenable. L'ouverture nous permet d'avoir l'antidote au poison, et pas seulement d'être le poison lui-même. Je pense que pour que l'ouverture fonctionne, il est nécessaire de créer des outils autour de la sécurité. Un outil a été annoncé il y a moins d'une heure, appelé ROOST (Robust Online Safety Tools), des outils de sécurité en ligne ouverts. Il s'agit d'un ensemble d'outils open source qui nous permettent d'identifier les contenus d'exploitation d'enfants, les contenus terroristes, et d'autres informations sur les plateformes open source pour les supprimer. L'open source est la solution aux problèmes qui proviennent de l'open source, et cette dynamique est toujours préférable à un système fermé où nous ne pourrons pas arrêter le mal que nous voyons.

Nabiha Syed, merci beaucoup d'avoir répondu aux questions de France 24.

Merci beaucoup de m'avoir invitée.

Et nous verrons beaucoup d'autres annonces au cours des deux prochains jours, une quantité époustouflante en fait. Nous essaierons de vous tenir au courant de tout cela.