Il s'agit de l'étape suivante. Qu'est-ce qui vient après GPT-5 ? Selon vous, en quelle année un grand modèle de langage fera-t-il une découverte scientifique significative ? Et qu'est-ce qui manque pour que cela ne se soit pas encore produit ? Il a précisé ici que nous devrions laisser de côté les mathématiques et les modèles spécialisés comme AlphaFold. Il pose spécifiquement la question sur les modèles polyvalents comme la série GPT.

Je dirais que la plupart des gens s'accordent à dire que cela arrivera à un moment donné au cours des deux prochaines années, mais la définition de « significatif » compte beaucoup. Ainsi, pour certains, cela pourrait arriver au début de 2025, pour d'autres pas avant début 2026, et d'autres encore pas avant fin 2027. Mais je parierais que d'ici fin 2027, la plupart des gens s'accorderont sur le fait qu'il y a eu une nouvelle découverte significative pilotée par l'IA. Et ce qui, selon moi, manque, c'est simplement la puissance cognitive de ces modèles. Un cadre qu'un des chercheurs m'a mentionné et que j'ai beaucoup aimé est le suivant : il y a un un an, nous pouvions obtenir de bons résultats dans une compétition de mathématiques de base au lycée. Des problèmes qui pourraient prendre quelques secondes à quelques minutes à un mathématicien professionnel. Très récemment, nous avons obtenu une médaille d'or à l'OIM. C'est une réussite incroyablement difficile.

Pourriez-vous expliquer ce que cela signifie pour les gens ?

C'est l'examen de mathématiques de compétition le plus difficile. C'est quelque chose où l'élite mondiale, de nombreux mathématiciens professionnels ne résoudraient pas un seul problème. Et nous avons obtenu un score au plus haut niveau. Certes, certains humains ont obtenu un score encore plus élevé dans la fourchette des médailles d'or, mais c'est un accomplissement fou. Et il s'agit de six problèmes sur neuf heures. Soit une heure et demie par problème pour un excellent mathématicien. Nous sommes donc passés de quelques secondes à quelques minutes, puis à une heure et demie. Peut-être que pour prouver un nouveau théorème mathématique important, il faut mille heures de travail pour l'une des meilleures personnes au monde. Nous devons donc franchir une autre étape importante, mais si vous regardez notre trajectoire, nous y arrivons, nous avons une voie pour atteindre cet horizon temporel. Nous avons juste besoin de continuer à mettre les modèles à l'échelle.