L'un est scientifique : comment résoudre le problème du contrôle et de l'alignement de l'IA ? Existe-t-il un moyen de construire une IA qui soit sûre si nous suivons certains protocoles ? Et ce serait la méthode pour détourner l'astéroïde de la Terre.

La deuxième chose que nous devons résoudre est politique. Elle est liée à la question de la démocratie. Il s'agit de s'assurer que les systèmes d'IA puissants, même si nous savions comment les contrôler, ne soient pas contrôlés par des personnes malveillantes, des acteurs malveillants qui s'empareraient du pouvoir, détruiraient la démocratie ou feraient simplement des erreurs et ne suivraient pas correctement les protocoles, et nous y perdrions tous. Mais c'est un problème de gouvernance, c'est un problème politique. Le premier est scientifique, l'autre est politique. Je reconnais que nous devons résoudre ces deux problèmes.