Jensen Huang au Sommet EVE : Earth-2 et l'avenir de la modélisation climatique
12 juillet 2023
Technologie et Climat
Introduction et objectifs : Salutations et présentation d'Earth-2
J'aimerais faire trois choses aujourd'hui. La première consiste à vous saluer tous, les chercheurs dévoués, les acteurs politiques dévoués qui se battent pour l'avenir de la planète. Vous êtes les héros méconnus.
La deuxième raison pour laquelle je voulais être ici est d'apporter ma voix de soutien à EVE. Et j'aimerais ensuite faire la troisième chose, qui est de vous donner une mise à jour sur quelque chose de similaire sur lequel nous travaillons, appelé Earth-2. EVE, comme vous le savez, signifie Earth Virtualization, une autre façon de dire jumeau numérique. Earth-2 est un jumeau numérique du climat terrestre. Il y a une raison pour laquelle nous avons travaillé dessus, et c'est en raison de certaines technologies révolutionnaires que nous voyions et qui pourraient contribuer au travail que vous faites. C'est pourquoi aujourd'hui, la troisième chose que j'aimerais faire est de vous donner une mise à jour sur Earth-2 et de vous présenter quelques outils que vous pourriez garder dans votre boîte à outils et qui pourraient vous inspirer dans la résolution de vos défis climatiques.
L'importance de la modélisation et le passage à l'adaptation
Richard Feynman a dit un jour que ce que je ne peux pas créer, je ne le comprends pas. Et c'est la raison pour laquelle la modélisation climatique est si importante. Si vous ne la comprenez pas, comment pourriez-vous comprendre l'impact humain sur le climat de la Terre ? Ainsi, le travail que vous faites est d'une importance vitale pour les décideurs politiques, les chercheurs et l'industrie. Pourtant, c'est un problème incroyablement complexe. La physique est compliquée. Elle est évidemment liée aux capacités de l'industrie informatique. À mesure que nous faisons progresser l'informatique, le niveau d'approximation que vous devez faire diminue avec le temps. Mais la quantité d'approximation que vous devez faire aujourd'hui reste très importante. Nous reconnaissons que des modèles de fidélité et de résolutions différentes ont des usages différents. Nous comprenons très bien qu'à 100 kilomètres, à 25 kilomètres, nous pourrions être capables de prédire que la Terre se réchauffe, que les gaz à effet de serre contribuent à ce réchauffement et que l'activité humaine en est la cause. Et cela seul, votre évangélisation, en parlant des défis que cela va créer pour la société, a déjà activé toutes sortes d'activités. Nous devons en faire plus, mais vous avez déjà tant fait. Le fait est que ces centaines de milliers d'articles de recherche ont été inspirés par vous tous, parlant de l'importance du changement climatique. Pour quelle autre raison tant de chercheurs feraient-ils progresser ce domaine, y consacrant le travail de leur vie ? C'est précisément votre travail qui a inspiré tout cela. Je tiens donc à vous en remercier avant tout.
Comprendre la température moyenne de la Terre a mobilisé de très nombreux domaines d'atténuation. C'est la raison pour laquelle tant d'industries différentes se tournent vers l'énergie durable. C'est la raison pour laquelle tant d'entreprises de technologie climatique ont été fondées pour le captage du carbone avant et après. Il y a toutes sortes d'conversations incroyables grâce au travail de modélisation, grâce à la compréhension du changement climatique que vous avez portée. L'atténuation ne suffit plus. L'adaptation est nécessaire. L'adaptation se joue à l'échelle humaine. Pour nous aider la société à s'adapter, quand, quelle intensité, où, ces types de questions nécessitent une résolution de fidélité que nous ne pouvons tout simplement pas atteindre à 25 kilomètres.
Les trois miracles nécessaires pour EVE
Mon histoire va donc commencer par le GTC 2022 de Bjorn Stevens en mars. Il a donné l'exemple des inondations dévastatrices de 2021 en Allemagne. Et l'échelle de cela est, bien sûr, l'échelle humaine. EVE est une idée fantastique. Mais pour faire de EVE une réalité, plusieurs miracles sont nécessaires. En l'état actuel des choses, sans progrès en informatique, EVE est impossible. En utilisant les méthodes traditionnelles, EVE sera impossible au cours de nos vies à tous. C'est précisément la raison pour laquelle je pense que Bjorn et l'équipe EVE sont devenus si enthousiastes.
Trois miracles doivent se produire. Le premier est de savoir comment nous pouvons prendre une méthode traditionnelle de simulation, augmenter sa résolution à quelques kilomètres ou kilomètres carrés, 30 000 années simulées par an prendraient environ, selon votre estimation, près d'un milliard de watts, 750 millions de watts. En gros, chaque centre de données sur la planète devrait unir ses forces pour avoir ne serait-ce qu'une chance de faire quelque chose comme ça. Nous devons donc évidemment repenser la façon dont l'informatique est faite, introduire une nouvelle méthode de calcul. La deuxième chose est comment interagir avec ces données ? Le pré-calcul nécessaire pour simplement récupérer les données de simulation afin de pouvoir interagir avec elles représenterait d'énormes quantités de données. Et la troisième chose, bien sûr, est comment visualiser toutes ces données car il faut aujourd'hui des stations de travail et des superordinateurs assez puissants pour visualiser les informations. Comment pourrions-nous mettre cela entre les mains des décideurs politiques, des entreprises, des sociétés, des chercheurs afin qu'ils puissent réaliser des expériences de scénarios alternatifs au niveau régional ? Et pour comprendre l'impact de cette tempête, peut-être sur leurs régions côtières, peut-être sur leurs fermes, peut-être sur les infrastructures qu'ils construisent, comment pourraient-ils même explorer cela à moins de disposer de ces puissantes stations de travail et de ces puissants systèmes de visualisation ? Ces trois miracles doivent donc être abordés. Et la raison pour laquelle Earth-2 et EVE se sont trouvés au moment idéal est que Earth-2 est basé sur trois percées informatiques fondamentales. La première est l'informatique accélérée.
Premier miracle : L'informatique accélérée et Grace Hopper
Il y a deux dynamiques qui se produisent dans l'industrie informatique au moment où nous parlons. L'industrie informatique utilise un modèle informatique qui est resté largement inchangé depuis l'invention de l'IBM System/360 il y a 60 ans. L'informatique à usage général a bénéficié de la loi de Moore pendant plusieurs décennies. En conséquence, les performances informatiques se sont améliorées tous les cinq ans d'un facteur 10, tous les dix ans d'un facteur 100. À ce rythme, le monde a pu absorber l'augmentation de la demande informatique tout en maintenant la consommation d'énergie des centres de données largement invisible par rapport à l'énergie utilisée sur la planète, jusqu'à il y a environ deux ou trois ans. Soudain, sorti de nulle part, le calcul et la puissance des centres de données ont maintenant atteint environ 2 %. Et la raison en est que la montée en puissance des CPU s'est arrêtée, alors que la demande continue de croître. C'est là que NVIDIA intervient, et la raison pour laquelle notre approche informatique est adoptée dans le monde entier est que nous pouvons offrir un saut quantique en termes de capacité de calcul tout en réduisant la quantité d'énergie utilisée. Le deuxième domaine de contribution est le ML physique. Utiliser l'apprentissage automatique, utiliser l'IA pour apprendre les propriétés de la physique. Nous savons comment utiliser l'IA pour apprendre les propriétés du langage, apprendre les propriétés de la parole, mais que se passerait-il si nous l'utilisions également pour apprendre la physique ? Modulus nous permet d'apprendre la physique. Parallèlement à cela, nous devons inventer un nouveau type de modèle d'IA pour prévoir le climat. Et le troisième est un système de jumeau numérique que nous appelons Omniverse. Permettez-moi de partager avec vous certains des progrès que nous y avons réalisés.
L'informatique accélérée, c'est un nouveau type d'ordinateur. Ce nouveau processeur nous a pris près d'une décennie à concevoir, et nous l'appelons Grace Hopper. C'est le premier CPU et GPU étroitement couplés au monde et il nous permet d'accélérer à peu près n'importe quel logiciel. La première application de Grace Hopper est notre logiciel climatique, et j'ai hâte de voir ICON et IFS fonctionner sur Grace Hopper. Le niveau de performance est assez fou, mais permettez-moi de vous le montrer de cette façon. Si vous regardez la barre grise, c'est un CPU. C'est un seul CPU. La barre vert clair sur la droite, c'est un Grace Hopper. Grace Hopper peut exécuter ce type d'applications, qu'il s'agisse d'analyse de données, de bases de données vectorielles, fondamentalement une base de données sémantique, de réseaux de neurones de graphes ou de grands modèles de langage comme ChatGPT. Il peut exécuter ce type d'applications et d'algorithmes de manière substantiellement plus rapide avec une efficacité énergétique bien meilleure. Par exemple, le grand modèle de langage Llama peut être exécuté avec une efficacité énergétique 200 fois supérieure. Ce n'est pas votre ordinateur habituel. Il nécessite que le logiciel soit réécrit de fond en comble pour ce type d'ordinateur. Mais si vous y parvenez, la quantité d'énergie économisée peut être vraiment spectaculaire.
Voici à quoi cela ressemble dans un système. Si vous vouliez créer un superordinateur à partir de cela, vous prenez un Grace Hopper, vous connectez ces Grace Hopper en utilisant une liaison spéciale qui en connecte tout un tas dans un seul ordinateur géant. Toutes ses mémoires sont connectées. C'est un GPU virtuel. 256 GPU, 240 kilomètres de câble optique, 18 tonnes, et pour le logiciel, c'est une seule puce. Vous le programmez comme un seul GPU géant. Nous sommes en train de le construire. Nous allons essayer d'utiliser cet ordinateur pour simuler ICON. C'est un code très, très précoce. Je suis sûr qu'il va s'améliorer. Mais sur la gauche, il y a 2 140 CPU. Il peut simuler 40 jours par jour. Sur la droite, il y a 1 536 Grace Hopper, la super puce sur la gauche, et nous pouvons simuler 722 jours par jour en utilisant la même quantité d'énergie. Dans les deux cas, c'est 1 mégawatt.
Deuxième miracle : L'IA physique et FourCastNet
Le premier problème que nous avons est que pour simuler 30 000 jours par jour ou 30 000 ans par an, nous aurions besoin de 750 mégawatts. Nous pouvons maintenant faire 20 fois mieux que cela. Or, 20 fois mieux que cela n'est pas tout à fait 30 mégawatts, mais c'est très, très proche. Donc, le premier miracle est que nous devrions être capables de le faire avec environ 30 ou 40 mégawatts. Le deuxième miracle est d'utiliser l'IA. Et nous avons créé un cadre conçu pour apprendre la physique, apprendre la structure de la physique, et pour être capable de prédire le climat. Et nous avons inventé un modèle appelé FourCastNet. Des chercheurs en climatologie de NVIDIA en partenariat avec des chercheurs de Caltech. Et ce modèle est basé sur un opérateur neuronal de Fourier, de sorte qu'il pourrait apprendre des fonctions continues et apprendre des relations à partir de très grandes étendues de temps et d'espace. Et les résultats sont très physiques et reflètent les compétences d'un bon prédicteur météo et d'un bon prédicteur climatique.
La question est donc de savoir si ces modèles reflètent la physique. Une façon est de regarder le réalisme et d'essayer de prévoir à nouveau les extrêmes historiques. Voici l'ouragan Harvey. Et vous pouvez voir que les compétences reflètent le comportement climatique. Vous pouvez également voir qu'il a appris les propriétés physiques du climat et de la physique, dans ce cas particulier, l'effet Coriolis. Il tourne vers la droite dans l'hémisphère nord et vers la gauche dans l'hémisphère sud. Il semble également prédire assez bien les températures internes de l'ouragan et la vitesse du vent.
Alors, que pouvez-vous faire avec les modèles ? Bjorn a émis l'hypothèse que nous pourrions utiliser les modèles physiques pour simuler une trajectoire climatique. Vous pourriez y mettre des points de contrôle, et dans ce cas particulier, we l'avons fait mensuellement. Nous avons entraîné le modèle en utilisant les données ERA5. Ceci est entraîné sur ERA5. Puis nous l'avons testé, en émulant le climat de Berlin de 2018 dans ce cas particulier. Comme vous pouvez le voir, il a généré des trajectoires tout à fait crédibles. Le bleu est la réalité de terrain. Il est capable de faire un assez bon travail en générant un climat statistique. Voici Buenos Aires. Et comme vous pouvez le voir, il possède des compétences raisonnablement bonnes pour prédire le climat. Et ceci est à Tokyo. Cela soulage la simulation numérique d'un facteur deux. Chaque fois que nous pouvons le prolonger de 30 jours supplémentaires, le nombre de points de contrôle que nous devons faire est réduit. Et ce qui était autrefois 30 mégawatts pourrait devenir 15 mégawatts.
Ici, nous nous demandons : quelle est cette capacité incroyable que l'IA peut accomplir et que, franchement, les approches de simulation ne peuvent tout simplement pas se permettre de faire ? Et bien sûr, l'une de ses capacités réside dans les grands ensembles. Et être capable de faire des prédictions sur un grand nombre de statistiques différentes, et peut-être que l'une d'entre elles reflète une condition météo extrême qui n'aurait pas été prédite autrement. Alors, lançons cette vidéo. C'est vraiment intéressant.
Les événements météorologiques extrêmes augmentent en fréquence et en intensité. En 2018, la température en Algérie a atteint 51,3 degrés Celsius, la plus élevée jamais enregistrée en Afrique et au-delà de ce que les modèles existants prévoyaient. La température réelle enregistrée est indiquée ici en orange. Comme vous pouvez le voir, la température réelle a dépassé le 99e centile indiqué par la ligne pointillée. La ligne jaune représente les prévisions de FourCastNet pour la température maximale quotidienne. Il s'agit d'un ensemble de 50 membres de FourCastNet. C'est la taille typique d'un ensemble de prévisions météorologiques numériques, et il faut une heure à un grand superordinateur pour le générer. Aucune des lignes grises ne dépasse le 99e centile. Parce que les événements extrêmes sont rares, de grands ensembles sont nécessaires pour les prédire avec précision. Avec un petit ensemble, les résultats sont tout simplement manqués. En exécutant FourCastNet sur les GPU NVIDIA, nous avons cependant pu générer mille membres d'ensemble en un dixième du temps qu'il fallait auparavant pour en faire un seul, et avec une consommation d'énergie nettement inférieure. 12 membres de cet ensemble ont dépassé le 99e centile et ont prédit correctement la vague de chaleur. Voici les cartes spatiales des vagues de chaleur prédites par ces 12 membres de l'ensemble. Grâce à l'IA, nous avons pu prédire cet événement à fort impact trois semaines complètes à l'avance. L'exploitation de l'accélération par GPU pour augmenter considérablement la taille des ensembles peut nous donner une visibilité plus profonde sur les conditions météorologiques extrêmes dans le monde entier et un temps précieux pour nous préparer.
Troisième miracle : Jumeaux numériques et Omniverse
Le deuxième miracle consiste donc à pouvoir interagir à des échelles régionales à très haute résolution et à un niveau de calcul tout simplement inimaginable. Une résolution de 5 kilomètres nécessiterait 4 000 H100. Il faudrait environ trois jours pour entraîner ce modèle. Et chaque fois que vous voulez faire une inférence, vous pouvez générer mille ensembles à une résolution de 5 kilomètres, probablement mieux que cela, en environ une heure. C'est tout simplement irréalisable en utilisant des simulations numériques et vous ne mettriez tout simplement pas cette capacité entre les mains de dizaines de milliers de personnes. Ainsi, l'IA vous donne un gain de capacité de trois ordres de grandeur. La deuxième grande percée est l'utilisation de l'intelligence artificielle pour apprendre les propriétés de la physique et l'utiliser pour la prédiction climatique. La troisième concerne les jumeaux numériques. Permettez-moi de vous montrer notre dernier travail. Ceci est maintenant disponible sur le cloud. Nous l'avons en service dans une centaine de pays. Et vous devriez pouvoir interagir avec lui une fois que nous aurons ouvert le service afin que vous puissiez interagir avec lui sur votre PC, sur votre tablette, sur votre téléphone. Nous allons donc vous montrer maintenant pour la toute première fois. Ce sont des données de simulation fournies par Bjorn Stevens.
Visualiser avec précision les conditions météorologiques actuelles en haute résolution et à l'échelle mondiale est incroyablement utile pour les climatologues. Grâce à NVIDIA Omniverse Cloud, nous pouvons examiner une simulation ICON de n'importe quelle partie du monde à une résolution de 1,25 kilomètre. Ici, vous pouvez voir le détail des nuages au-dessus de Taïwan, ou des orages au-dessus de l'Afrique qui se forment au lever du soleil et lorsque sa lumière frappe les nuages dans cette zone. Les simulations typiques d'aujourd'hui sont effectuées à une résolution de 25 kilomètres et ne peuvent tout simplement pas montrer ces détails. Observer le climat en haute résolution à l'échelle mondiale est un outil puissant. Mais il est également important de pouvoir montrer les impacts sur des régions spécifiques ou même sur des zones spécifiques d'une ville. Voici une simulation de l'Ernst-Reuter-Platz à Berlin, où nous pouvons voir comment la taille et l'emplacement des bâtiments impactent les flux d'air, sur la base des données de PALM et des données volumétriques d'ICON. Cette puissance de simulation donne aux architectes et aux urbanistes des informations sur la manière dont ils peuvent concevoir et construire des villes plus intelligentes et plus durables, tout en permettant aux climatologues d'acquérir une compréhension plus profonde de notre monde en mutation.
Conclusion et mission pour EVE
Tout est interactif. C'est donc ainsi que nous imaginons EVE un jour. C'est en quelque sorte une belle réalisation d'aujourd'hui. Vous devriez pouvoir intégrer des simulations basées sur la physique, des émulations climatiques pilotées par l'IA, et être capable de visualiser, de choisir votre année dans le futur, de choisir la tempête que vous aimeriez étudier, de choisir la région où vous vous trouvez, et d'interagir avec elle tout comme vous le regardiez à l'instant. Et vous regarderez l'avenir, vous regarderez vers l'avenir comme si vous profitiez de la météo d'aujourd'hui. Nous avons eu l'avantage de collaborer avec des météorologues et des climatologues du monde entier. Mais j'aimerais en souligner quelques-uns avec lesquels nous avons interagi régulièrement. Bjorn Stevens de l'Institut Max Planck, Peter Bauer, Peter Dueben, Paco Doblas-Reyes du Barcelona Supercomputing Center, Nils Wedi de l'ECMWF. Nous construisons trois types de superordinateurs flambant neufs. Celui à l'arrière est destiné à l'entraînement des modèles d'IA. Celui du milieu est destiné à la simulation des propriétés physiques. Celui qui est devant est votre ordinateur Omniverse Cloud. Ces trois nouveaux types de superordinateurs sont en train d'être mis en ligne. Et en plus de cela, nous allons superposer nos services cloud Earth-2 que je vous ai montrés plus tôt et, espérons-le, pouvoir contribuer à EVE. Et donc, avec cela, j'ai pensé ce matin vous écrire un énoncé de mission pour EVE. Ça ressemble à peu près à ceci.
La Terre, l'ultime frontière. Voici les voyages d'EVE. Sa mission de cinq ans : repousser les limites de l'informatique au service de la modélisation climatique. Explorer de nouvelles méthodes et de nouvelles technologies pour étudier l'état du climat du niveau mondial au niveau local. Informer aujourd'hui de l'impact de l'atténuation et de l'adaptation sur la Terre de demain. Aller hardiment là où personne n'est encore jamais allé. Merci.