Andrej Karpathy

L'émergence du Software 3.0 et des LLM

23 juin 2025

Intelligence Artificielle
Illustration de Andrej Karpathy

L'héritage du Software 2.0

Andrej Karpathy

Le Software 2.0 correspond aux poids qui programment les réseaux de neurones. Et voici un exemple d'AlexNet, un réseau de neurones de reconnaissance d'images.

Andrej Karpathy

Jusqu'à présent, tous les réseaux de neurones que nous connaissions jusqu'à récemment étaient des ordinateurs à fonction fixe, transformant des images en catégories.

L'avènement du Software 3.0

Andrej Karpathy

Ce qui a changé, c'est que les réseaux de neurones sont devenus programmables avec les grands modèles de langage.

Andrej Karpathy

Et donc je vois cela comme quelque chose d'assez nouveau, d'unique. C'est un nouveau type d'ordinateur. Cela mérite de lui donner une nouvelle appellation : Software 3.0.

Andrej Karpathy

Et vos prompts sont désormais des programmes qui programment le LLM.

Comparaison des approches de programmation

Andrej Karpathy

Pour résumer la différence, si vous faites de la classification de sentiments par exemple, vous pouvez imaginer écrire du code Python pour faire de la classification de sentiments, ou vous pouvez entraîner un réseau de neurones, ou vous pouvez envoyer un prompt à un grand modèle de langage.