Un modèle du monde, en intelligence artificielle, est une représentation interne qu'un agent utilise pour prédire comment son environnement va évoluer au fil du temps, y compris en réponse à ses propres actions, ce qui permet à l'agent de planifier, d'imaginer des résultats et d'évaluer des choix sans avoir à agir dans l'environnement réel pour observer les conséquences. Le terme trouve ses racines dans la théorie classique du contrôle et dans l'reinforcement-learning basé sur modèle, où le modèle de l'agent sur la dynamique de l'environnement est utilisé explicitement pour la planification, mais il a pris une importance plus large ces dernières années, alors que des chercheurs ont proposé qu'apprendre un modèle monde prédictif à partir de données sensorielles brutes, en particulier la vidéo, pourrait être une voie vers une intelligence plus générale et plus robuste que l'entraînement sur du texte seul.
Origines dans l'apprentissage par renforcement
L'apprentissage par renforcement basé sur des modèles a longtemps utilisé des modèles de dynamique explicites ou appris pour simuler des états futurs avant d'agir, contrairement aux approches sans modèle qui apprennent une politique ou une fonction de valeur directement par essais et erreurs. Un article largement cité de 2018 par David Ha et Jürgen Schmidhuber, intitulé simplement « World Models », a démontré qu'un agent pouvait apprendre un modèle génératif compressé d'un environnement de jeu vidéo, puis entraîner une politique presque entièrement à l'intérieur de cette simulation apprise, popularisant le terme dans son sens moderne en IA et s'appuyant sur des travaux antérieurs sur les agents prédictifs auto-modélisés.
Prédiction vidéo et modèles monde génératifs
Une nouvelle ligne de recherche traite la prédiction vidéo à grande échelle elle-même comme une manière d'apprendre implicitement un modèle monde, sans simulateur conçu à la main. Genie de Google DeepMind, introduit en 2024, a appris à générer des environnements 2D interactifs et jouables uniquement à partir de vidéos internet non étiquetées, sans accès aux états du moteur de jeu sous-jacent ni aux étiquettes d'action, démontrant que la dynamique du monde conditionnée par l'action pouvait être apprise à partir d'observation passive. Des systèmes de génération vidéo tels que Sora ont de même été décrits par leurs développeurs comme des « simulateurs monde » précoces à usage général, sur l'argument que prédire avec précision comment une vidéo devrait continuer exige un modèle implicite de physique, de persistance des objets et de cause et effet, bien que les critiques notent que ces modèles violent fréquemment la consistance physique de base et qu'une génération vidéo fluide n'implique pas nécessairement un modèle physique interne fiable ou généralisable.
JEPA et la proposition de LeCun
Yann LeCun a proposé l'architecture conjointe de l'ancrage prédictif (Joint Embedding Predictive Architecture), ou JEPA, comme une alternative aux deux modèles vidéo purement génératifs et à la modélisation du langage standard basée sur autoregressive-model . Plutôt que de prédire des pixels ou des tokens bruts, les modèles de type JEPA prédisent des états futurs dans un espace de représentation abstrait appris, une approche que LeCun défend comme étant plus efficace et plus capable d'ignorer les détails non pertinents, tels que le bruit de texture, tout en capturant toujours la structure causale nécessaire à la planification. LeCun a présenté les modèles monde construits de cette manière comme un ingrédient manquant central pour l'embodied-ai et pour des progrès au-delà des capacités des large-language-model actuels, positionnant l'idée en contraste direct avec les laboratoires qui parient principalement sur le scale-up du pretraining.
Signification
Les modèles monde sont de plus en plus discutés comme pertinents non seulement pour l'robotique et les agents jouant à des jeux, mais aussi pour des questions plus larges sur l'artificial-general-intelligence, puisqu'un agent avec un modèle interne précis de son environnement peut, en principe, planifier sur de longs horizons et généraliser à des situations nouvelles plus efficacement qu'un agent qui que réagit à des entrées immédiates. À partir du milieu des années 2020, la recherche sur les modèles monde demeure un domaine actif et non stabilisé, avec des désaccords substantiels sur la proportion qui peut être apprise à partir de vidéo passive par rapport à celle qui nécessite une interaction incarnée.