L'anticipation en intelligence artificielle (IA) désigne la capacité d'un agent à prendre des décisions sur la base de croyances explicites concernant l'avenir. Cela contraste avec le paradigme réactif, où un agent ne répond qu'aux entrées sensorielles actuelles sans prédire les états futurs du système. Dans un sens plus large, l'anticipation décrit également la capacité d'agir d'une manière qui tient compte de manière appropriée des événements futurs, même lorsque l'agent ne possède pas de modèle explicite de ces événements. Le concept trouve ses racines dans la biologie théorique et la cybernétique, et il est devenu un thème central dans la conception de systèmes intelligents qui doivent opérer dans des environnements dynamiques et incertains.
Dans la recherche en IA, l'anticipation est souvent formalisée à travers la notion de système anticipatoire. En 1985, le biologiste théoricien Robert Rosen a défini un tel système comme contenant un modèle prédictif de lui-même et/ou de son environnement, ce qui lui permet de changer d'état à un instant donné en accord avec les prédictions du modèle concernant un instant ultérieur. Cette définition est suffisamment large pour s'appliquer à tout système intégrant l'apprentissage automatique, car apprendre à partir de données implique intrinsèquement de former des attentes sur les entrées ou les résultats futurs. La question de conception clé est de savoir quelle part du comportement d'un système doit être déterminée par le raisonnement sur des représentations dédiées (telles que des modèles symboliques ou des états latents appris), quelle part par la planification en ligne (telle que la recherche ou le contrôle prédictif de modèle), et quelle part doit être codée en dur par les concepteurs du système.
Anticipation dans la prise de décision
Un agent qui utilise l'anticipation tente de prédire l'état futur de son environnement et utilise ces prédictions pour guider ses actions. Un exemple illustratif classique implique la prise de décision basée sur la météo. Si le ciel est nuageux et que la pression atmosphérique est basse, l'agent prédit qu'il pleuvra probablement bientôt, et décide donc de prendre un parapluie. Sinon, il laisse le parapluie à la maison. Ces règles prennent explicitement en compte les événements futurs possibles, distinguant le comportement anticipatoire d'une règle purement réactive qui ne répond qu'à la pluie actuelle.
En pratique, la prise de décision anticipatoire peut être mise en œuvre de plusieurs manières. Un agent basé sur un modèle peut maintenir une représentation explicite de la dynamique de l'environnement, telle qu'une fonction de transition dans un processus de décision markovien, et l'utiliser pour simuler des trajectoires futures. Alternativement, un agent peut apprendre un modèle prédictif à partir de données en utilisant des techniques d'apprentissage profond, comme un réseau de neurones qui prévoit les lectures futures des capteurs. Le choix de la représentation affecte la flexibilité de l'agent, son efficacité en termes d'échantillons et sa robustesse aux changements de distribution.
Relation avec l'apprentissage automatique
La définition de l'anticipation par Rosen s'applique à tout système intégrant l'apprentissage automatique, car les algorithmes d'apprentissage optimisent généralement les performances futures sur des données non vues. Par exemple, l'apprentissage supervisé entraîne un modèle à prédire des étiquettes pour de nouvelles entrées, ce qui est une forme d'anticipation concernant le processus de génération de données. Les agents d'apprentissage par renforcement anticipent les récompenses futures lorsqu'ils estiment des fonctions de valeur ou utilisent des déploiements basés sur un modèle. Les modèles génératifs, tels que les grands modèles de langage, anticipent le jeton suivant dans une séquence en fonction du contexte antérieur.
Cependant, le degré d'anticipation varie. Certains systèmes reposent sur une anticipation implicite, où un comportement orienté vers l'avenir émerge de l'entraînement sans modèle prédictif explicite. D'autres utilisent une anticipation explicite, où le système maintient un composant prédictif séparé qui est consulté lors de la prise de décision. La distinction est importante pour l'interprétabilité et le contrôle, car les modèles explicites peuvent être inspectés et corrigés plus facilement.
Anticipation chez les animaux
Les humains peuvent prendre des décisions basées sur des croyances explicites concernant l'avenir, comme planifier un itinéraire pour éviter les embouteillages ou stocker de la nourriture pour l'hiver. Plus généralement, les animaux peuvent agir d'une manière qui tient compte des événements futurs, bien qu'ils ne possèdent pas nécessairement de modèle cognitif explicite de l'avenir. L'évolution a pu façonner des caractéristiques systémiques plus simples qui aboutissent à un comportement anticipatoire adaptatif dans un domaine restreint. Par exemple, l'hibernation est un comportement anticipatoire, mais elle ne semble pas être motivée par un modèle cognitif de l'avenir ; il s'agit plutôt d'une réponse physiologique évoluée aux changements saisonniers.
Cette distinction entre anticipation cognitive et anticipation évoluée est pertinente pour l'IA. Un système d'IA pourrait présenter un comportement anticipatoire parce que ses concepteurs ont encodé des règles qui tiennent compte des événements futurs, ou parce qu'il a appris de telles règles à partir de données, ou parce que son architecture le biaise intrinsèquement vers des prédictions orientées vers l'avenir. Comprendre la source de l'anticipation aide les chercheurs à concevoir des systèmes qui généralisent à des situations nouvelles.
Applications dans l'IA moderne
L'anticipation est un composant clé de nombreux systèmes d'IA modernes. Dans la conduite autonome, les véhicules doivent prédire les positions futures des piétons, des cyclistes et des autres véhicules pour planifier des trajectoires sûres. Des entreprises telles que Waymo et Tesla Autopilot utilisent des modèles prédictifs à cette fin. En robotique, le contrôle prédictif de modèle est une technique standard où un robot simule les états futurs de son environnement et ses propres actions pour choisir la meilleure séquence de commandes. Des groupes de recherche dans des institutions comme le MIT CSAIL, le Stanford AI Lab et le Berkeley AI Research ont contribué à ces méthodes.
Dans le traitement du langage naturel, l'anticipation est inhérente à la génération de séquences. Des modèles comme les transformeurs basés sur les grands modèles de langage prédisent le jeton suivant étant donné les jetons précédents, ce qui est une forme d'anticipation concernant le message voulu. Des techniques telles que la recherche en faisceau, l'échantillonnage top-k et l'échantillonnage top-p sont utilisées pour sélectionner parmi les jetons futurs prédits. De même, en vision par ordinateur, l'anticipation est utilisée pour la prédiction vidéo, où un modèle prévoit les images futures à partir des images passées, permettant des applications dans la surveillance et l'interaction homme-robot.
Défis et limites
Les systèmes anticipatoires sont confrontés à plusieurs défis. Premièrement, une prédiction précise nécessite un bon modèle de l'environnement, qui peut être difficile à obtenir dans des contextes complexes et partiellement observables. Deuxièmement, même avec un bon modèle, la planification sur de longs horizons peut être coûteuse en calcul, nécessitant des approximations ou une décomposition hiérarchique. Troisièmement, les prédictions peuvent être erronées, et un agent doit être capable de s'adapter lorsque ses attentes sont violées. Cela a conduit à des recherches sur la planification robuste, l'apprentissage en ligne et la quantification de l'incertitude.
Un autre défi est le compromis entre anticipation et réactivité. Un système purement anticipatoire peut être lent à répondre à des événements inattendus, tandis qu'un système purement réactif peut manquer des opportunités qui nécessitent de la prévoyance. De nombreux systèmes pratiques combinent les deux, utilisant l'anticipation pour guider les décisions de haut niveau et la réactivité pour gérer le contrôle de bas niveau. Par exemple, un robot pourrait utiliser un modèle prédictif pour planifier un chemin, mais aussi avoir une évitement de collision réactif qui remplace le plan si un obstacle apparaît.
Contexte historique
Le concept d'anticipation a des racines dans les débuts de la cybernétique et de la théorie des systèmes. Le travail de Robert Rosen en 1985 a formalisé l'idée des systèmes anticipatoires, s'appuyant sur des idées antérieures concernant le contrôle par rétroaction et par anticipation. Dans les années 1990 et 2000, les chercheurs en sciences cognitives et en IA ont exploré l'anticipation comme principe unificateur du comportement intelligent, conduisant à des projets tels que l'initiative MindRACES (From Reactive to Anticipatory Cognitive Embodied Systems, 2004), qui a étudié comment les agents incarnés pouvaient utiliser l'anticipation pour améliorer leurs performances.
Dans les années 2010 et 2020, l'essor de l'apprentissage profond a mis l'anticipation au premier plan de l'IA. Les modèles d'apprentissage profond, en particulier les réseaux de neurones avec des architectures de réseau résiduel et des mécanismes d'Attention, se sont révélés capables d'apprendre des modèles prédictifs à partir de grands ensembles de données. Le développement de systèmes d'IA générative, tels que ceux d'OpenAI, d'Anthropic et de Google DeepMind, a démontré la puissance de l'anticipation dans des tâches comme la génération de texte, la synthèse d'images et le jeu. Ces systèmes utilisent souvent des techniques comme le RLAIF (apprentissage par renforcement à partir de retours d'IA) et l'apprentissage par curriculum pour améliorer leurs capacités prédictives et de planification.
Directions futures
La recherche sur l'anticipation continue d'évoluer. Une direction est l'intégration de l'anticipation avec la théorie de l'apprentissage automatique, en particulier dans des domaines comme l'apprentissage par renforcement basé sur un modèle et les modèles du monde. Une autre direction est le développement de systèmes anticipatoires capables de raisonner sur leurs propres limites et incertitudes, conduisant à une IA plus robuste et plus fiable. Il y a également un intérêt pour l'application de l'anticipation à des contextes multi-agents, où chaque agent doit prédire le comportement des autres, comme on le voit dans les jeux et la conduite autonome.
À mesure que les systèmes d'IA deviennent plus capables, le rôle de l'anticipation est susceptible de croître. Les systèmes capables de prédire avec précision les événements futurs et de planifier en conséquence seront mieux équipés pour gérer des environnements complexes et dynamiques. Cependant, les implications éthiques de l'IA anticipatoire, telles que les préoccupations en matière de vie privée liées à la surveillance prédictive et la responsabilité des décisions fondées sur des prévisions, nécessiteront une réflexion approfondie. L'équilibre entre anticipation et réactivité, et entre modèles explicites et implicites, restera un thème central dans la recherche et le développement de l'IA.