Le General Problem Solver (GPS) était un programme d'intelligence artificielle précoce développé par Allen Newell, Herbert A. Simon et J. C. Shaw. Démontré pour la première fois en 1957, GPS a été conçu pour résoudre un large éventail de problèmes en appliquant une méthode de raisonnement généraliste plutôt que des connaissances spécifiques à un domaine. Il est largement considéré comme une étape fondatrice dans l'histoire de l'intelligence artificielle et des sciences cognitives.
GPS fonctionnait sur une représentation formelle des problèmes, en utilisant une technique appelée analyse moyens-fins. Cette approche consistait à comparer l'état actuel d'un problème à un état objectif souhaité, à identifier les différences et à sélectionner des opérateurs capables de réduire ces différences. Le programme appliquait ce processus de manière récursive jusqu'à ce que l'objectif soit atteint. Bien que GPS n'ait pas été véritablement général en pratique, son architecture a influencé de nombreux systèmes d'IA ultérieurs et a contribué au développement de l'apprentissage automatique et des paradigmes de résolution de problèmes.
Origines et développement
GPS a été conçu à la RAND Corporation puis développé à l'Université Carnegie Mellon (alors Carnegie Institute of Technology). Newell, Simon et Shaw avaient précédemment travaillé sur le Logic Theorist (1956), un programme qui prouvait des théorèmes mathématiques. GPS était une tentative de créer un système plus flexible capable de traiter une classe plus large de problèmes, y compris des puzzles, la logique symbolique et même des tâches de planification simples. Le programme a été implémenté dans le langage de programmation IPL (Information Processing Language), spécialement conçu pour la recherche en IA symbolique.
La première démonstration publique de GPS a eu lieu en 1957, et le système a été affiné tout au long de la fin des années 1950 et du début des années 1960. Il a été utilisé pour résoudre des problèmes tels que la tour de Hanoï, le puzzle des missionnaires et des cannibales, et divers problèmes cryptarithmétiques. Cependant, GPS rencontrait des difficultés avec les problèmes nécessitant des connaissances substantielles du domaine ou des espaces de recherche complexes, et ses performances étaient souvent limitées par les ressources computationnelles de l'époque.
Analyse moyens-fins
Le mécanisme central de GPS était l'analyse moyens-fins, une stratégie de résolution de problèmes impliquant trois étapes principales : (1) identifier une différence entre l'état actuel et l'état objectif, (2) trouver un opérateur capable de réduire cette différence, et (3) appliquer l'opérateur, éventuellement après avoir résolu récursivement des sous-problèmes pour permettre son application. Cette approche s'inspirait du comportement humain de résolution de problèmes, que Simon et Newell ont étudié en profondeur. GPS utilisait une table de connexions pour lier les différences aux opérateurs, lui permettant de sélectionner des actions appropriées en fonction de la situation actuelle.
L'analyse moyens-fins est devenue une pierre angulaire de l'IA précoce et de la modélisation cognitive. Elle a ensuite été intégrée dans de nombreux systèmes de planification et a influencé le développement des modèles séquence-à-séquence et d'autres architectures d'IA modernes. Le concept a également trouvé des applications dans l'apprentissage par curriculum, où les tâches sont structurées pour réduire progressivement l'écart entre les capacités actuelles et souhaitées.
Impact et héritage
GPS a eu un impact profond sur le domaine de l'IA, à la fois conceptuellement et pratiquement. Il a démontré que les machines pouvaient effectuer des tâches nécessitant du raisonnement et de la planification, remettant en question la vision dominante selon laquelle les ordinateurs étaient limités aux calculs arithmétiques. Les travaux de Newell et Simon sur GPS ont contribué à leurs recherches ultérieures sur la cognition humaine, aboutissant au développement de l'architecture cognitive SOAR dans les années 1980. GPS a également influencé la conception des systèmes experts et des premiers systèmes de traitement du langage naturel.
Malgré son nom, GPS n'était pas un résolveur de problèmes général au sens moderne ; il exigeait que les problèmes soient formalisés d'une manière spécifique et manquait de capacité à apprendre de l'expérience. Néanmoins, il a préparé le terrain pour les avancées ultérieures dans l'IA générative et les grands modèles de langage, qui s'appuient sur l'idée de raisonnement généraliste mais avec des ressources computationnelles et des méthodes basées sur les données considérablement plus puissantes.
Limites et critiques
GPS a rencontré plusieurs limitations qui sont devenues évidentes lorsque les chercheurs ont tenté de l'étendre à des problèmes plus complexes. Le programme reposait sur une formalisation complète et précise du domaine du problème, ce qui était souvent difficile à réaliser. Son espace de recherche pouvait croître de manière exponentielle, le rendant impraticable pour des tâches du monde réel. De plus, GPS n'avait aucun mécanisme pour apprendre des succès ou des échecs passés, il ne pouvait donc pas améliorer ses performances au fil du temps.
Les critiques ont également noté que la nature "générale" de GPS était exagérée, car il nécessitait des représentations et des définitions d'opérateurs faites à la main pour chaque nouveau problème. Cette limitation a souligné l'importance des connaissances du domaine et a conduit au développement de systèmes basés sur les connaissances dans les années 1970. Néanmoins, GPS reste une étape marquante dans l'histoire de l'IA, illustrant à la fois la promesse et les défis de la création de machines intelligentes.
Connexions modernes
Bien que GPS ne soit plus utilisé, ses idées résonnent dans la recherche contemporaine en IA. Le concept d'analyse moyens-fins se reflète dans les algorithmes de planification modernes et dans la conception des modèles basés sur transformers qui décomposent des tâches complexes en sous-tâches. L'accent mis sur la représentation des problèmes et la recherche est central pour les réseaux de neurones et l'apprentissage profond, qui apprennent des représentations à partir de données plutôt que de s'appuyer sur des règles codées à la main. Les chercheurs d'institutions telles que le MIT CSAIL et le Stanford AI Lab continuent d'explorer le raisonnement généraliste, s'inspirant souvent de systèmes précoces comme GPS.
En résumé, le General Problem Solver a été un effort pionnier pour créer un moteur de raisonnement universel. Son développement a marqué le début de l'IA en tant que discipline, et son héritage peut être observé dans de nombreuses approches modernes de la résolution de problèmes et de l'intelligence machine.