Eurisko est un programme pionnier d'intelligence artificielle créé par l'informaticien Douglas Lenat à l'Université de Stanford, puis à la Microelectronics and Computer Technology Corporation (MCC), à la fin des années 1970 et au début des années 1980. Il a été conçu pour découvrir et affiner des heuristiques - des règles empiriques pour la résolution de problèmes - en utilisant une base de connaissances d'heuristiques générales et spécifiques à un domaine, et en appliquant un ensemble de méta-heuristiques capables de modifier, combiner ou remplacer les heuristiques existantes en fonction de leurs performances. Eurisko est remarquable pour son architecture auto-modifiable, qui lui permettait d'améliorer ses propres stratégies de résolution de problèmes au fil du temps, et pour son succès dans la découverte d'heuristiques novatrices dans des domaines tels que les mathématiques, les jeux et la découverte scientifique.
Le développement d'Eurisko s'inscrivait dans un effort de recherche plus large en intelligence artificielle durant les années 1970, axé sur les systèmes à base de connaissances et la recherche heuristique. Contrairement aux programmes antérieurs qui reposaient sur des algorithmes fixes, Eurisko visait à automatiser le processus de découverte d'heuristiques, ce qui en fait un précurseur des approches modernes d'apprentissage automatique et de méta-apprentissage. Son nom, dérivé du mot grec signifiant « je découvre », reflétait son objectif de trouver de nouvelles solutions plutôt que de simplement appliquer des solutions connues.
Origines et développement
Eurisko a été conçu par Douglas Lenat, qui avait précédemment développé le programme AM (Automated Mathematician) en 1976, lequel découvrait des concepts et conjectures mathématiques. AM utilisait un ensemble d'heuristiques pour guider son exploration, mais Lenat a observé que ses performances plafonnaient parce que les heuristiques étaient statiques. Pour remédier à cela, il a conçu Eurisko pour traiter les heuristiques comme des objets de première classe pouvant être examinés, évalués et modifiés par d'autres heuristiques. Le programme a été implémenté dans le langage de programmation Lisp, qui facilitait la manipulation symbolique et l'auto-référence.
Lenat a développé Eurisko à l'Université de Stanford, puis a poursuivi ce travail à la MCC à Austin, au Texas, à partir de 1984. Le programme a été testé sur diverses tâches, notamment la découverte de concepts en théorie des nombres, la résolution d'énigmes et la pratique de jeux. L'architecture d'Eurisko consistait en une mémoire globale d'heuristiques, chacune avec une condition et une action, et un ensemble de méta-heuristiques qui contrôlaient la création, la suppression et la modification de ces heuristiques. Le programme utilisait une forme d'attribution de crédit pour suivre quelles heuristiques contribuaient à des résultats réussis, lui permettant de renforcer les règles efficaces et d'éliminer celles qui étaient inefficaces.
Réalisations et applications
L'une des réalisations les plus célèbres d'Eurisko fut sa performance dans le jeu Traveller TCS, un wargame de science-fiction. En 1981, Eurisko, avec une guidance humaine minimale, a conçu une flotte de vaisseaux qui a vaincu des flottes conçues par des humains lors d'un tournoi national, remportant le championnat. Le succès du programme a été attribué à sa capacité à découvrir des heuristiques non conventionnelles, comme la conception de vaisseaux avec des configurations spécifiques d'armes et d'armures qui exploitaient les règles du jeu d'une manière que les joueurs humains n'avaient pas envisagée. Cependant, les règles du jeu ont ensuite été modifiées pour empêcher les stratégies d'Eurisko, soulignant la capacité du programme à trouver des solutions non évidentes.
En mathématiques, Eurisko a été utilisé pour explorer des concepts en théorie des ensembles et en théorie des nombres, redécouvrant des résultats connus et suggérant parfois de nouvelles conjectures. Par exemple, il a identifié des relations entre certaines structures mathématiques, bien que ses découvertes n'aient pas toujours été révolutionnaires. Eurisko a également démontré un potentiel dans la découverte scientifique, comme l'hypothèse de règles pour des réactions chimiques, bien que ces applications aient été moins développées que son succès dans les jeux.
Architecture et méthodes
L'innovation centrale d'Eurisko résidait dans son système d'heuristiques auto-modifiable. Le programme maintenait une base de connaissances d'heuristiques, chacune représentée comme une règle avec une condition et une action. Les méta-heuristiques, qui étaient elles-mêmes des heuristiques, pouvaient s'appliquer à d'autres heuristiques, permettant à Eurisko de générer de nouvelles règles en combinant, spécialisant ou généralisant celles existantes. Le programme utilisait un mécanisme appelé « recherche heuristique » pour explorer l'espace des heuristiques possibles, guidé par une fonction d'utilité qui estimait la valeur potentielle d'une règle en fonction de ses performances passées et de sa nouveauté.
Eurisko employait une forme d'apprentissage par renforcement, car il mettait à jour la force des heuristiques en fonction de leur succès à atteindre des objectifs. Il utilisait également une technique similaire à l'apprentissage par curriculum, augmentant progressivement la complexité des tâches qu'il tentait. La capacité du programme à modifier son propre code au niveau symbolique le distinguait des approches statistiques ultérieures, qui ajustent généralement des paramètres numériques. L'approche d'Eurisko était plus proche de la synthèse de programmes et de la découverte automatisée, qui restent des domaines de recherche actifs en intelligence artificielle.
Influence et héritage
Eurisko a influencé les recherches ultérieures sur le méta-apprentissage et les systèmes d'IA auto-améliorants. Ses idées sur la découverte automatisée d'heuristiques préfiguraient des techniques modernes telles que la recherche d'architecture de réseaux de neurones et l'optimisation des hyperparamètres en apprentissage automatique. Cependant, le succès d'Eurisko a été limité par des contraintes computationnelles et la difficulté de faire évoluer son approche symbolique vers des problèmes réels de grande envergure. Lenat s'est ensuite tourné vers le projet Cyc, qui visait à encoder la connaissance de sens commun, et Eurisko n'a plus été activement développé après le milieu des années 1980.
Malgré son ancienneté, Eurisko reste un exemple notable d'un système d'IA capable de s'améliorer lui-même, un objectif qui continue de motiver la recherche dans le développement de la IA générative et des grands modèles de langage. Son héritage est évident dans l'accent mis sur la découverte automatisée et les algorithmes adaptatifs dans l'IA moderne, bien que les systèmes contemporains reposent sur l'apprentissage profond et les architectures de transformeurs plutôt que sur des heuristiques symboliques. Eurisko est souvent cité dans les discussions sur l'histoire de l'IA et les défis de la création de systèmes de résolution de problèmes véritablement autonomes.
Comparaison avec l'IA moderne
Eurisko fonctionnait sur des règles symboliques explicites, tandis que les systèmes d'IA modernes comme les grands modèles de langage utilisent des motifs statistiques appris à partir de vastes ensembles de données. L'auto-modification d'Eurisko était délibérée et interprétable, alors que les modèles modernes ajustent leurs poids via des méthodes de type variantes de SGD et de rétropropagation, qui sont moins transparentes. Eurisko nécessitait la spécification manuelle d'heuristiques initiales, tandis que les systèmes modernes apprennent à partir de données brutes. Cependant, les deux approches partagent l'objectif d'améliorer les performances par l'expérience, et l'accent mis par Eurisko sur la découverte de nouvelles stratégies résonne avec la recherche actuelle en RLHF et en ingénierie de prompts automatisée.
Les limites d'Eurisko - telles que sa dépendance à une connaissance artisanale et sa difficulté à passer à l'échelle - soulignent les avantages des approches modernes de réseaux de neurones, qui peuvent gérer des données de haute dimension et des tâches complexes. Néanmoins, les contributions conceptuelles d'Eurisko à l'auto-amélioration et à la découverte d'heuristiques restent pertinentes, et son histoire offre des perspectives sur l'évolution de l'IA, du raisonnement symbolique à l'apprentissage automatique.
Références et lectures complémentaires
- Lenat, D. B. (1983). « Eurisko: A program that learns new heuristics and domain concepts. » Artificial Intelligence, 21(1-2), 61-98.
- Lenat, D. B., & Brown, J. S. (1984). « Why AM and Eurisko appear to work. » Artificial Intelligence, 23(3), 269-294.
- Buchanan, B. G., & Shortliffe, E. H. (1984). « Rule-Based Expert Systems. » Addison-Wesley.
Ces ouvrages fournissent des comptes rendus détaillés de la conception, des expériences et des fondements théoriques d'Eurisko, et situent le programme dans le contexte plus large de la recherche en intelligence artificielle des années 1980.