Eurisko ist ein wegweisendes Programm der künstlichen Intelligenz, das vom Informatiker Douglas Lenat an der Stanford University und später an der Microelectronics and Computer Technology Corporation (MCC) in den späten 1970er- und frühen 1980er-Jahren entwickelt wurde. Es wurde entworfen, um Heuristiken - Faustregeln zur Problemlösung - zu entdecken und zu verfeinern, indem es eine Wissensbasis aus allgemeinen und domänenspezifischen Heuristiken nutzte und eine Reihe von Meta-Heuristiken anwendete, die bestehende Heuristiken basierend auf ihrer Leistung modifizieren, kombinieren oder ersetzen konnten. Eurisko ist bekannt für seine selbstmodifizierende Architektur, die es ihm ermöglichte, seine eigenen Problemlösungsstrategien im Laufe der Zeit zu verbessern, sowie für seinen Erfolg bei der Entdeckung neuartiger Heuristiken in Bereichen wie Mathematik, Spielen und wissenschaftlicher Entdeckung.
Die Entwicklung von Eurisko war Teil einer breiteren Forschungsanstrengung in der künstlichen Intelligenz während der 1970er-Jahre, die sich auf wissensbasierte Systeme und heuristische Suche konzentrierte. Im Gegensatz zu früheren Programmen, die auf festen Algorithmen beruhten, zielte Eurisko darauf ab, den Prozess der Heuristikentdeckung zu automatisieren, was es zu einem Vorläufer moderner Ansätze des maschinellen Lernens und des Meta-Lernens machte. Sein Name, abgeleitet vom griechischen Wort für „Ich entdecke", spiegelte sein Ziel wider, neue Lösungen zu finden, anstatt nur bekannte anzuwenden.
Ursprünge und Entwicklung
Eurisko wurde von Douglas Lenat konzipiert, der zuvor 1976 das Programm AM (Automated Mathematician) entwickelt hatte, das mathematische Konzepte und Vermutungen entdeckte. AM verwendete eine Reihe von Heuristiken, um seine Erkundung zu leiten, aber Lenat beobachtete, dass seine Leistung stagnierte, weil die Heuristiken statisch waren. Um dies zu beheben, entwarf er Eurisko so, dass es Heuristiken als Objekte erster Klasse behandelte, die von anderen Heuristiken untersucht, bewertet und modifiziert werden konnten. Das Programm wurde in der Programmiersprache Lisp implementiert, die symbolische Manipulation und Selbstreferenz erleichterte.
Lenat entwickelte Eurisko an der Stanford University und setzte die Arbeit ab 1984 bei MCC in Austin, Texas, fort. Das Programm wurde an verschiedenen Aufgaben getestet, darunter die Entdeckung von Konzepten in der Zahlentheorie, das Lösen von Rätseln und das Spielen von Spielen. Euriskos Architektur bestand aus einem globalen Speicher von Heuristiken, jede mit einer Bedingung und einer Aktion, sowie einer Reihe von Meta-Heuristiken, die die Erstellung, Löschung und Änderung dieser Heuristiken steuerten. Das Programm verwendete eine Form der Kreditzuweisung, um zu verfolgen, welche Heuristiken zu erfolgreichen Ergebnissen beitrugen, wodurch es effektive Regeln verstärken und ineffektive verwerfen konnte.
Errungenschaften und Anwendungen
Eine der berühmtesten Errungenschaften von Eurisko war seine Leistung im Spiel Traveller TCS, einem Science-Fiction-Kriegsspiel. 1981 entwarf Eurisko mit minimaler menschlicher Anleitung eine Flotte von Schiffen, die in einem nationalen Turnier menschlich entworfene Flotten besiegte und die Meisterschaft gewann. Der Erfolg des Programms wurde auf seine Fähigkeit zurückgeführt, unkonventionelle Heuristiken zu entdecken, wie etwa Schiffe mit spezifischen Waffen- und Panzerungskonfigurationen zu entwerfen, die die Spielregeln auf eine Weise ausnutzten, die menschliche Spieler nicht in Betracht gezogen hatten. Die Spielregeln wurden jedoch später geändert, um Euriskos Strategien zu verhindern, was die Fähigkeit des Programms hervorhob, nicht offensichtliche Lösungen zu finden.
In der Mathematik wurde Eurisko verwendet, um Konzepte in der Mengenlehre und Zahlentheorie zu erkunden, wobei es bekannte Ergebnisse wiederentdeckte und gelegentlich neue Vermutungen vorschlug. Beispielsweise identifizierte es Beziehungen zwischen bestimmten mathematischen Strukturen, obwohl seine Entdeckungen nicht immer bahnbrechend waren. Eurisko zeigte auch Potenzial in der wissenschaftlichen Entdeckung, etwa beim Aufstellen von Hypothesen für chemische Reaktionen, obwohl diese Anwendungen weniger entwickelt waren als sein Erfolg beim Spielen.
Architektur und Methoden
Euriskos Kerninnovation war sein selbstmodifizierendes Heuristiksystem. Das Programm unterhielt eine Wissensbasis von Heuristiken, jede dargestellt als Regel mit einer Bedingung und einer Aktion. Meta-Heuristiken, die selbst Heuristiken waren, konnten auf andere Heuristiken angewendet werden, wodurch Eurisko neue Regeln erzeugen konnte, indem es bestehende kombinierte, spezialisierte oder verallgemeinerte. Das Programm verwendete einen Mechanismus namens „heuristische Suche", um den Raum möglicher Heuristiken zu erkunden, geleitet von einer Nutzenfunktion, die den potenziellen Wert einer Regel basierend auf ihrer vergangenen Leistung und Neuheit schätzte.
Eurisko verwendete eine Form des bestärkenden Lernens, da es die Stärke von Heuristiken basierend auf ihrem Erfolg bei der Erreichung von Zielen aktualisierte. Es verwendete auch eine Technik ähnlich dem Curriculum Learning, indem es die Komplexität der Aufgaben, die es versuchte, schrittweise erhöhte. Die Fähigkeit des Programms, seinen eigenen Code auf symbolischer Ebene zu modifizieren, unterschied es von späteren statistischen Ansätzen, die typischerweise numerische Parameter anpassen. Euriskos Ansatz ähnelte eher der Programmsynthese und der automatisierten Entdeckung, die weiterhin aktive Forschungsbereiche in der Artificial intelligence sind.
Einfluss und Vermächtnis
Eurisko beeinflusste die spätere Forschung im Meta-Lernen und in selbstverbessernden KI-Systemen. Seine Ideen zur automatisierten Heuristikentdeckung nahmen moderne Techniken wie die Neural network-Architektursuche und die Hyperparameteroptimierung im Machine learning vorweg. Euriskos Erfolg war jedoch durch Rechenbeschränkungen und die Schwierigkeit begrenzt, seinen symbolischen Ansatz auf große, reale Probleme zu skalieren. Lenat verlagerte später seinen Fokus auf das Cyc-Projekt, das darauf abzielte, Alltagswissen zu kodieren, und Eurisko wurde nach Mitte der 1980er-Jahre nicht mehr aktiv weiterentwickelt.
Trotz seines Alters bleibt Eurisko ein bemerkenswertes Beispiel für ein KI-System, das sich selbst verbessern konnte, ein Ziel, das weiterhin die Forschung in der Generative AI und der Entwicklung von Large language models antreibt. Sein Vermächtnis zeigt sich in der Betonung von automatisierter Entdeckung und adaptiven Algorithmen in der modernen KI, obwohl zeitgenössische Systeme auf Deep learning- und Transformer (architecture)-Architekturen statt auf symbolischen Heuristiken beruhen. Eurisko wird oft in Diskussionen über die Geschichte der KI und die Herausforderungen bei der Schaffung wirklich autonomer Problemlösungssysteme zitiert.
Vergleich mit moderner KI
Eurisko operierte mit expliziten symbolischen Regeln, während moderne KI-Systeme wie Large language models statistische Muster verwenden, die aus riesigen Datensätzen gelernt werden. Euriskos Selbstmodifikation war bewusst und interpretierbar, während moderne Modelle Gewichte durch Stochastic Gradient Descent Variants- und Backpropagation-ähnliche Methoden anpassen, die weniger transparent sind. Eurisko erforderte die manuelle Spezifikation anfänglicher Heuristiken, während moderne Systeme aus Rohdaten lernen. Beide Ansätze teilen jedoch das Ziel, die Leistung durch Erfahrung zu verbessern, und Euriskos Betonung der Entdeckung neuer Strategien findet Anklang in der aktuellen Forschung zu Reinforcement Learning from AI Feedback (RLAIF) und automatisiertem Prompt-Engineering.
Euriskos Einschränkungen - wie seine Abhängigkeit von handgefertigtem Wissen und seine Schwierigkeit bei der Skalierung - heben die Vorteile moderner Neural network-Ansätze hervor, die hochdimensionale Daten und komplexe Aufgaben bewältigen können. Dennoch bleiben Euriskos konzeptionelle Beiträge zur Selbstverbesserung und Heuristikentdeckung relevant, und seine Geschichte bietet Einblicke in die Entwicklung der KI von symbolischem Denken zum Machine learning.
Referenzen und weiterführende Literatur
- Lenat, D. B. (1983). „Eurisko: A program that learns new heuristics and domain concepts." Artificial Intelligence, 21(1-2), 61-98.
- Lenat, D. B., & Brown, J. S. (1984). „Why AM and Eurisko appear to work." Artificial Intelligence, 23(3), 269-294.
- Buchanan, B. G., & Shortliffe, E. H. (1984). „Rule-Based Expert Systems." Addison-Wesley.
Diese Werke bieten detaillierte Darstellungen von Euriskos Design, Experimenten und theoretischen Grundlagen und ordnen das Programm in den breiteren Kontext der Artificial intelligence-Forschung der 1980er-Jahre ein.