Gato ist ein universelles System für künstliche Intelligenz, das von Google DeepMind entwickelt und erstmals 2022 angekündigt wurde. Es handelt sich um ein einzelnes neuronales Netzwerk, das darauf trainiert ist, 604 verschiedene Aufgaben auszuführen, die Textgenerierung, Bilderkennung, Robotersteuerung und das Spielen von Spielen umfassen. Das Design von Gato basiert auf der Transformer (architecture)-Architektur, derselben Grundlage, die auch in großen Sprachmodellen verwendet wird, erweitert diese jedoch um multimodale Eingaben und Ausgaben, einschließlich Text, Bildern und kontinuierlichen Steuersignalen.
Das System wurde als Demonstration eingeführt, dass ein einzelnes Modell ohne aufgabenspezifische Feinabstimmung in einer Vielzahl von Bereichen kompetente Leistungen erzielen kann. Obwohl es nicht in jeder Aufgabe spezialisierte Systeme übertraf, hob Gato das Potenzial generalistischer Agenten in der KI-Forschung hervor und stand im Einklang mit breiteren Bemühungen hin zu flexibleren und anpassungsfähigeren Modellen.
Architektur und Training
Die Architektur von Gato ist ein transformerbasiertes Sequenzmodell, das Token aus verschiedenen Modalitäten verarbeitet. Eingaben wie Bilder werden durch einen Vision-Encoder geleitet, während Text und diskrete Aktionen direkt tokenisiert werden. Kontinuierliche Steuerausgaben, wie etwa Gelenkmomente für Roboter, werden in Bins diskretisiert. Das Modell wird mit einem standardmäßigen maschinellen Lernziel trainiert - der Vorhersage des nächsten Tokens in einer Sequenz - über alle Aufgabentypen hinweg.
Die Trainingsdaten stammten aus verschiedenen Quellen, darunter Textkorpora, Bilddatensätze, Spielaufzeichnungen und Demonstrationen realer Roboter-Manipulation. Das Modell hat etwa 1,2 Milliarden Parameter, was es im Vergleich zu zeitgenössischen großen Sprachmodellen relativ klein macht. Das Training nutzte einen einzelnen TPUv3-Pod, was die Effizienz bei Daten- und Rechenressourcen widerspiegelt.
Fähigkeiten und Aufgaben
Gato wurde auf 604 Aufgaben evaluiert, die Kategorien wie folgende abdecken:
- Textaufgaben: Beantwortung von Fragen, Zusammenfassung und Dialoggenerierung.
- Bildaufgaben: Bildbeschriftung und Objekterkennung.
- Spiele: Atari-Spiele und die Schach-Umgebung, mit Leistungen auf Amateurniveau.
- Robotik: Steuerung eines realen Roboterarms zum Stapeln von Blöcken und Manipulieren von Objekten.
Das Modell zeigte positiven Transfer, was bedeutet, dass das Training an einer Reihe von Aufgaben die Leistung bei anderen verbesserte. Beispielsweise half die Exposition gegenüber Text- und Bilddaten bei Robotersteuerungsaufgaben, was darauf hindeutet, dass gemeinsame Repräsentationen über Modalitäten hinweg vorteilhaft sind.
Bedeutung und Rezeption
Gato war bemerkenswert für seine Breite eher als für seine Tiefe. Es erreichte bei den meisten Aufgaben eine Leistung von mindestens 50% der Expertenleistung, ein Maßstab, den Forscher zur Bewertung generalistischer Fähigkeiten verwendeten. Das System wurde als Schritt in Richtung künstlicher allgemeiner Intelligenz angesehen, obwohl Experten anmerkten, dass es die tiefe Spezialisierung dedizierter Modelle vermissen ließ.
Kritiker wiesen darauf hin, dass Gatos Leistung bei einzelnen Aufgaben oft unter der modernster Systeme lag und dass das Konzept des 'Generalisten' durch die feste Aufgabenmenge begrenzt war. Dennoch beeinflusste es nachfolgende Forschung in generativer KI und Multitasking-Lernen, insbesondere innerhalb von DeepMind und der breiteren KI-Gemeinschaft.
Beziehung zu anderen Modellen
Gato teilt konzeptionelle Wurzeln mit großen Sprachmodellen wie denen von OpenAI und Anthropic, unterscheidet sich jedoch durch seinen expliziten Fokus auf Steuerung und multimodale Integration. Im Gegensatz zu reinen Textmodellen kann Gato mit physischen und simulierten Umgebungen interagieren, was es näher an verkörperte KI-Systeme bringt. Es parallelisiert auch Bemühungen im Deep Learning, disparate Aufgaben unter einer einzigen Architektur zu vereinen, ein Trend, der mit späteren Modellen fortgesetzt wurde.
Vermächtnis und zukünftige Richtungen
Die Veröffentlichung von Gato löste Diskussionen über die Skalierung generalistischer Agenten aus. Nachfolgende Arbeiten in diesem Bereich haben größere Modelle, vielfältigere Aufgabensets und verbesserte Trainingstechniken untersucht. Obwohl Gato selbst nicht kommerziell eingesetzt wurde, beeinflussten seine Prinzipien spätere DeepMind-Projekte und trugen zur breiteren Verschiebung hin zu Foundation-Modellen bei, die mehrere Modalitäten verarbeiten.
Stand 2025 bleibt das Konzept eines einzelnen Modells, das Hunderte von Aufgaben ausführt, ein aktives Forschungsgebiet, wobei Gato als früher Machbarkeitsnachweis dient. Sein Vermächtnis liegt darin, zu demonstrieren, dass vereinheitlichte Architekturen angemessene Leistungen über Domänen hinweg erzielen können, und den Weg für leistungsfähigere generalistische Systeme zu ebnen.