Ein Weltmodell ist in der künstlichen Intelligenz eine interne Repräsentation, die ein Agent nutzt, um vorherzusagen, wie sich seine Umgebung im Laufe der Zeit verändern wird, einschließlich als Reaktion auf seine eigenen Handlungen, was es dem Agenten ermöglicht, zu planen, Ergebnisse zu imaginieren und Handlungsoptionen zu bewerten, ohne in der realen Umgebung handeln zu müssen, um die Konsequenzen zu beobachten. Der Begriff hat Wurzeln in der klassischen Regelungstheorie und im modellbasierten Reinforcement learning, wo das Modell eines Agenten von der Umgebungsdynamik explizit für die Planung genutzt wird, hat aber in den letzten Jahren eine breitere Bedeutung erlangt, da Forscher vorgeschlagen haben, dass das Erlernen eines prädiktiven Weltmodells aus rohen Sinnesdaten, insbesondere Video, ein Weg zu allgemeinerer und robusterer Intelligenz sein könnte als das Training ausschließlich auf Text.
Ursprünge im Reinforcement Learning
Modellbasiertes Reinforcement Learning hat seit langem explizite oder gelernte Dynamikmodelle verwendet, um zukünftige Zustände vor dem Handeln zu simulieren, im Gegensatz zu modellfreien Ansätzen, die eine Policy oder Wertefunktion direkt aus Versuch und Irrtum lernen. Ein vielzitiertes Paper von David Ha und Jürgen Schmidhuber aus dem Jahr 2018, schlicht "World Models" betitelt, zeigte, dass ein Agent ein komprimiertes generatives Modell einer Videospielumgebung lernen und dann eine Policy fast vollständig innerhalb dieser gelernten Simulation trainieren konnte, was den Begriff in seinem modernen KI-Sinn populär machte und auf früheren Arbeiten zu prädiktiven, selbstmodellierenden Agenten aufbaute
Videoprädiktion und generative Weltmodelle
Eine neuere Forschungslinie behandelt groß angelegte Videoprädiktion selbst als eine Möglichkeit, ein Weltmodell implizit zu lernen, ohne einen handentworfenen Simulator. Genie von Google DeepMind, eingeführt im Jahr 2024, lernte, spielbare, interaktive 2D-Umgebungen rein aus unbeschriftetem Internetvideo zu generieren, ohne Zugriff auf zugrunde liegende Spiel-Engine-Zustände oder Aktionsbeschriftungen, was demonstrierte, dass handlungsbedingte Weltdynamik aus passiver Beobachtung gelernt werden kann. Videogenerationssysteme wie Sora wurden von ihren Entwicklern ähnlich als frühe, allgemeine "Weltsimulatoren" beschrieben, mit dem Argument, dass die genaue Vorhersage, wie ein Video fortgesetzt werden sollte, ein implizites Modell von Physik, Objektpermanenz und Ursache und Wirkung erfordert, obwohl Kritiker anmerken, dass solche Modelle häufig grundlegende physikalische Konsistenz verletzen und dass flüssige Videogenerierung nicht unbedingt ein zuverlässiges oder generalisierbares internes Physikmodell impliziert
JEPA und LeCuns Vorschlag
Yann LeCun hat die Joint Embedding Predictive Architecture, oder JEPA, als Alternative sowohl zu rein generativen Videomodellen als auch zur standardmäßigen Autoregressive model-Sprachmodellierung vorgeschlagen. Anstatt rohe Pixel oder Tokens vorherzusagen, sagen JEPA-artige Modelle zukünftige Zustände in einem abstrakten, gelernten Repräsentationsraum voraus, ein Ansatz, von dem LeCun argumentiert, dass er effizienter und besser in der Lage ist, irrelevante Details, wie Texturrauschen, zu ignorieren, während er dennoch die kausale Struktur erfasst, die für die Planung benötigt wird. LeCun hat Weltmodelle, die auf diese Weise gebaut wurden, als zentrale fehlende Zutat für Embodied AI und für Fortschritte über die Fähigkeiten heutiger Large language model-Systeme hinaus gerahmt, was die Idee in direktem Kontrast zu Laboren positioniert, die hauptsächlich auf die Skalierung textbasierter Pretraining setzen.
Bedeutung
Weltmodelle werden zunehmend als relevant nicht nur für Roboticsund spielende Agenten diskutiert, sondern auch für breitere Fragen zu Artificial general intelligence, da ein Agent mit einem genauen internen Modell seiner Umgebung prinzipiell über lange Horizonte planen und effizienter auf neuartige Situationen generalisieren kann als einer, der nur auf unmittelbare Eingaben reagiert. Stand der Mitte der 2020er-Jahre bleibt die Weltmodellforschung ein aktives und ungeklärtes Gebiet, mit erheblicher Uneinigkeit darüber, wie viel davon aus passivem Video gelernt werden kann versus wie viel verkörperte Interaktion erfordert.