OpenAI o1 ist ein Reasoning-Modell, das von OpenAI entwickelt und im September 2024 in einer Vorschauversion veröffentlicht wurde, mit einer vollständigen Veröffentlichung im Dezember 2024. Es stellte eine Abkehr von der bisherigen GPT-4-Linie dar, indem es einen Trainings- und Inferenzansatz einführte, der explizit für mehrstufige Denkaufgaben wie Wettbewerbsmathematik, Programmierung und wissenschaftliches Problemlösen optimiert war, anstatt lediglich eine weitere allgemeine Skalierung anzustreben.
Erweiterte Gedankenkette
Die zentrale technische Neuerung von o1 bestand laut OpenAI darin, das Modell zu trainieren, eine erweiterte interne Gedankenkette zu erzeugen, bevor es eine endgültige Antwort liefert, wobei Verstärkungslernen eingesetzt wurde, um die Qualität dieses Zwischen-Denkprozesses zu verbessern. Im Gegensatz zu früheren Prompting-Techniken, die Gedankenketten-Denken durch benutzerdefinierte Anweisungen hervorriefen, wurde o1 darauf trainiert, dieses Denken automatisch auszuführen und bei schwierigeren Problemen mehr Rechenleistung zuzuweisen - ein Ansatz, der als Testzeit-Compute-Skalierung bekannt wurde: Anstatt nur die Modell- oder Trainingsdatengröße zu erhöhen, konnte die Leistungsfähigkeit verbessert werden, indem das Modell bei der Inferenz länger "denken" durfte. OpenAI verbarg die rohen internen Denkspuren des Modells absichtlich vor den Nutzern und zeigte nur eine zusammengefasste Version, wobei sowohl Wettbewerbsbedenken hinsichtlich einer Kopie der Technik als auch Sicherheitsbedenken hinsichtlich ungefilterter oder manipulativer Inhalte in der rohen Gedankenkette angeführt wurden.
Leistung und Benchmarks
OpenAI berichtete von erheblichen Verbesserungen von o1 gegenüber Modellen der GPT-4-Klasse bei denkintensiven Auswertungen, darunter große Fortschritte bei Wettbewerbsmathematikproblemen und dem SWE-Bench-Softwareentwicklungs-Benchmark sowie starke Leistungen bei wissenschaftlichen Fragen auf PhD-Niveau. Die Verbesserungen des Modells waren am ausgeprägtesten bei Aufgaben, die erweiterte, verifizierbare mehrstufige Logik erforderten, während die Verbesserungen bei offeneren oder wissensabrufenden Aufgaben vergleichsweise moderat ausfielen - ein Muster, das die wachsende Unterscheidung im Feld zwischen roher Wissenskapazität und Denkfähigkeit verstärkte.
Branchenauswirkungen
Die Veröffentlichung von o1 löste schnelle Reaktionen in der gesamten Branche aus, wobei konkurrierende Labore wie DeepSeek eigene denkfokussierte Modelle veröffentlichten, insbesondere DeepSeek-R1 im Januar 2025, das vergleichbare Denk-Benchmark-Leistungen zu deutlich geringeren gemeldeten Trainingskosten erzielte und im Gegensatz zu o1 seine vollständigen Gedankenketten-Denkspuren und offenen Gewichte veröffentlichte. Dieser Kontrast verschärfte die Debatte über den Wert von OpenAIs Entscheidung, seine Denkspuren zu verbergen, und trug zu einer breiteren Diskussion über den Open-Weights-Wettbewerb in der KI-Forschung bei. o1 etablierte die Testzeit-Compute-Skalierung als eigenständiges und dauerhaftes Paradigma neben der Vortrainingsskalierung, wobei OpenAI und Wettbewerber anschließend weitere Reasoning-Modell-Iterationen auf Basis desselben zugrunde liegenden Ansatzes veröffentlichten.