Inkling ist ein Large Language Model mit offenen Gewichten, das von dem Unternehmen Thinking Machines entwickelt wurde und erstmals am 15. Juli 2026 unter einer Apache-2.0-Lizenz veröffentlicht wurde. Es akzeptiert Text, Bilder und Audio als Eingabe und kann Aufgaben wie Chat, Softwareentwicklung, mehrsprachige Anwendungen und agentische Systeme ausführen. Als Modell mit offenen Gewichten sind seine Parameter öffentlich zugänglich, sodass Entwickler es für spezialisierte Anwendungen inspizieren und feinabstimmen können.
Das Modell zeichnet sich durch natives Denken über mehrere Modalitäten hinweg und ein einstellbares Denkbudget aus, das es Nutzern ermöglicht, zwischen Geschwindigkeit und Gründlichkeit abzuwägen. Es wurde für Effizienz in der Praxis und Zensurresistenz entwickelt, wobei die Ersteller externe Moderationswerkzeuge für die Sicherheit empfehlen.
Training
Inkling ist das erste Large Language Model, das von Thinking Machines veröffentlicht wurde. Es wurde mit 45 Billionen Token trainiert, die Text-, Bild-, Audio- und Videodaten umfassen, wodurch es nativ aus jedem dieser vier Formate denken kann. Zum Zeitpunkt der Veröffentlichung konnte das Modell jedoch nur Text generieren, einschließlich Quellcode und strukturierter Daten, nicht jedoch Bilder oder Audio.
Der Trainingsprozess nutzte wahrscheinlich Deep-Learning-Techniken, die bei modernen Transformer (architecture)-Architekturen üblich sind, obwohl spezifische Details zu Architektur und Optimierung nicht öffentlich bekannt gegeben wurden.
Funktionen
Inkling wurde entwickelt, um in Produktionsumgebungen anpassungsfähig und effizient zu sein. Ein zentrales Merkmal ist sein programmierbares Denkbudget, das auf einer Skala von 0,2 bis 0,99 eingestellt werden kann. Dies steuert die Menge an „Gedanken“, die das Modell vor der Generierung einer Ausgabe durchführt, und ermöglicht es Entwicklern, den Kosten-Leistungs-Kompromiss für jede Aufgabe zu optimieren. Niedrigere Budgets führen zu schnelleren Antworten, während höhere Budgets verfeinerte Antworten erzeugen.
Im Gegensatz zu den meisten anderen Large Language Models, einschließlich anderer Varianten mit offenen Gewichten, wurde Inkling mit einem Fokus auf Zensurresistenz erstellt. Es liefert direkte Antworten zu politisch sensiblen oder zensierten Themen. Die Ersteller raten zur Verwendung externer Inhaltsmoderationswerkzeuge, da die interne Sicherheitsbewertung nicht immer schädliche Antworten verhindern kann. Diese philosophische Haltung unterscheidet es in der generativen KI-Landschaft.
Für die Anpassung können Entwickler das Modell über die Tinker-Plattform, ebenfalls von Thinking Machines, feinabstimmen und es über Drittanbieter bereitstellen.
Technische Informationen
Inkling unterstützt ein Kontextfenster von bis zu 1.048.576 Token, was die Verarbeitung sehr langer Dokumente oder Konversationen ermöglicht. Es enthält 975 Milliarden Parameter, wobei aufgrund seines Mixture of experts-Designs zu jedem Zeitpunkt nur 41 Milliarden aktiv sind. Eingaben werden an die relevantesten Expertenmodule weitergeleitet, was die Recheneffizienz verbessert.
Das Modell kann mit gängigen Inferenzbibliotheken wie llama.cpp ausgeführt werden. Die Mindesthardwareanforderungen umfassen mindestens 2 TB VRAM, aber eine quantisierte Version reduziert dies auf etwa 600 GB, was die Bereitstellung für Organisationen mit kleinerer Infrastruktur machbarer macht.
Bereitstellung und Ökosystem
Inkling kann aufgrund seiner offenen Gewichte auf verschiedenen Cloud-Plattformen bereitgestellt werden, einschließlich Amazon Web Services, Azure, Google Cloud und Oracle Cloud, oder lokal mit geeigneter Hardware. Es ist darauf ausgelegt, in agentische Systeme integriert zu werden, wo es als Denk- und Entscheidungskomponente fungieren kann. Seine mehrsprachigen Fähigkeiten machen es für internationale Anwendungen geeignet.
Thinking Machines positioniert Inkling als Basismodell für die Entwicklung spezialisierter KI-Werkzeuge, wobei die Tinker-Plattform als primäre Feinabstimmungsschnittstelle dient. Zum Zeitpunkt seiner Veröffentlichung stellt Inkling einen bemerkenswerten Beitrag zur Open-Source-KI-Gemeinschaft dar und bietet eine Mischung aus Leistung, Flexibilität und philosophischer Offenheit, die vielen kommerziellen Gegenstücken fehlt.