Anthropic ist ein Unternehmen für künstliche Intelligenz-Forschung und -Produkte mit Hauptsitz in San Francisco, Kalifornien, das 2021 von Dario Amodei und Daniela Amodei zusammen mit mehreren anderen Forschern gegründet wurde, die OpenAI verließen, darunter Tom Brown, Jared Kaplan und Chris Olah. Das Unternehmen stellt KI-Sicherheit als zentralen Bestandteil seiner Mission dar und argumentiert, dass zunehmend leistungsfähigere Modelle entsprechend rigorose Sicherheitsforschung erfordern, die parallel zur Fähigkeitsentwicklung und nicht erst danach durchgeführt wird. Sein Flaggschiffprodukt ist die Familie der großen Sprachmodelle Claude, benannt nach dem Mathematiker und Informationstheoretiker Claude Shannon.
Geschichte
Mehrere der Gründer von Anthropic waren leitende OpenAI-Forscher, die an der GPT-3- und Sicherheitsarbeit des Unternehmens beteiligt waren; Dario Amodei hatte die Forschungsorganisation von OpenAI geleitet, bevor er nach Berichten über Meinungsverschiedenheiten zum Gleichgewicht zwischen kommerzieller Bereitstellung und Sicherheitspraktiken ausschied. Anthropic veröffentlichte sein erstes Claude-Modell im Jahr 2023, gefolgt von schnelleren Iterationen über Claude 2, Claude 3 und spätere Versionen, die bei unabhängigen Benchmarks und in der öffentlichen Nutzung zunehmend wettbewerbsfähiger mit den GPT-Modellen von OpenAI und Gemini von Google wurden. Das Unternehmen sammelte große Finanzierungsrunden von Investoren wie Google und Microsofts Rivale Amazon ein, die beide bedeutende Minderheitsanteile übernahmen und Cloud-Computing-Kapazitäten bereitstellten, was Anthropic als einen großen Nutznießer und Wettbewerber innerhalb des breiteren KI-Booms positionierte.
Mission und Ansatz
Anthropic beschreibt sich selbst als „KI-Sicherheitsunternehmen“ und hat Forschung zu Interpretierbarkeit (Verständnis dessen, was in trainierten Modellen vor sich geht), Ausrichtung und Red Teaming veröffentlicht. Seine charakteristische Trainingstechnik, Constitutional AI, die in einem Papier von 2022 eingeführt wurde, trainiert ein Modell, seine eigenen Ausgaben nach einem schriftlichen Satz von Prinzipien zu kritisieren und zu überarbeiten, anstatt sich für jedes Urteil ausschließlich auf menschliche Bewerter zu verlassen - ein Ansatz, den das Unternehmen als skalierbarere Ergänzung zum Standard-RLHF bezeichnet hat. Anthropic hat außerdem einen öffentlichen Rahmen für „verantwortungsvolle Skalierungspolitik“ veröffentlicht, der spezifische Sicherheitsbewertungen und Schutzmaßnahmen in Abhängigkeit vom Fähigkeitsniveau eines Modells vor weiterer Skalierung zusagt, ein Ansatz, der von anderen Labors unter dem breiteren Dach der Anthropic-Prinzipien aufgegriffen wurde.
Produkte
Über den Claude-Chat-Assistenten hinaus entwickelte Anthropic Claude Code, ein agentisches Befehlszeilen-Codierungstool, das 2025 veröffentlicht wurde, sowie ein API-Geschäft für Entwickler, die auf seinen Modellen aufbauen, und konkurriert damit direkt mit den Entwicklerplattformen von OpenAI und Google. Das Unternehmen führte Ende 2024 das Model Context Protocol ein, einen offenen Standard zur Verbindung von Sprachmodellen mit externen Werkzeugen und Datenquellen, der über Anthropics eigene Produkte hinaus Akzeptanz fand.
Finanzierung und Partnerschaften
Das Wachstum von Anthropic wurde wesentlich von Amazon und Google finanziert, beide bedeutende Anbieter der Cloud-Computing-Infrastruktur, die für das Training von Modellen an der durch Skalierungsgesetze getriebenen Grenze erforderlich ist, eine Vereinbarung, die Kritik auf sich zog, weil sie die Abhängigkeit von einer kleinen Anzahl großer Technologieunternehmen konzentriert, selbst unter Labors, die ausdrücklich um Sicherheitsbedenken organisiert sind. Bis Mitte der 2020er Jahre galt Anthropic weithin, neben OpenAI und Google DeepMind, als eines der wenigen Labors, die Systeme der Klasse Frontier-Modelle trainieren.