Anthropic Safety bezeichnet die Forschungs- und Politikbemühungen von Anthropic, PBC, einem amerikanischen Unternehmen für künstliche Intelligenz (KI) mit Gemeinwohlzweck mit Sitz in San Francisco, Kalifornien. Gegründet 2021 von ehemaligen OpenAI-Mitarbeitern, darunter die Geschwister Daniela Amodei und Dario Amodei, zielt Anthropic darauf ab, KI-Sicherheit durch die Entwicklung zuverlässiger, interpretierbarer und steuerbarer KI-Systeme zu fördern. Sein Flaggschiff-Produkt Claude ist eine Reihe proprietärer Large Language Models (LLMs), die in Stufen wie Haiku, Sonnet, Opus und Fable verfügbar sind und über Chatbot, API und Agenten-Umgebungen wie Claude Code und Cowork zugänglich sind.
Anthropic Safety umfasst sowohl technische Forschung als auch Unternehmensführung. Das Unternehmen führt Studien zu mechanischer Interpretierbarkeit, Alignment und gesellschaftlichen Auswirkungen durch, mit namhaften Forschern wie Andrej Karpathy, John Jumper, Jan Leike, Chris Olah und Amanda Askell. Es trifft auch politische Entscheidungen bezüglich des Einsatzes seiner KI, insbesondere in sensiblen Bereichen wie nationaler Sicherheit und öffentlicher Überwachung.
Geschichte und Gründung
Anthropic wurde im Januar 2021 von sieben ehemaligen OpenAI-Mitarbeitern gegründet, darunter Dario Amodei, der zuvor als Vizepräsident für Forschung bei OpenAI tätig war, und seine Schwester Daniela Amodei. Das Unternehmen sammelte im Mai 2021 124 Millionen US-Dollar ein. Im Sommer 2022 schloss Anthropic das Training der ersten Version von Claude ab, verzögerte deren Veröffentlichung jedoch bis März 2023, mit der Begründung, weitere interne Sicherheitstests seien nötig und man wolle ein potenziell gefährliches Wettrüsten in der KI-Entwicklung vermeiden. Dieser vorsichtige Ansatz spiegelt den zentralen Sicherheitsauftrag des Unternehmens wider.
Im Jahr 2024 stellte Anthropic mehrere namhafte KI-Forscher von OpenAI ein, darunter Jan Leike und John Schulman. Im Mai 2025 kündigte das Unternehmen Claude 4 an, führte den Model Context Protocol (MCP)-Konnektor ein und startete eine Websuch-API für den Zugriff auf Echtzeitinformationen. Claude Code, sein Programmierassistent, wechselte im selben Monat von der Forschungsvorschau zur allgemeinen Verfügbarkeit.
Sicherheitsforschung und Alignment
Die Sicherheitsforschung von Anthropic konzentriert sich darauf, KI-Systeme transparenter und besser auf menschliche Absichten ausgerichtet zu machen. Zu den Schlüsselbereichen gehören mechanische Interpretierbarkeit, die darauf abzielt, die internen Abläufe von neuronalen Netzen zu verstehen, und Alignment, das sicherstellen soll, dass KI sich wie beabsichtigt verhält. Das Unternehmen hat Arbeiten zu RLHF (Reinforcement Learning from Human Feedback) und anderen Trainingstechniken veröffentlicht, um schädliche Ausgaben zu reduzieren.
Der Sicherheitsansatz des Unternehmens erstreckt sich auch auf das Produktdesign. So hat Anthropic erklärt, dass Claude werbefrei bleiben wird, im Gegensatz zu Wettbewerbern wie OpenAI, das Anzeigen in sein kostenloses ChatGPT eingeführt hat. Diese Entscheidung steht im Einklang mit Anthropics Betonung von Nutzervertrauen und Sicherheit gegenüber Monetarisierung.
Militär- und Regierungsaufträge
Anthropic hat mit US-Regierungsbehörden zusammengearbeitet und mit Palantir kooperiert, um Claude Bundesbehörden einschließlich des Verteidigungsministeriums (DoD) und der Intelligence Community bereitzustellen. Im Juli 2025 unterzeichnete Anthropic einen Zweijahresvertrag über 200 Millionen US-Dollar mit dem DoD, der die Integration seiner Modelle in klassifizierte Geheimdienstnetzwerke vorsah. Anthropic legte jedoch fest, dass seine Technologie nicht für die Massenüberwachung von Amerikanern oder die Schaffung vollständig autonomer Waffen verwendet werden darf, eine Haltung, die 2026 zu einem Streit führte, als das DoD die Aufhebung dieser Beschränkungen verlangte.
Im Februar 2026 stufte das DoD Anthropic als „Risiko für die Lieferkette“ ein und untersagte Militärauftragnehmern Geschäfte mit dem Unternehmen. Ein Bundesrichter blockierte diese Entscheidung später und bezeichnete sie als „Vergeltungsmaßnahme gegen den Ersten Verfassungszusatz“. Trotz des Streits wurde Claude Berichten zufolge während des Iran-Kriegs 2026 und der US-Intervention in Venezuela 2026 eingesetzt, wo es bei der Zielidentifizierung und der Planung von Angriffen half.
Kontroversen und rechtliche Fragen
Anthropic war mit rechtlichen und ethischen Kontroversen konfrontiert. Im Jahr 2025 legte das Unternehmen eine Urheberrechtsklage von Autoren mit 1,5 Milliarden US-Dollar bei, die sich auf die Verwendung von Raubkopien von Büchern als Trainingsdaten bezog. Dies war Teil des Projekts Panama, einer Initiative, „alle Bücher der Welt destruktiv zu scannen“, um Trainingsdaten für Claude bereitzustellen.
Im November 2025 berichtete Anthropic, dass chinesische, von der Regierung unterstützte Hacker Claude für automatisierte Cyberangriffe auf rund 30 globale Organisationen nutzten, wobei sie Sicherheitsvorkehrungen umgingen, indem sie vorgaben, defensive Tests durchzuführen. Im Februar 2026 beschuldigte Anthropic die chinesischen Wettbewerber DeepSeek, Moonshot AI und MiniMax Group der „Wissensdestillation“-Angriffe und behauptete, diese hätten über 16 Millionen Chats mit rund 24.000 betrügerischen Konten generiert. Im Juni 2026 erhob es ähnliche Vorwürfe gegen Alibaba Cloud.
Zukunftsausblick
Anthropic befindet sich in Privatbesitz, plant aber Berichten zufolge einen Börsengang im Jahr 2026. Mit einer Bewertung von 965 Milliarden US-Dollar in einer Serie-H-Finanzierungsrunde im Mai 2026 ist es eines der wertvollsten reinen KI-Unternehmen der Welt, vergleichbar mit OpenAI. Das Unternehmen baut seine Infrastruktur weiter aus, darunter eine Vereinbarung mit xAI zur Nutzung dessen Colossus-1-Rechenzentrums und die Übernahme des Software-Startups Stainless im Mai 2026. Stand 2026 bleibt Anthropic seiner Sicherheitsmission verpflichtet, auch während es komplexe geopolitische und kommerzielle Zwänge bewältigt.