Das US AI Safety Institute (AISI) ist eine staatlich unterstützte Organisation, die im November 2023 gegründet wurde, um die Sicherheit fortschrittlicher künstlicher Intelligenz (KI)-Modelle, auch bekannt als Frontier-KI-Modelle, zu bewerten und sicherzustellen. Es arbeitet unter dem National Institute of Standards and Technology (NIST), einer Bundesbehörde innerhalb des US-Handelsministeriums. Das Institut wurde in einer Zeit erhöhter globaler Aufmerksamkeit für KI-Sicherheit gegründet, nachdem 2023 öffentliche Erklärungen über potenzielle existenzielle Risiken durch KI abgegeben wurden. Im Jahr 2025 wurde das US AISI in Center for AI Standards and Innovation (CAISI) umbenannt, was eine Verschiebung hin zur Festlegung von Standards und zur Unterstützung von Innovation widerspiegelt. Das Institut ist Teil eines internationalen Netzwerks von KI-Sicherheitsinstituten, das Gegenstücke im Vereinigten Königreich, in Japan, Frankreich, Deutschland, Italien, Singapur, Südkorea, Australien, Kanada und der Europäischen Union umfasst, wie beim KI-Gipfel in Seoul im Mai 2024 vereinbart.
Die Hauptaufgabe des US AISI besteht darin, unabhängige Bewertungen fortschrittlicher KI-Modelle durchzuführen, Sicherheitsrichtlinien zu entwickeln und bewährte Praktiken unter KI-Entwicklern zu fördern. Dies umfasst die Bewertung von Risiken wie Voreingenommenheit, Missbrauch und katastrophalen Schäden sowie die Bereitstellung technischer Anleitungen für Bundesbehörden und die Industrie. Das Institut arbeitet mit akademischen Einrichtungen, Industriepartnern und internationalen Gegenstücken zusammen, um die Forschung und Politik zur KI-Sicherheit voranzutreiben. Seine Arbeit ist in einer Ära von entscheidender Bedeutung, in der künstliche-Intelligenz-Systeme, einschließlich großer-Sprachmodelle und generativer-KI-Modelle, schnell in verschiedenen Sektoren eingesetzt werden.
Gründung und frühe Aktivitäten
Das US AISI wurde offiziell während des KI-Sicherheitsgipfels im November 2023 gegründet, parallel zum KI-Sicherheitsinstitut des Vereinigten Königreichs. Der Gipfel, der vom britischen Premierminister Rishi Sunak ausgerichtet wurde, zielte darauf ab, das Vereinigte Königreich als globalen Führer in der KI-Sicherheitsregulierung zu positionieren. Sunak betonte die Notwendigkeit unabhängiger Sicherheitsbewertungen und erklärte, dass KI-Unternehmen nicht "ihre eigenen Hausaufgaben benoten" könnten. Das US AISI wurde als Teil des NIST geschaffen und nutzte die Expertise der Behörde in Messung und Standards. Im April 2024 schlossen die USA und das Vereinigte Königreich eine Vereinbarung zur Zusammenarbeit bei mindestens einem gemeinsamen Sicherheitstest, was einen bedeutenden Schritt in der internationalen Zusammenarbeit darstellte. Ein Politico-Bericht aus demselben Monat stellte jedoch fest, dass viele KI-Unternehmen keinen Zugang zu ihren fortschrittlichsten Modellen vor der Bereitstellung für Bewertungen geteilt hatten, was Herausforderungen bei der Durchsetzung hervorhob.
Rolle und Verantwortlichkeiten
Das US AISI konzentriert sich auf die Bewertung von Frontier-KI-Modellen, die die fähigsten und potenziell riskantesten Systeme sind. Zu seinen Aufgaben gehören die Entwicklung von Bewertungsmethoden, die Durchführung von Sicherheitstests und die Herausgabe von Leitlinien für Modellentwickler. Das Institut arbeitet auch daran, Risiken im Zusammenhang mit maschinellem-Lernen und tiefem-Lernen-Technologien zu mindern, einschließlich Fragen wie Modellrobustheit, Transparenz und Ausrichtung an menschlichen Werten. Es kooperiert mit anderen Bundesbehörden, wie dem Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses, um KI-Sicherheitsbemühungen in der gesamten Regierung zu koordinieren. Die Arbeit des Instituts wird durch Forschung führender KI-Labore informiert, darunter OpenAI, Anthropic und Google DeepMind, sowie akademische Einrichtungen wie MIT CSAIL und Stanford AI Lab.
Internationale Zusammenarbeit
Als Teil des internationalen Netzwerks von KI-Sicherheitsinstituten beteiligt sich das US AISI an gemeinsamen Übungen und Wissensaustausch. Im Juli 2025 führte das Netzwerk eine Übung durch, um Probleme bei der Bewertung von KI-Agenten zu untersuchen, insbesondere im Hinblick auf das Durchsickern sensibler Informationen oder Cybersicherheitsbedrohungen. Mitglieder trafen sich auch bei NeurIPS 2025 in San Diego, einer großen Konferenz für neuronale-Netze-Forschung. Das US AISI hat bilaterale Abkommen mit mehreren Ländern, darunter dem Vereinigten Königreich, Japan und Südkorea, um Bewertungsstandards zu harmonisieren und technisches Fachwissen auszutauschen. Diese Zusammenarbeit ist wesentlich, um globale KI-Risiken anzugehen, da KI-Modelle grenzüberschreitend entwickelt und eingesetzt werden.
Entwicklung zu CAISI
Im Jahr 2025 wurde das US AISI in Center for AI Standards and Innovation (CAISI) umbenannt. Diese Änderung spiegelt ein breiteres Mandat wider, nicht nur Sicherheit zu gewährleisten, sondern auch Innovation und die Entwicklung von KI-Standards zu fördern. CAISI arbeitet weiterhin unter dem NIST, mit einem Fokus auf die Erstellung freiwilliger Leitlinien und Rahmenwerke, die von der Industrie übernommen werden können. Die Umbenennung steht im Einklang mit dem Ansatz der US-Regierung zur KI-Regulierung, der Flexibilität und marktorientierte Lösungen gegenüber strengen Vorgaben betont. CAISI arbeitet eng mit Industriestakeholdern zusammen, einschließlich großer Technologieunternehmen wie Amazon Web Services, Azure und Google Cloud, um sicherzustellen, dass Sicherheitsmaßnahmen praktikabel sind und den technologischen Fortschritt nicht behindern.
Auswirkungen und Herausforderungen
Das US AISI hat erhebliche Auswirkungen auf die KI-Sicherheitslandschaft gehabt und sowohl nationale als auch internationale Politiken beeinflusst. Seine Bewertungen haben Entscheidungen über die Modellbereitstellung informiert und Unternehmen dazu veranlasst, ihre Sicherheitspraktiken zu verbessern. Das Institut steht jedoch vor Herausforderungen, einschließlich begrenzter Ressourcen und des schnellen Tempos der KI-Entwicklung. Kritiker argumentieren, dass freiwillige Leitlinien möglicherweise nicht ausreichen, um Schäden zu verhindern, während andere eine Überregulierung befürchten. Die Wirksamkeit des Instituts hängt von seiner Fähigkeit ab, sich an neue Technologien anzupassen, wie Transformer-Architekturen und Multi-Head-Attention-Mechanismen, die moderne KI-Systeme untermauern. Ab 2025 entwickelt sich das Institut weiter, mit laufenden Bemühungen, seine Bewertungsfähigkeiten zu stärken und seine internationale Reichweite zu erweitern.
Verwandte Entwicklungen
Andere Länder haben ähnliche Institute eingerichtet, wodurch ein globales Netzwerk entstanden ist. Zum Beispiel eröffnete das KI-Sicherheitsinstitut des Vereinigten Königreichs, ursprünglich in London ansässig, im Mai 2024 ein Büro in San Francisco, um näher an KI-Unternehmen zu sein. Japans AISI, gegründet im Februar 2024, ist Teil der Information Technology Promotion Agency und beschäftigt etwa 23 Personen. Südkoreas AISI, etabliert im November 2024, hat seinen Sitz im Bezirk Bundang und wird durch eine Investition von 10 bis 20 Millionen südkoreanischen Won pro Jahr unterstützt. Diese Institute teilen bewährte Praktiken und arbeiten an gemeinsamen Projekten zusammen, wie der Übung im Juli 2025 zu KI-Agenten. Die Rolle des US AISI in diesem Netzwerk ist zentral, angesichts der Führungsrolle des Landes in der KI-Entwicklung und seiner umfangreichen Ressourcen.
Zukünftige Richtungen
In der Zukunft wird erwartet, dass sich das US AISI (jetzt CAISI) auf aufkommende Herausforderungen konzentriert, wie die Sicherheit von KI-Agenten und autonomen Systemen. Es wird wahrscheinlich neue Bewertungsmethoden für Modelle entwickeln, die in der realen Welt handeln können, wie solche, die in Waymo-Selbstfahrfahrzeugen oder Tesla-Autopilot verwendet werden. Das Institut könnte auch Fragen im Zusammenhang mit KI in kritischen Sektoren wie Gesundheitswesen und Finanzen angehen, wo Ausfälle schwerwiegende Folgen haben könnten. Mit dem Fortschritt der KI-Technologie wird der Bedarf an robusten Sicherheitsmaßnahmen nur wachsen, was die Mission des Instituts zunehmend wichtiger macht. Das internationale Netzwerk von KI-Sicherheitsinstituten wird weiterhin eine Schlüsselrolle bei der Koordinierung globaler Bemühungen spielen, um sicherzustellen, dass die Vorteile der KI realisiert werden, während Risiken minimiert werden.
Fazit
Das US AI Safety Institute, jetzt das Center for AI Standards and Innovation, stellt eine kritische Komponente der Strategie der US-Regierung zur Bewältigung von KI-Risiken dar. Gegründet im Jahr 2023, hat es sich weiterentwickelt, um den Herausforderungen einer sich schnell verändernden technologischen Landschaft zu begegnen. Durch seine Bewertungen, Leitlinien und internationalen Kooperationen zielt das Institut darauf ab, sicherzustellen, dass fortschrittliche KI-Systeme sicher entwickelt und eingesetzt werden. Obwohl Herausforderungen bestehen bleiben, ist die Arbeit des Instituts wesentlich, um Vertrauen in KI aufzubauen und die Gesellschaft vor potenziellen Schäden zu schützen. Da KI weiterhin jeden Aspekt des Lebens durchdringt, wird die Mission des US AISI ein Eckpfeiler verantwortungsvoller KI-Governance bleiben.