Das US AI Safety Institute (AISI) ist eine staatlich unterstützte Organisation innerhalb des National Institute of Standards and Technology (NIST), die die Sicherheit fortgeschrittener Modelle der künstlichen Intelligenz (KI), oft als Frontier-KI bezeichnet, bewertet und fördert. Es wurde im November 2023 während des KI-Sicherheitsgipfels im Vereinigten Königreich zusammen mit dem britischen AI Safety Institute gegründet, als Reaktion auf wachsende Bedenken hinsichtlich potenzieller existenzieller Risiken durch KI. Im Jahr 2025 wurde das Institut in Center for AI Standards and Innovation (CAISI) umbenannt, was einen breiteren Fokus auf Standards und Innovation widerspiegelt.
Das Institut ist Teil des NIST, einer nicht-regulativen Behörde des US-Handelsministeriums. Seine Hauptaufgabe ist die Entwicklung von Messwissenschaft, Standards und Bewertungsmethoden für KI-Sicherheit, einschließlich der Prüfung von Frontier-Modellen auf Risiken wie Verzerrung, Missbrauch und Cybersicherheits-Schwachstellen. Es arbeitet mit anderen Regierungsbehörden, akademischen Einrichtungen und privaten Unternehmen zusammen, um Forschung und Praxis zur KI-Sicherheit voranzutreiben.
Gründung und frühe Aktivitäten
Das US-AISI wurde am 1. November 2023 auf dem KI-Sicherheitsgipfel in Bletchley Park angekündigt, wo sich das Vereinigte Königreich und die USA beide zur Schaffung nationaler KI-Sicherheitsinstitute verpflichteten. Das US-Institut wurde unter dem NIST ins Leben gerufen, mit anfänglicher Finanzierung und Personal aus bestehenden NIST-KI-Programmen. Im April 2024 vereinbarten das US- und das britische AISI, bei mindestens einem gemeinsamen Sicherheitstest zusammenzuarbeiten, um Bewertungsverfahren zu harmonisieren. Diese Partnerschaft war Teil einer breiteren Anstrengung, internationale Standards für KI-Sicherheit zu setzen, da viele KI-Unternehmen ihre fortschrittlichsten Modelle noch nicht für Bewertungen vor der Markteinführung zur Verfügung gestellt hatten.
Internationales Netzwerk und Zusammenarbeit
Beim KI-Gipfel in Seoul im Mai 2024 vereinbarten internationale Führungskräfte die Bildung eines Netzwerks von KI-Sicherheitsinstituten, darunter die USA, das Vereinigte Königreich, Japan, Frankreich, Deutschland, Italien, Singapur, Südkorea, Australien, Kanada und die Europäische Union. Das US-AISI nimmt an diesem Netzwerk teil, das gemeinsame Übungen durchführt und bewährte Verfahren austauscht. Im Juli 2025 führte das Netzwerk eine Übung durch, um Probleme bei der Bewertung von KI-Agenten zu untersuchen, insbesondere im Hinblick auf das Durchsickern sensibler Informationen und Cybersicherheit. Mitglieder trafen sich auch auf der NeurIPS 2025 in San Diego, um Methoden zur KI-Sicherheitsbewertung zu diskutieren.
Das US-AISI arbeitet auch bilateral mit internationalen Partnern zusammen. So hat es beispielsweise mit dem britischen AISI zusammengearbeitet, um Bewertungsstandards anzugleichen, und es hat an Diskussionen mit dem EU-KI-Büro und anderen nationalen Instituten teilgenommen, um gemeinsame Rahmenwerke für Frontier-KI-Tests zu entwickeln.
Schwerpunktbereiche und wichtige Produkte
Das Institut konzentriert sich auf mehrere Schlüsselbereiche: die Entwicklung von Bewertungs-Benchmarks für große Sprachmodelle und andere generative KI-Systeme, die Erstellung von Leitlinien für das KI-Risikomanagement und die Durchführung von Forschung zur KI-Sicherheit in Zusammenarbeit mit akademischen Labors wie MIT CSAIL und Stanford AI Lab. Es arbeitet auch an Standards für KI-Transparenz, Rechenschaftspflicht und Robustheit, oft in Abstimmung mit den breiteren KI-Initiativen des NIST.
Zu den wichtigsten Produkten gehören technische Berichte über KI-Modellbewertungen, öffentliche Datensätze für Sicherheitstests und Rahmenwerke zur Bewertung von KI-Risiken. Das Institut trägt auch zu internationalen Standardisierungsbemühungen bei, wie etwa denen der Internationalen Organisation für Normung (ISO), um sicherzustellen, dass KI-Sicherheitspraktiken global konsistent sind.
Beziehung zu Industrie und Wissenschaft
Das US-AISI arbeitet mit führenden KI-Unternehmen zusammen, darunter OpenAI, Anthropic und Google DeepMind, um Zugang zu Frontier-Modellen für Tests vor der Markteinführung zu erhalten. Es geht auch Partnerschaften mit akademischen Einrichtungen ein, um die Forschung zur KI-Sicherheit voranzutreiben, wie etwa Berkeley AI Research und Carnegie Mellon University. Diese Partnerschaften zielen darauf ab, die Lücke zwischen theoretischer Forschung und praktischen Sicherheitsbewertungen zu schließen.
Im Jahr 2024 stand das Institut vor Herausforderungen, Zugang zu einigen fortschrittlichen Modellen vor der Markteinführung zu erhalten, wie Politico berichtete. Es entwickelte jedoch weiterhin freiwillige Bewertungsprogramme und ermutigte Unternehmen, Modelle zum Testen einzureichen. Die Arbeit des Instituts wird durch andere staatliche Bemühungen ergänzt, wie die KI-Bill of Rights des Weißen Hauses und Exekutivanordnungen zur KI-Sicherheit.
Entwicklung zum CAISI
Im Jahr 2025 wurde das US-AISI in Center for AI Standards and Innovation (CAISI) umbenannt, was eine Verschiebung hin zu einem breiteren Mandat signalisiert, das neben der Sicherheit auch die Förderung von Innovation umfasst. Diese Änderung steht im Einklang mit der wachsenden Rolle des Instituts bei der Festlegung von Standards für KI-Bewertung und seiner Teilnahme an internationalen Netzwerken. Die Umbenennung spiegelt eine fortlaufende Entwicklung darin wider, wie Regierungen die KI-Governance angehen, indem sie Sicherheit mit wirtschaftlicher Wettbewerbsfähigkeit in Einklang bringen.
Stand 2025 operiert CAISI weiterhin unter dem NIST, mit einem Fokus auf die Entwicklung von Standards, Werkzeugen und Bewertungen, um sicherzustellen, dass KI-Technologien sicher, geschützt und vertrauenswürdig sind. Seine Arbeit bleibt entscheidend, da KI-Systeme leistungsfähiger und stärker in die Gesellschaft integriert werden.