Das US-amerikanische Institut für KI-Sicherheit (AISI) ist eine staatlich geförderte Organisation innerhalb des National Institute of Standards and Technology (NIST), die damit beauftragt ist, die Sicherheit fortschrittlicher künstlicher Intelligenz (KI) zu bewerten und sicherzustellen, die auch als Frontier-KI bezeichnet wird. Es wurde im November 2023 während des KI-Sicherheitsgipfels im Vereinigten Königreich gegründet, parallel zum KI-Sicherheitsinstitut des Vereinigten Königreichs. Das Institut konzentriert sich auf die Entwicklung von Messmethoden, Standards und Leitlinien für die KI-Sicherheit, einschließlich Tests vor der Bereitstellung von Frontier-Modellen. Im Jahr 2025 wurde das US-amerikanische AISI in Zentrum für KI-Standards und Innovation (CAISI) umbenannt, was seine erweiterte Rolle bei der Festlegung von Standards und bei Innovationen widerspiegelt.
Gründung und frühe Aktivitäten
Das US-amerikanische AISI wurde als Teil des NIST geschaffen, einer Behörde des US-Handelsministeriums. Seine Gründung folgte auf wachsende Bedenken hinsichtlich der KI-Sicherheit, insbesondere nach öffentlichen Erklärungen im Jahr 2023 über potenzielle existenzielle Risiken durch fortschrittliche KI. Während des KI-Sicherheitsgipfels im November 2023 kündigten die USA und das Vereinigte Königreich die Gründung ihrer jeweiligen Institute an. Die ursprüngliche Aufgabe des US-amerikanischen AISI umfasste die Entwicklung von Bewertungsmethoden für Frontier-KI-Modelle, die häufig von Unternehmen wie OpenAI, Anthropic und Google DeepMind entwickelt werden. Im April 2024 vereinbarten das US-amerikanische und das britische AISI, bei mindestens einem gemeinsamen Sicherheitstest zusammenzuarbeiten, um die Bewertungsverfahren zu harmonisieren. Wie Politico im April 2024 berichtete, hatten jedoch viele KI-Unternehmen ihre fortschrittlichsten Modelle noch nicht für Bewertungen vor der Bereitstellung zur Verfügung gestellt, da einige auf gemeinsame Regeln der Institute warteten.
Internationale Zusammenarbeit und Vernetzung
Im Mai 2024 vereinbarten die Staats- und Regierungschefs auf dem KI-Gipfel in Seoul die Bildung eines Netzwerks von KI-Sicherheitsinstituten, darunter jene aus dem Vereinigten Königreich, den USA, Japan, Frankreich, Deutschland, Italien, Singapur, Australien, Kanada und der Europäischen Union. Das US-amerikanische AISI beteiligt sich an diesem Netzwerk, das darauf abzielt, Sicherheitsbewertungen zu koordinieren und bewährte Verfahren auszutauschen. Im Juli 2025 führte das Netzwerk eine Übung durch, um Probleme bei der Bewertung von KI-Agenten zu untersuchen, insbesondere im Hinblick auf das Durchsickern sensibler Informationen. Netzwerkmitglieder trafen sich auch auf der NeurIPS 2025 in San Diego. Das US-amerikanische AISI arbeitet außerdem mit anderen nationalen Instituten zusammen, wie dem KI-Sicherheitsinstitut des Vereinigten Königreichs (später umbenannt in KI-Sicherheitsinstitut) und dem japanischen AISI, um globale KI-Sicherheitsstandards voranzutreiben.
Rolle und Funktionen
Das US-amerikanische AISI ist dem NIST unterstellt, das für seine Messwissenschaft und die Entwicklung von Standards bekannt ist. Zu den Hauptaufgaben des Instituts gehören die Durchführung von Bewertungen von Frontier-KI-Modellen, die Entwicklung von Testmethoden und die Erstellung von Leitlinien für KI-Sicherheit und Vertrauenswürdigkeit. Es arbeitet sowohl mit staatlichen als auch mit privaten Interessengruppen zusammen, darunter KI-Entwickler und Forscher. Das Institut trägt auch zu internationalen Standardisierungsbemühungen bei und steht im Einklang mit der übergeordneten Mission des NIST. Seit 2025 ist das Institut in CAISI umbenannt, aber sein Kernfokus auf KI-Standards und Innovation bleibt bestehen. Das Institut ist Teil der umfassenderen Strategie der US-Regierung, KI-Risiken zu managen und gleichzeitig Innovationen in Bereichen wie maschinellem Lernen und generativer KI zu fördern.
Verhältnis zu anderen KI-Sicherheitsbemühungen
Das US-amerikanische AISI unterscheidet sich von anderen nationalen KI-Sicherheitsorganisationen, wie dem KI-Sicherheitsinstitut des Vereinigten Königreichs, das in London gegründet wurde und im Mai 2024 ein Büro in San Francisco eröffnete. Das US-amerikanische Institut koordiniert sich außerdem mit dem EU-KI-Büro, das im Mai 2024 gegründet wurde, sowie mit anderen Mitgliedern des internationalen Netzwerks. Während sich das US-amerikanische AISI auf nationale Standards und Bewertungen konzentriert, beteiligt es sich an globalen Diskussionen über KI-Sicherheit, einschließlich derer auf dem KI-Gipfel in Seoul und bei anschließenden Treffen. Die Arbeit des Instituts ergänzt die anderer Organisationen, wie des Berkeley AI Research-Labors und des MIT CSAIL, die akademische Forschung zur KI-Sicherheit betreiben. Die Hauptrolle des US-amerikanischen AISI ist jedoch regulatorischer und standardisierungsbezogener Natur und nicht rein forschungsorientiert.
Zukünftige Entwicklungen
Seit 2025 wird erwartet, dass das US-amerikanische AISI (jetzt CAISI) seine Arbeit an KI-Standards und -Bewertungen fortsetzt, insbesondere da Frontier-KI-Modelle immer leistungsfähiger werden. Das Institut wird voraussichtlich eine Schlüsselrolle bei der Gestaltung der US-KI-Politik spielen, insbesondere in Bereichen wie großen Sprachmodellen und Deep Learning. Die Umbenennung in CAISI deutet auf ein erweitertes Mandat hin, das nicht nur Sicherheit, sondern auch die Förderung von Innovationen umfasst. Das Institut wird sich auch weiterhin am internationalen Netzwerk beteiligen, das möglicherweise um weitere Länder erweitert wird. Da sich die KI-Technologie weiterentwickelt, muss das US-amerikanische AISI seine Bewertungsmethoden an neue Risiken anpassen, wie sie etwa von KI-Agenten und autonomen Systemen ausgehen. Der Erfolg des Instituts wird von seiner Fähigkeit abhängen, mit Industrie, Wissenschaft und internationalen Partnern zusammenzuarbeiten.