Das US-amerikanische KI-Sicherheitsinstitut (AISI), das 2023 im Rahmen des National Institute of Standards and Technology (NIST) gegründet wurde, betreibt Forschung, die auf die sichere Entwicklung und Bereitstellung fortschrittlicher Systeme der künstlichen Intelligenz abzielt. Seine Forschungsagenda umfasst technische Bewertungen, Red-Teaming und die Entwicklung von Messstandards für KI-Fähigkeiten und -Risiken. Das Institut arbeitet mit akademischen Einrichtungen, Industriepartnern und internationalen Gremien zusammen, um Herausforderungen durch generative KI und andere aufkommende Technologien zu bewältigen.
Die Forschung des AISI basiert auf der Überzeugung, dass rigorose, empirische Tests unerlässlich sind, um das Verhalten, die Grenzen und potenziellen Schäden von KI-Systemen zu verstehen. Die Arbeit des Instituts fließt in politische Empfehlungen und bewährte Praktiken für KI-Entwickler ein, mit einem Schwerpunkt auf Grenzmodellen, die fortgeschrittene Fähigkeiten in Bereichen wie großen Sprachmodellen und Deep Learning aufweisen.
Technische Bewertungen und Red-Teaming
Ein zentraler Bestandteil der Forschung des AISI ist die Gestaltung und Durchführung technischer Bewertungen von KI-Modellen. Diese Bewertungen testen gefährliche Fähigkeiten, einschließlich Cyber-Offensive, Erstellung biologischer Bedrohungen und autonomer Replikation. Forscher wenden Red-Team-Methoden an, bei denen Teams versuchen, schädliche Ausgaben zu provozieren oder Sicherheitsmaßnahmen zu umgehen. Im Jahr 2024 veröffentlichte das AISI einen Rahmen für die Bewertung von Grenz-KI-Modellen, der standardisierte Benchmarks und adversariale Testprotokolle umfasst. Das Institut entwickelt auch Werkzeuge für die automatisierte Bewertung, die skalierbare Einschätzungen des Modellverhaltens über verschiedene Szenarien hinweg ermöglichen.
Sicherheitsstandards und Richtlinien
Das AISI trägt zur Entwicklung von Sicherheitsstandards und Richtlinien für KI-Systeme bei. Dies umfasst die Definition von Metriken für Robustheit, Fairness und Transparenz sowie die Etablierung bewährter Praktiken für Modelldokumentation und -bereitstellung. Das Institut arbeitet mit Normungsorganisationen zusammen, um international anerkannte Normen zu schaffen, wie den NIST AI Risk Management Framework, der einen strukturierten Ansatz zur Bewältigung von KI-Risiken bietet. Die Forschung in diesem Bereich untersucht auch die Wirksamkeit von Techniken wie Modellbereinigung und Datenerweiterung zur Verbesserung von Modellsicherheit und -zuverlässigkeit.
Zusammenarbeit und Partnerschaften
Das AISI arbeitet mit führenden KI-Forschungseinrichtungen zusammen, darunter MIT CSAIL, Stanford AI Lab und Berkeley AI Research, sowie mit Branchenakteuren wie OpenAI, Anthropic und Google DeepMind. Diese Partnerschaften ermöglichen Zugang zu modernsten Modellen und Fachwissen, sodass das AISI Vorabtests von Grenzsystemen durchführen kann. Das Institut engagiert sich auch mit internationalen Gegenstücken, wie dem britischen KI-Sicherheitsinstitut, um Bewertungsansätze zu harmonisieren und Ergebnisse auszutauschen. Im Jahr 2024 kündigte das AISI eine Partnerschaft mit der Carnegie Mellon University an, um neue Methoden zur Verifizierung der Sicherheit von KI-Systemen zu entwickeln.
Politik und öffentliches Engagement
Die Forschung des AISI fließt direkt in politische Entscheidungen und den öffentlichen Diskurs über KI-Sicherheit ein. Das Institut veröffentlicht Berichte und Briefings, die Ergebnisse zusammenfassen und Empfehlungen für Regulierungsbehörden und Gesetzgeber aussprechen. Es veranstaltet auch Workshops und Konferenzen, um den Dialog zwischen Interessengruppen, einschließlich Zivilgesellschaft und Wissenschaft, zu fördern. Die Arbeit des AISI hat Exekutivanordnungen und Gesetzesvorschläge zur KI-Aufsicht beeinflusst und betont die Notwendigkeit evidenzbasierter Regulierung. Das Institut unterhält ein öffentliches Repository mit Bewertungsergebnissen und Sicherheitsforschung, das Transparenz und Rechenschaftspflicht fördert.
Zukünftige Richtungen
In Zukunft plant das AISI, seine Forschung auf Bereiche wie Interpretierbarkeit, Ausrichtung und die gesellschaftlichen Auswirkungen von KI auszuweiten. Das Institut untersucht die Verwendung von Reinforcement-Learning-from-Human-Feedback (RLHF) und anderen Techniken, um die Ausrichtung von Modellen an menschlichen Werten zu verbessern. Darüber hinaus erforscht das AISI die potenziellen Risiken von künstlicher allgemeiner Intelligenz und langfristige Sicherheitsbedenken. Mit der Weiterentwicklung der KI-Technologie strebt das AISI an, an der Spitze der Sicherheitsforschung zu bleiben, seine Methoden an neue Herausforderungen anzupassen und sicherzustellen, dass KI der Gesellschaft nutzt, während Schäden minimiert werden.