Das National Institute of Standards and Technology (NIST) ist eine US-amerikanische Bundesbehörde, die ein umfassendes Programm für die Sicherheit und Vertrauenswürdigkeit künstlicher Intelligenz entwickelt hat. NIST AI umfasst eine Reihe freiwilliger Rahmenwerke, Standards und Testressourcen, die Organisationen dabei helfen sollen, Risiken im Zusammenhang mit KI-Systemen zu managen. Die Arbeit der Behörde in diesem Bereich erhielt nach der Executive Order 2023 zur sicheren, geschützten und vertrauenswürdigen Entwicklung und Nutzung künstlicher Intelligenz erheblichen Auftrieb, die das NIST mit der Leitung der bundesstaatlichen Bemühungen um KI-Sicherheit beauftragte.
Der wichtigste Beitrag des NIST ist das AI Risk Management Framework (AI RMF), das erstmals im Januar 2023 veröffentlicht wurde. Dieses Rahmenwerk bietet einen strukturierten Ansatz für Organisationen, um Risiken während des gesamten KI-Lebenszyklus zu identifizieren, zu bewerten und zu mindern. Es ist um vier Kernfunktionen organisiert - Govern, Map, Measure und Manage - und ist darauf ausgelegt, freiwillig und über Sektoren hinweg anpassbar zu sein. Das Rahmenwerk betont Prinzipien wie Validität, Zuverlässigkeit, Sicherheit, Schutz, Resilienz, Rechenschaftspflicht, Transparenz und Fairness.
AI RMF und verwandte Veröffentlichungen
Das AI RMF 1.0 wurde am 26. Januar 2023 nach einem Multi-Stakeholder-Prozess veröffentlicht, der öffentliche Kommentare und Workshops umfasste. Das NIST veröffentlichte anschließend im Juli 2024 das AI RMF Generative AI Profile, das sich mit besonderen Risiken befasst, die von generativer KI-Systemen ausgehen, einschließlich großer Sprachmodelle. Dieses Profil behandelt Themen wie Halluzinationen, schädliche Verzerrungen und das Potenzial für Missbrauch. Das NIST veröffentlichte außerdem Begleitdokumente zur sicheren Softwareentwicklung für KI und eine Taxonomie von KI-Vorfällen.
Zusätzlich zum RMF hat das NIST mehrere andere KI-bezogene Veröffentlichungen herausgegeben. Das AI RMF Playbook bietet praktische Anleitungen zur Umsetzung des Rahmenwerks. Das NIST hat außerdem die Adversarial Machine Learning (AML)-Taxonomie entwickelt, die im März 2024 veröffentlicht wurde und Angriffe auf maschinelles Lernen-Systeme kategorisiert sowie Minderungsstrategien bereitstellt. Diese Ressourcen sind für KI-Entwickler, -Bereitsteller und -Bewerter in Industrie, Wissenschaft und Regierung gedacht.
Test- und Bewertungsprogramme
Das NIST betreibt das Programm für KI-Tests, -Bewertung, -Validierung und -Verifizierung (TEVV), das darauf abzielt, Metriken und Methoden zur Bewertung von Leistung und Sicherheit von KI-Systemen zu entwickeln. Dies umfasst die Erstellung von Testumgebungen und Benchmark-Datensätzen zur Bewertung von KI-Fähigkeiten. Im Jahr 2024 startete das NIST das U.S. AI Safety Institute (AISI), das unter dem Handelsministerium eingerichtet wurde, wobei das NIST die technische Leitung übernahm. Das AISI betreibt Forschung zur KI-Sicherheit, entwickelt Testprotokolle und arbeitet mit internationalen Partnern zusammen.
Eine bemerkenswerte Initiative ist das GenAI-Programm, das sich auf die Bewertung generativer KI-Technologien konzentriert. Dieses Programm entwickelt Messwerkzeuge zur Bewertung von Qualität, Sicherheit und Vertrauenswürdigkeit KI-generierter Inhalte. Das NIST beteiligt sich auch am International AI Safety Report, einer globalen Anstrengung zur Synthese wissenschaftlicher Erkenntnisse über KI-Risiken.
Standards und internationale Zusammenarbeit
Das NIST spielt eine Schlüsselrolle bei der Entwicklung internationaler KI-Standards durch seine Zusammenarbeit mit Organisationen wie der Internationalen Organisation für Normung (ISO) und der Internationalen Elektrotechnischen Kommission (IEC). Das NIST trägt zum ISO/IEC-42001-Standard für KI-Managementsysteme und zum ISO/IEC-23894-Standard für KI-Risikomanagement bei. Die Behörde arbeitet auch mit dem National Cybersecurity Center of Excellence (NCOE) zusammen, um KI-Sicherheit in breitere Cybersicherheitspraktiken zu integrieren.
Die KI-Arbeit des NIST wird durch seine breitere Forschung in künstlicher Intelligenz und Deep Learning informiert. Das Information Technology Laboratory der Behörde betreibt Grundlagenforschung in Bereichen wie Computer Vision, Verarbeitung natürlicher Sprache und Robustheit von neuronalen Netzen. Diese Forschung fließt in die Entwicklung praktischer Richtlinien und Testmethoden ein.
Herausforderungen und zukünftige Richtungen
NIST AI steht vor anhaltenden Herausforderungen, mit dem rasanten technologischen Fortschritt Schritt zu halten. Der freiwillige Charakter des AI RMF bedeutet, dass die Übernahme nicht verpflichtend ist, obwohl Bundesbehörden zunehmend verpflichtet sind, sich daran auszurichten. Das NIST aktualisiert weiterhin seine Leitlinien, um aufkommende Themen wie KI-gestützte Cyberangriffe, Datenschutzrisiken und die Umweltauswirkungen des KI-Trainings zu adressieren. Ab 2025 entwickelt das NIST zusätzliche Profile für spezifische Sektoren, darunter Gesundheitswesen und Finanzen, und erweitert seine Testfähigkeiten für KI-Modelle an der Spitze der Entwicklung.
Die Arbeit der Behörde wird durch Kooperationen mit akademischen Einrichtungen wie MIT CSAIL und Stanford AI Lab sowie mit Industriepartnern ergänzt. Das NIST arbeitet auch mit internationalen Gremien zusammen, um KI-Sicherheitsstandards global zu harmonisieren, in der Erkenntnis, dass KI-Systeme oft grenzüberschreitend operieren.
Auswirkungen auf das KI-Ökosystem
Die NIST-AI-Rahmenwerke haben beeinflusst, wie Organisationen die KI-Governance angehen. Große Technologieunternehmen, darunter OpenAI, Anthropic und Google DeepMind, haben das AI RMF in ihren Sicherheitspraktiken referenziert. Das Rahmenwerk wurde auch von Regierungsbehörden und internationalen Partnern übernommen, wie dem KI-Gesetz der Europäischen Union, das auf ähnlichen risikobasierten Prinzipien beruht. Die Betonung messbarer, testbarer Kriterien durch das NIST hat dazu beigetragen, die KI-Industrie hin zu strengeren Bewertungspraktiken zu bewegen.
Trotz seines freiwilligen Charakters ist NIST AI zu einem De-facto-Referenzpunkt für KI-Sicherheitsdiskussionen in den Vereinigten Staaten und darüber hinaus geworden. Seine Veröffentlichungen werden in der akademischen Literatur und in Branchenberichten weithin zitiert, und seine Testprogramme bieten einen neutralen Boden für die Bewertung von KI-Systemen. Da sich die KI-Fähigkeiten weiterentwickeln, wird die Rolle des NIST bei der Definition von Sicherheitsstandards wahrscheinlich expandieren, insbesondere in Bereichen wie autonomen Systemen und KI-gesteuerter Entscheidungsfindung.