Die US-KI-Sicherheit umfasst die politischen Maßnahmen, Institutionen und technischen Programme, mit denen die Regierung der Vereinigten Staaten versucht, potenzielle Schäden durch künstliche Intelligenz zu verstehen und zu verringern. Diese Bemühungen haben sich intensiviert, da fortschrittliche maschinelle Lernsysteme, einschließlich großer Sprachmodelle und generativer KI-Werkzeuge, leistungsfähiger und breiter eingesetzt werden. Der Ansatz kombiniert freiwillige Branchenzusagen, föderale Forschung und Bewertung sowie regulatorische Leitlinien, wobei sowohl kurzfristige Risiken wie Verzerrungen und Missbrauch als auch längerfristige Bedenken hinsichtlich autonomer Systeme im Fokus stehen.
Föderale Koordination und Institute
Ein zentrales Element der US-KI-Sicherheit ist das US-amerikanische KI-Sicherheitsinstitut (AISI), das 2023 im National Institute of Standards and Technology (NIST) eingerichtet wurde. Das AISI führt Tests und Bewertungen von KI-Modellen an der Spitze der Entwicklung durch, entwickelt Sicherheitsrichtlinien und arbeitet mit internationalen Partnern zusammen. Es ging aus der Executive Order der Biden-Regierung vom Oktober 2023 zur sicheren, geschützten und vertrauenswürdigen Entwicklung und Nutzung künstlicher Intelligenz hervor, die das NIST zur Gründung des Instituts anwies. Die Anordnung verlangte außerdem Risikobewertungen für kritische Infrastrukturen und forderte Entwickler der leistungsfähigsten Modelle auf, Sicherheitstestergebnisse mit der Regierung zu teilen.
Zusätzlich zum AISI richtete das Weiße Haus die KI-Taskforce und später das KI-Sicherheits- und -Schutzgremium unter dem Ministerium für Innere Sicherheit ein. Diese Gremien bringen Beamte von Behörden wie dem Verteidigungsministerium, dem Energieministerium und der National Science Foundation zusammen. Ihre Arbeit umfasst die Bewertung von KI-Anwendungen in Sektoren wie Energie, Gesundheitswesen und Verkehr sowie die Sicherstellung, dass die föderale Beschaffung von KI-Systemen Sicherheitsstandards erfüllt.
Freiwillige Zusagen und Branchenengagement
Die US-Regierung hat stark auf freiwillige Vereinbarungen mit großen KI-Entwicklern gesetzt. Im Juli 2023 sicherte sich das Weiße Haus Zusagen von führenden Unternehmen, darunter OpenAI, Anthropic, Google DeepMind und anderen, um externe Red-Team-Tests durchzuführen, KI-generierte Inhalte zu kennzeichnen und Informationen über Sicherheitsvorfälle auszutauschen. Diesen Zusagen folgten 2024 umfassendere Verpflichtungen, die Themen wie die Modellbewertung vor der Veröffentlichung und Investitionen in Cybersicherheitsmaßnahmen abdeckten.
Obwohl diese Vereinbarungen nicht rechtlich bindend sind, haben sie die Branchenpraxis geprägt. Das AISI hat auch direkt mit Unternehmen zusammengearbeitet, um Vorab-Bewertungen von Modellen an der Spitze der Entwicklung durchzuführen, wobei Ergebnisse manchmal in Sicherheitsberichten veröffentlicht wurden. Dieses kollaborative Modell zielt darauf ab, Innovation und Aufsicht in Einklang zu bringen, obwohl Kritiker argumentieren, dass freiwillige Maßnahmen keine Durchsetzungsmechanismen bieten.
Technische Forschung und Bewertung
Die US-KI-Sicherheit umfasst erhebliche Investitionen in technische Forschung, um die Modellsicherheit zu messen und zu verbessern. Das NIST hat das KI-Risikomanagement-Framework entwickelt, einen Satz freiwilliger Leitlinien zur Identifizierung und Bewältigung von KI-Risiken. Die Testprotokolle des AISI decken Bereiche wie die Erzeugung schädlicher Inhalte, Verzerrungen und das Potenzial von Modellen ab, bei Cyberangriffen oder der Herstellung biologischer Waffen zu helfen.
Bundesbehörden finanzieren auch akademische Forschung zu KI-Sicherheitsthemen wie Interpretierbarkeit, Robustheit und Ausrichtung. Die National Science Foundation hat Programme gestartet, die Studien zu den gesellschaftlichen Auswirkungen von KI unterstützen, während die Defense Advanced Research Projects Agency (DARPA) Methoden zur Verifizierung und Validierung von KI-Systemen untersucht hat. Diese Bemühungen zielen darauf ab, Werkzeuge zu schaffen, die erkennen können, wenn Modelle sich unvorhersehbar verhalten oder von ihren beabsichtigten Zwecken abweichen.
Gesetzgebungs- und Regulierungslandschaft
Die US-KI-Sicherheit hat sich durch eine Mischung aus exekutiven Maßnahmen und vorgeschlagener Gesetzgebung entwickelt. Bis 2025 hat der Kongress keine umfassende KI-Sicherheitsgesetzgebung verabschiedet, aber mehrere Gesetzesentwürfe wurden eingebracht. Dazu gehören Vorschläge zur Einführung von Folgenabschätzungen für KI-Anwendungen mit hohem Risiko, zur Schaffung einer föderalen KI-Aufsichtsbehörde und zur Pflicht zur Offenlegung von Trainingsdaten. Initiativen auf Bundesstaatsebene, insbesondere in Kalifornien und Colorado, haben ebenfalls Anforderungen an Transparenz und Risikomanagement eingeführt, obwohl diese erheblich variieren.
Regulierungsbehörden haben im Rahmen bestehender Befugnisse gehandelt. Die Federal Trade Commission hat irreführende KI-Praktiken untersucht, die Equal Employment Opportunity Commission hat Leitlinien zu algorithmischer Einstellung herausgegeben, und das Consumer Financial Protection Bureau hat sich mit KI bei der Kreditvergabe befasst. Diese Maßnahmen spiegeln einen sektoralen Ansatz wider und keine einheitliche föderale Gesetzgebung.
Internationale Zusammenarbeit und Herausforderungen
Die US-KI-Sicherheitsbemühungen sind eng mit internationaler Zusammenarbeit verbunden. Die USA nehmen am Internationalen Netzwerk der KI-Sicherheitsinstitute teil, einer 2024 gegründeten Koalition, die das Vereinigte Königreich, die Europäische Union und andere Nationen umfasst. Dieses Netzwerk erleichtert gemeinsame Testübungen und den Austausch bewährter Verfahren. Die USA haben sich auch in multilateralen Foren wie der G7 und den Vereinten Nationen engagiert und für gemeinsame Sicherheitsprinzipien geworben.
Die Herausforderungen bleiben erheblich. Das schnelle Tempo der KI-Entwicklung überholt oft regulatorische Prozesse, und die dezentrale Natur der US-Regierungsführung bedeutet, dass föderale Leitlinien möglicherweise nicht für alle Akteure gelten. Darüber hinaus gibt es eine anhaltende Debatte darüber, wie 'Sicherheit' für Systeme definiert und gemessen werden kann, die sich durch Deep Learning und Verstärkungslernen weiterentwickeln können. Bis 2025 verfeinern die USA weiterhin ihren Ansatz, um die Förderung von KI-Innovation mit dem Gebot zum Schutz des öffentlichen Wohls in Einklang zu bringen.