Der Internationale KI-Sicherheitsbericht ist eine wegweisende wissenschaftliche Bewertung der Risiken, die mit fortgeschrittener künstlicher Intelligenz verbunden sind. Der Bericht wurde von einer Koalition aus Regierungen und internationalen Organisationen in Auftrag gegeben und erstmals 2025 veröffentlicht. Damit wurde zum ersten Mal eine globale Gruppe von Experten systematisch die Gefahren von KI für politische Entscheidungsträger evaluierte. Sein Hauptzweck besteht darin, eine rigorose, evidenzbasierte Grundlage für nationale und internationale KI-Regulierungen zu schaffen und die Kluft zwischen schnell fortschreitenden technologischen Entwicklungen und langsameren legislativen Prozessen zu überbrücken.
Der Bericht bündelt Erkenntnisse eines vielfältigen internationalen Gremiums aus Wissenschaftlern und Ingenieuren und deckt Bedrohungen ab, die von unmittelbaren algorithmischen Schäden bis zu längerfristigen existenziellen Bedenken reichen. Er befürwortet keine spezifischen Politiken, sondern zielt darauf ab, eine gemeinsame faktische Basis zu etablieren, auf die Regierungen und Unternehmen Bezug nehmen können. Zum Zeitpunkt seiner Erstveröffentlichung wurde der Bericht als die bislang umfangreichste globale Anstrengung zur Kodifizierung von KI-Risiken beschrieben, obwohl die Autoren anerkennen, dass sich das Feld so schnell entwickelt, dass regelmäßige Aktualisierungen notwendig sind.
Umfang und Risikotaxonomie
Der Bericht organisiert KI-Risiken in drei zeitliche Kategorien: aktuelle oder kurzfristige Risiken, Risiken durch mittlere Fähigkeiten und Risiken durch fortgeschrittene zukünftige Systeme. Kurzfristige Bedenken umfassen Verzerrungen in Machine learning-Systemen, Datenschutzverletzungen, Fehlinformationserzeugung, Cybersicherheitslücken und Arbeitsplatzverdrängung. Mittlere Risiken decken Themen wie die Verbreitung von Manipulation durch Large language model ab. Langfristige Risiken konzentrieren sich auf die Möglichkeit des Verlusts menschlicher Kontrolle über Artificial intelligence-Systeme mit übermenschlichen Fähigkeiten. Der Bericht vermeidet bewusst die Zuweisung von Wahrscheinlichkeiten für ferne Zukünfte und verweist auf den hohen Grad an Unsicherheit.
Methodik und Expertenbeiträge
Der Entwurfsprozess stützte sich auf ein Gremium von über 100 Experten aus Wissenschaft und Industrie, koordiniert durch ein zwischenstaatliches Sekretariat, das im Rahmen des KI-Sicherheitsgipfels des Vereinigten Königreichs eingerichtet wurde. Zu den bemerkenswerten Beitragenden gehörten Forscher von University of Oxford, BAIR (Berkeley AI Research), MIT CSAIL und Stanford AI Lab sowie Vertreter großer Entwickler wie OpenAI, Anthropic und Google DeepMind. Der Bericht verwendete einen strukturierten Expertenbefragungsansatz, der Literaturübersichten mit anonymen Umfragen kombinierte, um einen Konsens zu ermitteln. Er betonte Transparenz: Alle Erkenntnisse werden zitierten Studien zugeordnet, und abweichende Meinungen werden dort vermerkt, wo erhebliche Uneinigkeit besteht.
Wichtige Erkenntnisse zu technischen Risiken
Ein zentrales Kapitel analysiert die Zuverlässigkeit aktueller Systeme und stellt fest, dass Neural network-Modelle trotz ihrer Leistungsfähigkeit Sprödigkeit aufweisen. Beispiele umfassen Fehlklassifikationen von Bildern unter adversarischen Störungen und Halluzinationen in Transformer (architecture)-basierten Sprachmodellen. Der Bericht hebt die Schwierigkeit hervor, KI-Verhalten zu verifizieren, insbesondere in Deep learning-Systemen, in denen die interne Argumentation undurchsichtig ist. Er empfiehlt verbesserte Bewertungsrahmen, wie standardisierte Stresstests für Generative AI, und betont die Bedeutung von Model Pruning und Data Augmentation als teilweise Minderungsmaßnahmen. Die Autoren warnen jedoch, dass technische Lösungen allein ohne externe Prüfung unzureichend sind.
Geopolitische und wirtschaftliche Dimensionen
Der Bericht unterstreicht, dass die KI-Entwicklung auf eine Handvoll Unternehmen konzentriert ist, darunter Google Cloud, Microsoft Azure und Amazon Web Services, was Bedenken hinsichtlich Marktkonzentration und Interoperabilität aufwirft. Er stellt fest, dass die meiste Spitzenforschung in den USA, China und dem Vereinigten Königreich stattfindet, während Länder wie Indien und Japan ihre Investitionen erhöhen. Das TSMC-Fertigungsökosystem, das Chips für das KI-Training produziert, wird als kritischer Engpass identifiziert. Der Bericht empfiehlt internationale Zusammenarbeit bei Exportkontrollen und gemeinsamen Sicherheitsbenchmarks, erkennt jedoch die geopolitischen Spannungen an, die solche Vereinbarungen erschweren.
Rezeption und politische Auswirkungen
Die ersten Reaktionen auf den Bericht waren gemischt. Einige politische Entscheidungsträger lobten seinen ausgewogenen Ton und seine Breite, während Kritiker argumentierten, dass er dringende Risiken wie Wahlbeeinflussung unterbewerte. Bis Ende 2025 hatten mehrere Nationen, darunter Kanada und Singapur, den Bericht in Gesetzesentwürfen referenziert. Das KI-Gesetz der Europäischen Union integriert mehrere seiner empfohlenen Bewertungsverfahren. Die Reaktionen des privaten Sektors waren unterschiedlich: Apple und Samsung Electronics verpflichteten sich öffentlich zu jährlichen Selbsteinschätzungen, die mit den Kategorien des Berichts übereinstimmen, während einige Startups ihn als übermäßig belastend bezeichneten.
Einschränkungen und zukünftige Überarbeitungen
Die Autoren räumen ein, dass der Bericht Lücken aufweist. Er deckt hauptsächlich englischsprachige Forschung ab und unterrepräsentiert nicht-westliche Wissenschaft. Seine Risikotaxonomie behandelt KI als monolithische Technologie, obwohl Werkzeuge wie Reinforcement-Learning-from-Human-Feedback und Diffusion Models unterschiedliche Fehlermodi haben. Eine zweite Ausgabe wird für 2028 erwartet, mit Plänen, mehr Beiträge von Zivilgesellschaft und Gewerkschaften einzubeziehen. Der Bericht fordert auch die Einrichtung eines unabhängigen ständigen Gremiums zur Überwachung der KI-Sicherheit, ein Vorschlag, der zum Zeitpunkt dieses Schreibens noch in Verhandlung steht.