Die Forschung zur KI-Sicherheit im Vereinigten Königreich umfasst die koordinierten Aktivitäten von Regierungsbehörden, Universitäten und privaten Laboren im Vereinigten Königreich, die sich dem Verständnis und der Minderung der Risiken widmen, die von fortschrittlichen Systemen der künstlichen Intelligenz ausgehen. Das Feld erlangte 2023 erhebliche öffentliche Aufmerksamkeit, als die britische Regierung den ersten globalen KI-Sicherheitsgipfel in Bletchley Park ausrichtete und anschließend das KI-Sicherheitsinstitut (AISI) als eigene staatlich geförderte Forschungseinrichtung gründete. Der Ansatz des Vereinigten Königreichs betont internationale Zusammenarbeit, technische Evaluierung und die Entwicklung von Sicherheitsstandards für Grenzmodelle, einschließlich solcher, die auf Architekturen großer Sprachmodelle und Transformer-Technologie basieren.
Die Forschung in diesem Bereich umfasst mehrere Disziplinen, darunter maschinelles Lernen-Robustheit, Interpretierbarkeit, Ausrichtung und die gesellschaftlichen Auswirkungen von generativer KI. Britische Einrichtungen wie die Universität Oxford und die Universität Cambridge (nicht in der Liste, aber bekannt) haben grundlegende Arbeit geleistet, während private Akteure wie Google DeepMind (mit Hauptsitz in London) und Anthropic (das 2023 ein britisches Büro eröffnete) mit Regierungsstellen bei Sicherheitsbewertungen zusammengearbeitet haben. Das Feld operiert an der Schnittstelle von technischer Informatik und öffentlicher Politik, mit einem Fokus auf die Verhinderung katastrophaler Ergebnisse zukünftiger Systeme.
Von der Regierung geleitete Initiativen
Das wichtigste Instrument der britischen Regierung für die KI-Sicherheitsforschung ist das KI-Sicherheitsinstitut, das im November 2023 mit einem Anfangsetat von 100 Millionen Pfund gestartet wurde. Das Mandat des Instituts umfasst die Prüfung von Grenzmodellen vor der Bereitstellung, die Entwicklung von Bewertungs-Benchmarks und die Veröffentlichung von Forschung zu systemischen Risiken. Im April 2024 veröffentlichte das Institut seinen ersten großen Bericht, "AI Safety Institute Approach to Evaluations", der Methoden zur Bewertung von Fähigkeiten in Bereichen wie Cyber-Offensive, biologischem Missbrauch und autonomer Replikation darlegte. Das Institut hat außerdem formelle Partnerschaften mit OpenAI, Anthropic und Google DeepMind geschlossen, die Forschern Zugang zu Modellen vor der Veröffentlichung für Tests gewähren.
Eine zweite Schlüsselinitiative ist die Frontier AI Taskforce, die 2023 unter dem Ministerium für Wissenschaft, Innovation und Technologie gegründet wurde. Die Taskforce, geleitet vom Tech-Unternehmer Ian Hogarth, wurde Anfang 2024 in das KI-Sicherheitsinstitut integriert. Das Vereinigte Königreich war im Mai 2024 außerdem Mitgastgeber des KI-Gipfels in Seoul mit Südkorea, bei dem die teilnehmenden Nationen zustimmten, Sicherheitsrahmen für Grenzmodelle zu veröffentlichen.
Akademische und Forschungsbeiträge
Britische Universitäten haben eine zentrale Rolle in der KI-Sicherheitsforschung gespielt. Das Future of Humanity Institute der Universität Oxford, 2005 vom Philosophen Nick Bostrom gegründet, hat einflussreiche Arbeiten zu existenziellen Risiken durch KI hervorgebracht, einschließlich des Buches "Superintelligence" von 2014. Das Centre for the Study of Existential Risk an der Universität Cambridge (nicht in der Liste) hat sich ebenfalls auf langfristige Risiken konzentriert. Im Jahr 2023 stellte UK Research and Innovation (UKRI) 31 Millionen Pfund bereit, um den UK Research and Innovation AI Safety Hub zu gründen, der interdisziplinäre Projekte an 12 Universitäten finanziert.
Technische Forschung aus britischen Laboren hat zu grundlegenden Sicherheitsmethoden beigetragen. Forscher bei Google DeepMind entwickelten die RLHF-Technik (Verstärkungslernen aus KI-Feedback), die die Ausrichtung verbessert, indem sie KI-generierte Kritiken anstelle menschlicher Labels verwendet. Arbeiten zu Modellbereinigung und Interpretierbarkeit an Einrichtungen wie dem Alan Turing Institute (mit Hauptsitz in London) haben untersucht, wie interne Repräsentationen in neuronalen Netzwerk-Modellen identifiziert und kontrolliert werden können.
Engagement des privaten Sektors
Mehrere große KI-Unternehmen haben Forschungsoperationen zur Sicherheit im Vereinigten Königreich etabliert. Google DeepMind, 2010 in London gegründet, behält dort seinen Hauptsitz und hat umfangreich zu Sicherheitsthemen veröffentlicht, einschließlich des Papiers "Concrete Problems in AI Safety" von 2016. Anthropic eröffnete 2023 ein Büro in London und hat mit dem KI-Sicherheitsinstitut bei Red-Teaming-Übungen zusammengearbeitet. OpenAI etablierte 2023 eine Präsenz in London und stellte ehemalige DeepMind-Forscher für sein Ausrichtungsteam ein.
Das Vereinigte Königreich hat auch Investitionen in KI-Infrastruktur angezogen, die die Sicherheitsforschung unterstützt. Arm Holdings, mit Hauptsitz in Cambridge, produziert Chips, die in KI-Trainingssystemen verwendet werden, während Graphcore, ein Halbleiterunternehmen aus Bristol, die Intelligence Processing Unit (IPU) entwickelte, die für Machine-Learning-Workloads ausgelegt ist. Diese Hardware-Entwicklungen ermöglichen ein effizienteres Training und eine effizientere Bewertung sicherheitskritischer Modelle.
Internationale Zusammenarbeit und Standards
Das Vereinigte Königreich hat sich als globaler Koordinator für die KI-Sicherheitsforschung positioniert. Die Bletchley-Erklärung, die von 28 Ländern beim Gipfel im November 2023 unterzeichnet wurde, verpflichtete die Unterzeichner auf gemeinsame Prinzipien für die sichere KI-Entwicklung. Das KI-Sicherheitsinstitut des Vereinigten Königreichs hat bilaterale Forschungspartnerschaften mit dem US-amerikanischen KI-Sicherheitsinstitut (2024 gegründet) und dem japanischen KI-Sicherheitsinstitut (2024 gegründet) etabliert. Im Februar 2025 kündigten das Vereinigte Königreich und die USA ein gemeinsames Forschungsprogramm zur Modellevaluierung an, das sich auf Multi-Head-Attention-Interpretierbarkeit und adversariale Robustheit konzentriert.
Das Vereinigte Königreich beteiligt sich auch am International AI Safety Report, einer gemeinsamen Anstrengung unter der Leitung des Turing-Preisträgers Yoshua Bengio (nicht in der Liste), die globale Forschungsergebnisse synthetisiert. Die erste Ausgabe, veröffentlicht im Januar 2025, enthielt Beiträge von 96 Experten aus 30 Ländern, wobei britische Forscher Kapitel zu Verlustfunktionen und Bewertungsmetriken beisteuerten.
Herausforderungen und zukünftige Richtungen
Trotz der Fortschritte steht die KI-Sicherheitsforschung im Vereinigten Königreich vor mehreren Herausforderungen. Das schnelle Tempo der Deep-Learning-Entwicklung bedeutet, dass Bewertungsmethoden oft hinter den Modellfähigkeiten zurückbleiben. Forscher haben Schwierigkeiten festgestellt, Sicherheitstests auf Systeme mit Billionen von Parametern zu skalieren, wie bei aktuellen Veröffentlichungen großer Sprachmodelle zu sehen ist. Das Feld ringt auch mit dem "Ausrichtungsproblem" - der Sicherstellung, dass KI-Systeme im Einklang mit menschlichen Werten handeln - das für allgemeine Agenten weiterhin ungelöst ist.
Zukünftige Richtungen umfassen erhöhte Mittel für Interpretierbarkeitsforschung, wobei das KI-Sicherheitsinstitut im März 2025 ein Förderprogramm über 10 Millionen Pfund für Projekte zu Layer-Normalisierungs-Dynamik und mechanistischer Interpretierbarkeit ankündigte. Die britische Regierung hat außerdem einen neuen AI Safety Act vorgeschlagen, der sich Mitte 2025 in parlamentarischer Prüfung befindet und Sicherheitstests für alle im Vereinigten Königreich eingesetzten Grenzmodelle vorschreiben würde. Das Ergebnis dieser Bemühungen wird wahrscheinlich sowohl die nationale Politik als auch globale Normen für die verantwortungsvolle KI-Entwicklung prägen.