La recherche britannique sur la sécurité de l'IA englobe les activités coordonnées des agences gouvernementales, des universités et des laboratoires privés au Royaume-Uni, dédiées à la compréhension et à l'atténuation des risques posés par les systèmes avancés d'intelligence artificielle. Ce domaine a gagné une importance publique significative en 2023, lorsque le gouvernement britannique a accueilli le premier sommet mondial sur la sécurité de l'IA à Bletchley Park et a ensuite créé l'Institut de sécurité de l'IA (AISI) en tant qu'organisme de recherche dédié soutenu par l'État. L'approche du Royaume-Uni a mis l'accent sur la collaboration internationale, l'évaluation technique et le développement de normes de sécurité pour les modèles frontières, y compris ceux construits sur des architectures de grand modèle de langage et la technologie transformeur.
La recherche dans ce domaine couvre plusieurs disciplines, notamment la robustesse de l'apprentissage automatique, l'interprétabilité, l'alignement et les impacts sociétaux de l'IA générative. Des institutions britanniques telles que l'université d'Oxford et l'université de Cambridge (non répertoriée, mais connue) ont contribué à des travaux fondamentaux, tandis que des entités du secteur privé comme Google DeepMind (dont le siège est à Londres) et Anthropic (qui a ouvert un bureau au Royaume-Uni en 2023) ont collaboré avec des organismes gouvernementaux sur des évaluations de sécurité. Le domaine opère à l'intersection de l'informatique technique et des politiques publiques, avec un accent sur la prévention de résultats catastrophiques de futurs systèmes.
Initiatives gouvernementales
Le principal véhicule du gouvernement britannique pour la recherche sur la sécurité de l'IA est l'Institut de sécurité de l'IA, lancé en novembre 2023 avec un budget initial de 100 millions de livres sterling. Le mandat de l'institut comprend des tests pré-déploiement des modèles frontières, le développement de références d'évaluation et la publication de recherches sur les risques systémiques. En avril 2024, l'institut a publié son premier rapport majeur, « Approche de l'Institut de sécurité de l'IA en matière d'évaluations », qui a décrit des méthodologies pour évaluer les capacités dans des domaines tels que la cyber-offensive, l'utilisation abusive biologique et la réplication autonome. L'institut a également établi des partenariats formels avec OpenAI, Anthropic et Google DeepMind, accordant aux chercheurs un accès aux modèles pré-version pour les tests.
Une deuxième initiative clé est la Force opérationnelle sur l'IA frontière, créée en 2023 sous le département de la Science, de l'Innovation et de la Technologie. La force opérationnelle, dirigée par l'entrepreneur technologique Ian Hogarth, a été absorbée par l'Institut de sécurité de l'IA au début de 2024. Le Royaume-Uni a également co-organisé le sommet de l'IA de Séoul en mai 2024 avec la Corée du Sud, où les nations participantes ont convenu de publier des cadres de sécurité pour les modèles frontières.
Contributions académiques et de recherche
Les universités britanniques ont joué un rôle central dans la recherche sur la sécurité de l'IA. L'université d'Oxford's Future of Humanity Institute, fondé par le philosophe Nick Bostrom en 2005, a produit des travaux influents sur le risque existentiel lié à l'IA, y compris le livre « Superintelligence » de 2014. Le Centre pour l'étude du risque existentiel à l'université de Cambridge (non répertoriée) s'est également concentré sur les risques à long terme. En 2023, UK Research and Innovation (UKRI) a alloué 31 millions de livres sterling pour établir le pôle de sécurité de l'IA de UK Research and Innovation, qui finance des projets interdisciplinaires dans 12 universités.
Les recherches techniques des laboratoires britanniques ont contribué aux méthodes de sécurité fondamentales. Les chercheurs de Google DeepMind ont développé la technique apprentissage par renforcement à partir de retours d'IA (reinforcement learning from AI feedback), qui améliore l'alignement en utilisant des critiques générées par l'IA plutôt que des étiquettes humaines. Les travaux sur le élagage de modèles et l'interprétabilité dans des institutions comme l'Institut Alan Turing (dont le siège est à Londres) ont exploré comment identifier et contrôler les représentations internes dans les modèles de réseau neuronal.
Engagement du secteur privé
Plusieurs grandes entreprises d'IA ont établi des opérations de recherche sur la sécurité au Royaume-Uni. Google DeepMind, fondée à Londres en 2010, y maintient son siège social et a publié de nombreux travaux sur les sujets de sécurité, y compris l'article de 2016 « Problèmes concrets dans la sécurité de l'IA ». Anthropic a ouvert un bureau à Londres en 2023 et a collaboré avec l'Institut de sécurité de l'IA sur des exercices de red-teaming. OpenAI a établi une présence à Londres en 2023, embauchant d'anciens chercheurs de DeepMind pour son équipe d'alignement.
Le Royaume-Uni a également attiré des investissements dans les infrastructures d'IA qui soutiennent la recherche sur la sécurité. Arm Holdings, dont le siège est à Cambridge, produit des puces utilisées dans les systèmes d'entraînement de l'IA, tandis que Graphcore, une entreprise de semi-conducteurs basée à Bristol, a développé l'unité de traitement de l'intelligence (IPU) conçue pour les charges de travail d'apprentissage automatique. Ces développements matériels permettent un entraînement et une évaluation plus efficaces des modèles critiques pour la sécurité.
Collaboration internationale et normes
Le Royaume-Uni s'est positionné comme un coordinateur mondial pour la recherche sur la sécurité de l'IA. La déclaration de Bletchley, signée par 28 pays lors du sommet de novembre 2023, a engagé les signataires à des principes communs pour un développement sûr de l'IA. L'Institut de sécurité de l'IA du Royaume-Uni a établi des partenariats de recherche bilatéraux avec l'Institut de sécurité de l'IA des États-Unis (créé en 2024) et l'Institut de sécurité de l'IA du Japon (établi en 2024). En février 2025, le Royaume-Uni et les États-Unis ont annoncé un programme de recherche conjoint sur les évaluations de modèles, se concentrant sur l'interprétabilité de l'attention multi-têtes et la robustesse adversarial.
Le Royaume-Uni participe également au rapport international sur la sécurité de l'IA, un effort collaboratif dirigé par le lauréat du prix Turing Yoshua Bengio (non répertorié) qui synthétise les résultats de recherche mondiaux. La première édition, publiée en janvier 2025, comprenait des contributions de 96 experts de 30 pays, avec des chercheurs britanniques contribuant des chapitres sur les fonctions de perte et les métriques d'évaluation.
Défis et orientations futures
Malgré les progrès, la recherche britannique sur la sécurité de l'IA fait face à plusieurs défis. Le rythme rapide des avancées en apprentissage profond signifie que les méthodes d'évaluation sont souvent en retard sur les capacités des modèles. Les chercheurs ont noté des difficultés à étendre les tests de sécurité à des systèmes avec des billions de paramètres, comme on le voit dans les récentes versions de grands modèles de langage. Le domaine est également confronté au « problème d'alignement » - garantir que les systèmes d'IA agissent conformément aux valeurs humaines - qui reste non résolu pour les agents à usage général.
Les orientations futures incluent un financement accru pour la recherche sur l'interprétabilité, avec l'Institut de sécurité de l'IA annonçant un programme de subventions de 10 millions de livres sterling en mars 2025 pour des projets sur la dynamique de la normalisation de couche et l'interprétabilité mécaniste. Le gouvernement britannique a également proposé une nouvelle loi sur la sécurité de l'IA, actuellement en examen parlementaire à la mi-2025, qui imposerait des tests de sécurité pour tous les modèles frontières déployés au Royaume-Uni. Le résultat de ces efforts façonnera probablement à la fois la politique nationale et les normes mondiales pour un développement responsable de l'IA.