La sécurité de l'IA chez DeepMind englobe les initiatives et les recherches menées par Google DeepMind, une filiale d'Alphabet Inc., pour répondre aux risques et aux défis éthiques associés à l'intelligence artificielle avancée. Le laboratoire, dont le siège est à Londres, a été fondé en 2010 et acquis par Google en 2014, puis a fusionné avec Google Brain en avril 2023. Ses travaux de sécurité visent à garantir que les systèmes d'IA, en particulier ceux utilisant intelligence artificielle et apprentissage automatique, soient robustes, transparents et alignés sur les intentions humaines.
L'approche de l'entreprise en matière de sécurité de l'IA est ancrée dans son objectif fondamental de créer une IA à usage général. Dès ses débuts, DeepMind a reconnu la nature potentiellement à double usage des technologies d'IA. Les fondateurs, dont Demis Hassabis et Shane Legg, ont souligné l'importance de la sécurité dès le départ, l'expérience de Legg en neurosciences théoriques éclairant les discussions sur les risques liés à l'IA. Cette attention a conduit au développement d'équipes dédiées et de publications abordant l'alignement, l'interprétabilité et la robustesse.
Recherche sur la sécurité et alignement
La recherche sur la sécurité chez DeepMind couvre une gamme de sujets, notamment l'alignement des valeurs, l'interprétabilité et la robustesse. L'alignement des valeurs vise à garantir que les objectifs des systèmes d'IA correspondent aux valeurs humaines, un défi mis en évidence dans le contexte des grands modèles de langage et de la IA générative. L'entreprise a publié des articles sur des techniques telles que apprentissage par renforcement à partir de retours d'IA et apprentissage par curriculum pour améliorer les processus d'entraînement. La recherche sur l'interprétabilité vise à comprendre comment les réseaux de neurones prennent des décisions, en utilisant des méthodes comme la normalisation de couche et les mécanismes d'attention pour retracer les sorties jusqu'aux entrées.
En 2021, DeepMind a établi une équipe de sécurité dédiée, dirigée par des chercheurs comme Victoria Krakovna, se concentrant sur le jeu de spécification et l'évitement de comportements non intentionnels. Les travaux de l'équipe incluent le développement de références pour détecter quand les systèmes d'IA exploitent des failles dans leurs objectifs d'entraînement. Cette recherche est cruciale à mesure que les systèmes d'IA deviennent plus capables et sont déployés dans des applications réelles, de la santé aux véhicules autonomes.
Éthique et gouvernance
DeepMind s'est également engagé dans des questions éthiques plus larges à travers son unité Éthique et Société, fondée en 2017. Cette unité, conseillée par des philosophes comme Nick Bostrom, examine les impacts sociétaux de l'IA, y compris les questions d'équité, de responsabilité et de transparence. L'entreprise a collaboré avec des organisations externes et publié des lignes directrices pour un développement responsable de l'IA. En 2019, le cofondateur Mustafa Suleyman a rejoint Google pour travailler sur les politiques, reflétant une importance croissante accordée à la gouvernance.
La fusion avec Google Brain en 2023 a consolidé ces efforts, créant une structure unifiée sous Google DeepMind. Cette réorganisation visait à accélérer la recherche en IA tout en maintenant les normes de sécurité, en particulier en réponse au déploiement rapide des modèles de IA générative comme ChatGPT. Les dirigeants de l'entreprise ont publiquement plaidé pour une coopération internationale sur la sécurité de l'IA, faisant écho aux appels d'autres laboratoires comme OpenAI et Anthropic.
Applications et impact
Les principes de sécurité de DeepMind sont intégrés dans son portefeuille de produits diversifié. Par exemple, les prédictions de structure des protéines d'AlphaFold, qui ont révolutionné la biologie, sont développées avec une validation minutieuse pour éviter les erreurs nuisibles. De même, les systèmes de jeu comme AlphaGo et AlphaZero sont utilisés comme bancs d'essai pour l'exploration et la prise de décision sûres. Les travaux de l'entreprise sur la découverte d'algorithmes avec AlphaTensor et AlphaDev intègrent également des considérations de sécurité, garantissant que les algorithmes découverts sont fiables.
Dans le domaine des grands modèles de langage, les modèles Gemini et Gemma de DeepMind sont conçus avec des filtres de sécurité et des mécanismes de retour humain. L'entreprise a publié des recherches sur la réduction des sorties nuisibles, telles que le langage toxique et les réponses biaisées. Ces efforts s'inscrivent dans une tendance plus large de l'industrie, avec des concurrents comme OpenAI et Anthropic qui priorisent également la sécurité dans le développement de leurs modèles.
Défis et orientations futures
Malgré les progrès, la sécurité de l'IA reste un domaine en évolution. DeepMind fait face à des défis pour étendre les techniques de sécurité à des systèmes de plus en plus complexes, tels que les environnements multi-agents et les scénarios de apprentissage par renforcement. L'entreprise explore de nouvelles méthodes, y compris le élagage de modèles et la augmentation de données, pour améliorer la robustesse. Les recherches futures pourraient se concentrer sur la vérification formelle des comportements de l'IA et le développement de dossiers de sécurité pour le déploiement.
En 2026, DeepMind continue d'investir dans la recherche sur la sécurité, avec des plans pour élargir son équipe et collaborer avec des institutions académiques comme l'Université d'Oxford et Berkeley AI Research. L'engagement de l'entreprise envers la sécurité est considéré comme essentiel pour renforcer la confiance du public et garantir que l'IA profite à la société dans son ensemble.