La recherche sur la sécurité de l'IA au MIT fait référence aux efforts coordonnés au Massachusetts Institute of Technology pour étudier et atténuer les risques associés à l'intelligence artificielle. Ces efforts sont centrés sur le MIT AI Safety Hub, une initiative qui rassemble des chercheurs de tout l'institut pour aborder les défis techniques, éthiques et politiques posés par les systèmes d'IA avancés. Le hub s'appuie sur la longue histoire du MIT en informatique et en IA, remontant aux débuts de la recherche sur l'apprentissage automatique et les réseaux de neurones au MIT Computer Science and Artificial Intelligence Laboratory.
Le MIT AI Safety Hub a été établi pour consolider et étendre les travaux liés à la sécurité qui étaient auparavant dispersés entre les départements et les laboratoires. Il vise à développer des méthodes rigoureuses pour évaluer et contrôler les systèmes d'IA, en particulier les grands modèles de langage et autres technologies d'IA générative. Le hub sert également de point de contact pour les décideurs politiques et les partenaires industriels cherchant des conseils sur le déploiement sûr de l'IA.
Axes de recherche
La recherche au MIT AI Safety Hub couvre plusieurs domaines. Un fil majeur est la robustesse technique, y compris les travaux sur les exemples contradictoires, l'élagage de modèles et le clipping de gradient pour améliorer la fiabilité. Un autre est l'interprétabilité, avec des chercheurs étudiant les mécanismes d'attention multi-têtes et de encodage positionnel dans les modèles transformers pour comprendre comment ces systèmes prennent des décisions. Le hub étudie également l'alignement, en s'appuyant sur des techniques telles que le apprentissage par renforcement à partir de retours d'IA et l'apprentissage curriculaire pour orienter le comportement de l'IA vers des résultats souhaités.
Un projet notable consiste à tester les grands modèles de langage pour détecter des sorties nuisibles, en utilisant des benchmarks qui sondent les biais, les hallucinations et les instructions dangereuses. Les chercheurs du hub ont également exploré les implications sociétales de l'IA, y compris les perturbations économiques et la désinformation, en collaborant souvent avec des universitaires de la School of Humanities, Arts, and Social Sciences du MIT.
Programmes éducatifs
Le MIT a intégré la sécurité de l'IA dans son programme d'études. Le hub propose des cours et des séminaires ouverts aux étudiants de deuxième et troisième cycles, couvrant des sujets allant des fonctions de perte à l'éthique des systèmes autonomes. En 2024, le MIT a lancé un certificat d'études supérieures en sécurité de l'IA, le premier du genre, qui exige des cours dans les dimensions techniques et politiques. Le hub organise également une école d'été annuelle qui attire des participants du monde entier, avec des conférences données par des chercheurs de premier plan d'institutions comme le Stanford AI Lab et le Berkeley AI Research.
Des initiatives dirigées par des étudiants, telles que le MIT AI Safety Group, organisent des groupes de lecture et des hackathons, favorisant une communauté de pratique. Ces efforts ont produit plusieurs articles évalués par des pairs, y compris une étude de 2025 sur l'efficacité de l'échantillonnage top-p pour réduire la génération de textes nuisibles.
Engagement politique et industriel
Le MIT AI Safety Hub s'engage activement avec les décideurs politiques et l'industrie. Des membres du corps professoral ont témoigné devant des comités du Congrès américain sur la réglementation de l'IA, et le hub a soumis des recommandations à des agences fédérales. Il collabore également avec des entreprises comme OpenAI, Anthropic et Google DeepMind sur des recherches partagées en matière de sécurité, tout en maintenant une indépendance académique. En 2025, le hub a lancé un consortium avec Amazon Web Services et Microsoft Azure pour développer des benchmarks de sécurité standardisés pour les services d'IA basés sur le cloud.
Ces partenariats ont conduit à des outils pratiques, tels qu'une bibliothèque open-source pour détecter les artefacts d'augmentation de données qui pourraient provoquer une dérive du modèle. Le travail politique du hub met l'accent sur la nécessité d'une gouvernance adaptative, compte tenu du rythme rapide du développement de l'IA.
Personnalités notables et histoire
Les efforts de sécurité de l'IA au MIT s'appuient sur des décennies de travaux antérieurs. Les premières contributions proviennent de chercheurs comme Aleksander Madry, qui a étudié la robustesse aux attaques adverses, et Joshua Tenenbaum, dont les travaux sur l'apprentissage de type humain informent la recherche en sécurité. La direction actuelle du hub comprend des membres du corps professoral du MIT CSAIL et du Département de génie électrique et d'informatique. En 2023, le hub a reçu une subvention de 10 millions de dollars d'un donateur anonyme pour financer des bourses doctorales en sécurité de l'IA.
L'engagement institutionnel du MIT en faveur de l'innovation responsable remonte à ses principes fondateurs, mais le programme formel de sécurité de l'IA a émergé à la fin des années 2010 à mesure que les préoccupations concernant les systèmes d'apprentissage profond grandissaient. Le hub a été officiellement lancé en 2024, consolidant les efforts existants et leur donnant une identité unifiée. En 2025, il comprend plus de 50 membres du corps professoral et 120 étudiants diplômés, ce qui en fait l'un des plus grands groupes académiques de sécurité de l'IA au monde.
Orientations futures
À l'avenir, le MIT AI Safety Hub prévoit de s'étendre à des domaines tels que la vérification des réseaux de neurones et la sécurité des agents d'apprentissage par renforcement dans des environnements réels. Il développe également des outils pour auditer les systèmes basés sur transformers déployés dans les secteurs de la santé et des transports, où les défaillances pourraient avoir des conséquences graves. Le hub vise à publier un cadre de sécurité complet d'ici 2026, destiné à servir de référence tant pour le monde académique que pour l'industrie.
La situation du MIT à Cambridge, dans le Massachusetts, et son histoire de collaboration interdisciplinaire le positionnent bien pour diriger ces efforts. Le travail du hub devrait influencer non seulement les normes techniques, mais aussi le discours public sur la manière dont la société devrait gérer les risques et les avantages de l'intelligence artificielle.