MITRE AI est la branche de recherche et développement en intelligence artificielle de The MITRE Corporation, une organisation américaine à but non lucratif dont le siège est réparti entre Bedford, dans le Massachusetts, et McLean, en Virginie. MITRE gère des centres de recherche et développement financés par le gouvernement fédéral (FFRDC) qui soutiennent les agences gouvernementales américaines dans les domaines de l'aviation, de la défense, de la santé, de la sécurité intérieure et de la cybersécurité. MITRE AI s'appuie sur l'expertise en ingénierie et en systèmes de l'organisation plus large pour faire progresser les technologies d'IA et leur application à des missions d'intérêt public.
La Mitre Corporation a été créée en 1958 comme groupe de réflexion militaire, issu de la recherche sur les radars et les ordinateurs au MIT Lincoln Laboratory. Ses premiers travaux comprenaient le système de défense aérienne Semi-Automatic Ground Environment (SAGE). Au cours des décennies suivantes, MITRE a diversifié son portefeuille de recherche, et dans les années 1990, elle a scindé ses projets civils dans une entité distincte, désormais connue sous le nom de Noblis. MITRE AI opère dans cet héritage, en se concentrant sur la recherche en IA qui soutient la sécurité nationale et les services publics.
Recherche et programmes en IA
MITRE AI mène des recherches dans un large éventail de domaines de l'IA, notamment les systèmes d'apprentissage automatique, apprentissage profond, réseaux neuronaux et modèles de langage de grande taille. L'organisation applique ces technologies à des défis dans la cybersécurité, la défense, la santé et l'aviation. Par exemple, les travaux de MITRE sur l'IA générative comprennent le développement de méthodes pour évaluer et atténuer les risques associés aux contenus générés par l'IA. MITRE collabore également avec des institutions académiques et des partenaires industriels, tels que le MIT CSAIL et le laboratoire d'IA de Stanford, pour faire progresser l'état de l'art en IA.
Une initiative notable est le cadre MITRE ATT&CK, qui, bien que n'étant pas exclusivement axé sur l'IA, intègre la détection et la réponse aux menaces pilotées par l'IA. MITRE AI contribue également au développement de méthodologies d'assurance et d'évaluation de l'IA, aidant les agences gouvernementales à comprendre les capacités et les limites des systèmes d'IA.
Centres de recherche et développement financés par le gouvernement fédéral
MITRE AI opère au sein de plusieurs des six FFRDC de MITRE. Le National Security Engineering Center aborde les questions de sécurité nationale pour le Département de la Défense, y compris les systèmes de commandement et de contrôle activés par l'IA. Le Center for Advanced Aviation System Development (CAASD) soutient la Federal Aviation Administration, en appliquant l'IA à la gestion du trafic aérien et à la sécurité aérienne. Le Center for Enterprise Modernization, créé en 1998, se concentre sur la modernisation des systèmes informatiques gouvernementaux, avec un rôle croissant de l'IA dans l'automatisation et l'analyse de données. Le Homeland Security Systems Engineering and Development Institute (HSSEDI) travaille sur des projets de cybersécurité et d'IA pour le Département de la Sécurité intérieure, comme l'identification de vulnérabilités logicielles courantes. Le CMS Alliance to Modernize Healthcare, créé en 2012, applique l'IA à la prestation de soins de santé et aux politiques.
IA pour la cybersécurité
MITRE AI est particulièrement connu pour ses contributions à la cybersécurité. L'organisation développe des outils basés sur l'IA pour la détection des menaces, l'analyse des vulnérabilités et la réponse aux incidents. L'Adversary Emulation Library, lancée en 2020, fournit des plans d'émulation téléchargeables pour les adversaires cybernétiques, y compris des scénarios d'attaque améliorés par l'IA. MITRE maintient également la base de connaissances ATT&CK, qui catalogue les tactiques et techniques des adversaires, et a publié des plans d'émulation pour des groupes de menaces persistantes avancées tels que APT3 et APT29. Ces efforts aident les partenaires gouvernementaux et industriels à se défendre contre les menaces cybernétiques pilotées par l'IA.
Collaborations et partenariats
MITRE AI collabore avec un large éventail de partenaires, y compris des entreprises technologiques comme OpenAI, Anthropic et Google DeepMind, ainsi que des fournisseurs de cloud tels que Amazon Web Services, Azure et Google Cloud. Ces collaborations se concentrent sur l'évaluation des systèmes d'IA, le partage des meilleures pratiques et le développement de normes pour la sécurité et la fiabilité de l'IA. MITRE s'associe également à des institutions académiques, notamment l'Université Carnegie Mellon et Berkeley AI Research, pour mener des recherches fondamentales en IA.
En 2019, MITRE a lancé MITRE Engenuity, une fondation à but non lucratif qui collabore avec le secteur privé sur des défis à l'échelle de l'industrie, y compris la cybersécurité liée à l'IA. Le Center for Threat-Informed Defense d'Engenuity compte des organisations membres telles que Fujitsu et Microsoft, et a développé des ressources comme l'Adversary Emulation Library.
Impact et orientations futures
Le travail de MITRE AI a un impact significatif sur les opérations du gouvernement américain, de la défense à la santé. Alors que les technologies d'IA évoluent, MITRE AI se concentre sur la garantie que les systèmes d'IA sont fiables, sécurisés et alignés sur les intérêts publics. L'organisation explore des domaines tels que l'IA explicable, la gouvernance de l'IA et l'intégration de l'IA avec l'informatique quantique et l'informatique de périphérie. MITRE AI contribue également aux discussions politiques sur l'éthique et la réglementation de l'IA, contribuant à façonner le développement et le déploiement responsables de l'IA.
En 2023, MITRE AI continue d'étendre ses capacités de recherche, avec un accent croissant sur l'évaluation des modèles de langage de grande taille et la robustesse adversarial. Le double rôle de l'organisation en tant que conseiller gouvernemental et entité de recherche indépendante la positionne pour influencer l'avenir de l'IA dans le secteur public.