MITRE AI es el brazo de investigación y desarrollo en inteligencia artificial de The MITRE Corporation, una organización estadounidense sin fines de lucro con sedes duales en Bedford, Massachusetts, y McLean, Virginia. MITRE gestiona centros de investigación y desarrollo financiados por el gobierno federal (FFRDC) que apoyan a agencias gubernamentales de EE. UU. en aviación, defensa, atención médica, seguridad nacional y ciberseguridad. MITRE AI aprovecha la experiencia en ingeniería y sistemas de la organización en general para avanzar en tecnologías de IA y su aplicación a misiones de interés público.
The Mitre Corporation se formó en 1958 como un grupo de expertos militares, derivado de la investigación en radar y computación en el MIT Lincoln Laboratory. Su trabajo temprano incluyó el sistema de defensa aérea Semi-Automatic Ground Environment (SAGE). En décadas posteriores, MITRE diversificó su cartera de investigación, y en la década de 1990 separó proyectos civiles en una entidad distinta, ahora conocida como Noblis. MITRE AI opera dentro de este legado, enfocándose en investigación de IA que respalda la seguridad nacional y los servicios públicos.
Investigación y Programas de IA
MITRE AI lleva a cabo investigación en un amplio espectro de campos de IA, incluyendo aprendizaje automático, aprendizaje profundo, red neuronal y sistemas de modelo de lenguaje grande. La organización aplica estas tecnologías a desafíos en ciberseguridad, defensa, atención médica y aviación. Por ejemplo, el trabajo de MITRE sobre IA generativa incluye el desarrollo de métodos para evaluar y mitigar riesgos asociados con contenido generado por IA. MITRE también colabora con instituciones académicas y socios industriales, como MIT CSAIL y Stanford AI Lab, para avanzar el estado del arte en IA.
Una iniciativa notable es el marco MITRE ATT&CK, que, aunque no está exclusivamente enfocado en IA, incorpora detección y respuesta a amenazas impulsadas por IA. MITRE AI también contribuye al desarrollo de metodologías de garantía y evaluación de IA, ayudando a agencias gubernamentales a comprender las capacidades y limitaciones de los sistemas de IA.
Centros de Investigación y Desarrollo Financiados por el Gobierno Federal
MITRE AI opera dentro de varios de los seis FFRDC de MITRE. El Centro Nacional de Ingeniería de Seguridad aborda problemas de seguridad nacional para el Departamento de Defensa, incluidos sistemas de comando y control habilitados por IA. El Centro para el Desarrollo Avanzado de Sistemas de Aviación (CAASD) apoya a la Administración Federal de Aviación, aplicando IA a la gestión del tráfico aéreo y la seguridad de la aviación. El Centro para la Modernización Empresarial, establecido en 1998, se centra en modernizar sistemas de TI gubernamentales, con un papel creciente de la IA en la automatización y el análisis de datos. El Instituto de Ingeniería y Desarrollo de Sistemas de Seguridad Nacional (HSSEDI) trabaja en proyectos de ciberseguridad y relacionados con IA para el Departamento de Seguridad Nacional, como la identificación de vulnerabilidades comunes de software. La Alianza CMS para Modernizar la Atención Médica, establecida en 2012, aplica IA a la prestación y políticas de atención médica.
IA para Ciberseguridad
MITRE AI es particularmente conocido por sus contribuciones a la ciberseguridad. La organización desarrolla herramientas basadas en IA para detección de amenazas, análisis de vulnerabilidades y respuesta a incidentes. La Biblioteca de Emulación de Adversarios, lanzada en 2020, proporciona planes de emulación descargables para ciberadversarios, incluidos escenarios de ataque mejorados con IA. MITRE también mantiene la base de conocimiento ATT&CK, que cataloga tácticas y técnicas de adversarios, y ha publicado planes de emulación para grupos de amenazas persistentes avanzadas como APT3 y APT29. Estos esfuerzos ayudan a socios gubernamentales e industriales a defenderse contra amenazas cibernéticas impulsadas por IA.
Colaboraciones y Asociaciones
MITRE AI colabora con una amplia gama de socios, incluidas empresas de tecnología como OpenAI, Anthropic y Google DeepMind, así como proveedores de nube como Amazon Web Services, Azure y Google Cloud. Estas colaboraciones se centran en evaluar sistemas de IA, compartir mejores prácticas y desarrollar estándares para la seguridad y confiabilidad de la IA. MITRE también se asocia con instituciones académicas, incluidos Carnegie Mellon University y Berkeley AI Research, para realizar investigación fundamental en IA.
En 2019, MITRE lanzó MITRE Engenuity, una fundación sin fines de lucro que colabora con el sector privado en desafíos a nivel de industria, incluida la ciberseguridad relacionada con IA. El Centro para la Defensa Informada por Amenazas de Engenuity tiene organizaciones miembro como Fujitsu y Microsoft, y ha desarrollado recursos como la Biblioteca de Emulación de Adversarios.
Impacto y Direcciones Futuras
El trabajo de MITRE AI tiene un impacto significativo en las operaciones del gobierno de EE. UU., desde la defensa hasta la atención médica. A medida que las tecnologías de IA evolucionan, MITRE AI se centra en garantizar que los sistemas de IA sean confiables, seguros y alineados con los intereses públicos. La organización está explorando áreas como IA explicable, gobernanza de IA e integración de IA con computación cuántica y computación en el borde. MITRE AI también contribuye a discusiones políticas sobre ética y regulación de la IA, ayudando a dar forma al desarrollo y despliegue responsable de la IA.
A partir de 2023, MITRE AI continúa expandiendo sus capacidades de investigación, con un énfasis creciente en la evaluación de modelos de lenguaje grande y la robustez adversarial. El papel dual de la organización como asesor gubernamental y entidad de investigación independiente la posiciona para influir en el futuro de la IA en el sector público.