MITRE AI é o braço de pesquisa e desenvolvimento em inteligência artificial da The MITRE Corporation, uma organização sem fins lucrativos americana com duas sedes, em Bedford, Massachusetts, e McLean, Virgínia. A MITRE administra centros de pesquisa e desenvolvimento financiados pelo governo federal (FFRDCs) que apoiam agências do governo dos EUA nas áreas de aviação, defesa, saúde, segurança interna e cibersegurança. A MITRE AI aproveita a experiência em engenharia e sistemas da organização mais ampla para avançar tecnologias de IA e sua aplicação em missões de interesse público.
A Mitre Corporation foi fundada em 1958 como um think tank militar, originado de pesquisas em radar e computação no MIT Lincoln Laboratory. Seus primeiros trabalhos incluíram o sistema de defesa aérea Semi-Automatic Ground Environment (SAGE). Ao longo das décadas seguintes, a MITRE diversificou seu portfólio de pesquisas e, nos anos 1990, separou projetos civis em uma entidade distinta, hoje conhecida como Noblis. A MITRE AI opera dentro desse legado, com foco em pesquisa de IA que apoia a segurança nacional e os serviços públicos.
Pesquisa e Programas de IA
A MITRE AI conduz pesquisas em um amplo espectro de campos da IA, incluindo aprendizado de máquina, aprendizado profundo, redes neurais e sistemas de modelos de linguagem de grande escala. A organização aplica essas tecnologias a desafios em cibersegurança, defesa, saúde e aviação. Por exemplo, o trabalho da MITRE em IA generativa inclui o desenvolvimento de métodos para avaliar e mitigar riscos associados a conteúdo gerado por IA. A MITRE também colabora com instituições acadêmicas e parceiros da indústria, como MIT CSAIL e Stanford AI Lab, para avançar o estado da arte em IA.
Uma iniciativa notável é o framework MITRE ATT&CK, que, embora não seja exclusivamente focado em IA, incorpora detecção e resposta a ameaças impulsionadas por IA. A MITRE AI também contribui para o desenvolvimento de metodologias de garantia e avaliação de IA, ajudando agências governamentais a entender as capacidades e limitações dos sistemas de IA.
Centros de Pesquisa e Desenvolvimento Financiados pelo Governo Federal
A MITRE AI opera dentro de vários dos seis FFRDCs da MITRE. O National Security Engineering Center aborda questões de segurança nacional para o Departamento de Defesa, incluindo sistemas de comando e controle habilitados por IA. O Center for Advanced Aviation System Development (CAASD) apoia a Administração Federal de Aviação, aplicando IA ao gerenciamento de tráfego aéreo e à segurança da aviação. O Center for Enterprise Modernization, estabelecido em 1998, foca na modernização de sistemas de TI do governo, com a IA desempenhando um papel crescente na automação e na análise de dados. O Homeland Security Systems Engineering and Development Institute (HSSEDI) trabalha em projetos de cibersegurança e IA para o Departamento de Segurança Interna, como a identificação de vulnerabilidades comuns de software. O CMS Alliance to Modernize Healthcare, estabelecido em 2012, aplica IA à prestação de serviços de saúde e a políticas públicas.
IA para Cibersegurança
A MITRE AI é particularmente conhecida por suas contribuições à cibersegurança. A organização desenvolve ferramentas baseadas em IA para detecção de ameaças, análise de vulnerabilidades e resposta a incidentes. A Adversary Emulation Library, lançada em 2020, fornece planos de emulação baixáveis para adversários cibernéticos, incluindo cenários de ataque aprimorados por IA. A MITRE também mantém a base de conhecimento ATT&CK, que cataloga táticas e técnicas de adversários, e publicou planos de emulação para grupos de ameaças persistentes avançadas, como APT3 e APT29. Esses esforços ajudam parceiros governamentais e da indústria a se defenderem contra ameaças cibernéticas impulsionadas por IA.
Colaborações e Parcerias
A MITRE AI colabora com uma ampla gama de parceiros, incluindo empresas de tecnologia como OpenAI, Anthropic e Google DeepMind, bem como provedores de nuvem como Amazon Web Services, Azure e Google Cloud. Essas colaborações focam na avaliação de sistemas de IA, no compartilhamento de melhores práticas e no desenvolvimento de padrões para segurança e confiabilidade da IA. A MITRE também faz parcerias com instituições acadêmicas, incluindo Carnegie Mellon University e Berkeley AI Research, para conduzir pesquisas fundamentais em IA.
Em 2019, a MITRE lançou a MITRE Engenuity, uma fundação sem fins lucrativos que colabora com o setor privado em desafios de toda a indústria, incluindo cibersegurança relacionada à IA. O Center for Threat-Informed Defense da Engenuity tem organizações membros como Fujitsu e Microsoft, e desenvolveu recursos como a Adversary Emulation Library.
Impacto e Direções Futuras
O trabalho da MITRE AI tem um impacto significativo nas operações do governo dos EUA, da defesa à saúde. À medida que as tecnologias de IA evoluem, a MITRE AI foca em garantir que os sistemas de IA sejam confiáveis, seguros e alinhados aos interesses públicos. A organização está explorando áreas como IA explicável, governança de IA e a integração da IA com computação quântica e computação de borda. A MITRE AI também contribui para discussões de políticas sobre ética e regulamentação da IA, ajudando a moldar o desenvolvimento e a implantação responsáveis da IA.
Em 2023, a MITRE AI continua a expandir suas capacidades de pesquisa, com ênfase crescente na avaliação de modelos de linguagem de grande escala e na robustez adversarial. O papel duplo da organização como consultora governamental e entidade de pesquisa independente a posiciona para influenciar o futuro da IA no setor público.