MITRE AI是MITRE公司的人工智能研究与开发部门，该公司是一家美国非营利组织，总部位于马萨诸塞州贝德福德和弗吉尼亚州麦克莱恩。MITRE管理着支持美国政府在航空、国防、医疗、国土安全和网络安全领域的联邦资助研发中心（FFRDCs）。MITRE AI利用整个组织的工程和系统专长，推动AI技术及其在公共利益任务中的应用。
Mitre公司于1958年成立，作为一家军事智库，从麻省理工学院林肯实验室的雷达和计算机研究中分离出来。其早期工作包括半自动地面环境（SAGE）防空系统。在随后的几十年中，MITRE扩大了其研究范围，并在1990年代将民用项目分拆为独立的实体，即现在的Noblis。MITRE AI在这一传统中运作，专注于支持国家安全和公共服务的人工智能研究。
AI研究与项目
MITRE AI在广泛的AI领域开展研究，包括机器学习、深度学习、神经网络和大语言模型系统。该组织将这些技术应用于网络安全、国防、医疗和航空领域的挑战。例如，MITRE在生成式AI方面的工作包括开发评估和缓解AI生成内容风险的方法。MITRE还与学术机构和产业合作伙伴，如麻省理工学院计算机科学与人工智能实验室和斯坦福AI实验室合作，以推动AI技术的前沿发展。
一项重要举措是MITRE ATT&CK框架，虽然它并非专门针对AI，但包含了AI驱动的威胁检测与响应。MITRE AI还致力于AI保障与评估方法论的开发，帮助政府机构了解AI系统的能力与局限性。
联邦资助研发中心
MITRE AI在MITRE的六个FFRDCs中的几个运作。国家安全性工程中心负责处理国防部的国家安全问题，包括AI支持的指挥与控制系统。高级航空系统开发中心（CAASD）支持联邦航空管理局，将AI应用于空中交通管理和航空安全。工业企业现代化中心成立于1998年，专注于实现政府IT系统的现代化，AI在自动化和数据分析中扮演着越来越重要的角色。国土安全系统工程与研究所（HSSEDI）为国土安全部工作于网络安全和AI相关项目，例如识别与常见软件漏洞。CMS医疗保健现代化联盟成立于2012年，将AI应用于医疗保健和交付与政策。
AI网络安全
MITRE AI以其在网络安全领域的贡献特别知名。该组织开发了基于AI的威胁检测、漏洞分析和事件响应工具。对手仿真库于2020年发布，提供可下载的模拟网络对手场景，包括AI增强的攻击场景。MITRE还维护着ATT&CK知识库，该知识库梳理了对手的战术和技术，并已将其模块用于APT3和APT29等高级持续威胁组织。这些工作有助于政府和行业合作伙伴防御AI驱动的网络威胁。
合作与伙伴关系
MITRE AI与广泛的伙伴合作，包括技术公司如OpenAI、Anthropic和Google DeepMind，以及云服务提供商如Amazon Web Services、Microsoft Azure和Google Cloud。这些合作聚焦于评估AI系统、共享最佳实践以及制定AI安全和可靠性标准。MITRE还与学术机构合作，包括Carnegie Mellon University和BAIR (Berkeley AI Research)，开展AI的基础研究。
2019年，MITRE推出了MITRE Engenuity，这是一个非营利基金会，与私营部门合作解决行业范围的挑战，包括AI相关的网络安全问题。Engenuity的信息中心拥有相关成员机构，例如富士通和微软，并开发了诸如对手模拟库等资源。
影响与未来方向
MITRE AI的工作对美国政府的运作具有显著影响，从国防到医疗保健。随着AI技术的发展，MITRE AI着重确保AI系统是可信赖的、安全的并与公众利益保持一致。该组织正在探索诸如可解释AI、AI治理以及AI与quantum computing和edge computing的集成等领域。MITRE AI还参与有关AI伦理与监管的政策讨论，致力于制定AI负责任的开发与部署。
截至2023年，MITRE AI继续扩大其研究能力，越来越强调大语言模型评估和对抗鲁棒性。该组织作为政府顾问和独立研究实体的双重角色使其能够影响公共领域AI的未来。