MITRE AI는 The MITRE Corporation의 인공지능 연구개발 부문으로, 미국의 비영리 조직이며 매사추세츠주 베드퍼드와 버지니아주 매클린에 본부를 두고 있다. MITRE는 연방 정부 지원 연구개발 센터(FFRDC)를 운영하며 항공, 국방, 의료, 국토안보, 사이버보안 분야에서 미국 정부 기관을 지원한다. MITRE AI는 조직의 엔지니어링 및 시스템 전문성을 활용하여 공공 이익을 위한 AI 기술과 응용을 발전시킨다.
MITRE Corporation은 1958년 MIT 링컨 연구소의 레이더 및 컴퓨터 연구에서 분리되어 설립된 군사 싱크탱크이다. 초기 작업에는 반자동 지상 환경(SAGE) 방공 시스템이 포함되었다. 이후 수십 년간 MITRE는 연구 포트폴리오를 다양화했으며, 1990년대에는 민간 프로젝트를 별도 법인으로 분사하여 현재의 노빌리스(Noblis)가 되었다. MITRE AI는 이러한 유산을 바탕으로 국가 안보와 공공 서비스를 지원하는 AI 연구에 주력한다.
AI 연구 및 프로그램
MITRE AI는 머신러닝, 딥러닝, 신경망, 대규모 언어 모델 시스템을 포함한 광범위한 AI 분야에서 연구를 수행한다. 이 조직은 이러한 기술을 국방, 사이버보안, 항공, 의료 분야의 과제에 적용한다. 예를 들어, MITRE의 생성형 AI 연구는 AI 생성 콘텐츠와 관련된 위험을 평가하고 완화하는 방법을 개발하는 것을 포함한다. MITRE는 또한 MIT 컴퓨터 과학 및 인공지능 연구소 및 스탠포드 AI 연구소와 같은 학술 기관 및 산업 파트너와 협력하여 AI 기술의 최첨단을 발전시킨다.
주목할 만한 이니셔티브로는 MITRE ATT&CK 프레임워크가 있으며, 이는 AI에 특화된 것은 아니지만 AI 기반 위협 탐지 및 대응을 통합한다. MITRE AI는 또한 AI 보증 및 평가 방법론 개발에 기여하여 정부 기관이 AI 시스템의 기능과 한계를 이해하도록 돕는다.
연방 정부 지원 연구개발 센터
MITRE AI는 MITRE의 6개 FFRDC 중 여러 곳에서 운영된다. 국방부를 지원하는 국립 안보 엔지니어링 센터는 AI 기반 지휘통제 시스템을 다룬다. 연방항공청(FAA)을 지원하는 첨단 항공 시스템 개발 센터(CAASD)는 항공 교통 관리 및 항공 안전에 AI를 적용한다. 1998년에 설립된 기업 현대화 센터는 정부 IT 시스템 현대화에 중점을 두며, 자동화 및 데이터 분석에서 AI의 역할이 점점 커지고 있다. 국토안보부(DHS)를 지원하는 국토안보 시스템 엔지니어링 및 개발 연구소(HSSEDI)는 사이버보안 및 AI 관련 프로젝트를 수행하며, 일반적인 소프트웨어 취약점 식별을 포함한다. 2012년에 설립된 의료 현대화 연합(CMS Alliance)은 의료 서비스 및 정책에 AI를 적용한다.
사이버보안 분야의 AI
MITRE AI는 사이버보안에 대한 기여로 특히 잘 알려져 있다. 이 조직은 위협 탐지, 취약점 분석, 침해 대응을 위한 AI 기반 도구를 개발한다. 2020년에 출시된 적대 행위 에뮬레이션 라이브러리는 AI 강화 공격 시나리오를 포함한 사이버 적대 행위자에 대한 다운로드 가능한 에뮬레이션 계획을 제공한다. MITRE는 또한 적대 행위 전술 및 기법을 체계화한 ATT&CK 지식 기반을 유지 관리하며, APT3 및 APT29과 같은 고급 지속 위협 그룹에 대한 에뮬레이션 계획을 공개했다. 이러한 노력은 정부 및 산업 파트너가 AI 기반 사이버 위협으로부터 방어하는 데 도움을 준다.
협력 및 파트너십
MITRE AI는 OpenAI, Anthropic, Google DeepMind와 같은 기술 기업 및 Amazon Web Services, Azure, Google Cloud와 같은 클라우드 제공업체를 포함한 다양한 파트너와 협력한다. 이러한 협력은 AI 시스템 평가, 모범 사례 공유, AI 안전 및 신뢰성 표준 개발에 중점을 둔다. MITRE는 또한 카네기 멜론 대학교 및 버클리 AI 연구소를 포함한 학술 기관과 파트너십을 맺고 기초 AI 연구를 수행한다.
2019년, MITRE는 민간 부문과 협력하여 산업 전반의 과제를 해결하는 비영리 재단인 MITRE Engenuity를 설립했다. Engenuity의 위협 정보 방어 센터에는 후지쯔 및 마이크로소프트와 같은 회원 조직이 있으며, 적대 행위 에뮬레이션 라이브러리와 같은 리소스를 개발했다.
영향 및 향후 방향
MITRE AI의 작업은 국방부터 의료에 이르기까지 미국 정부 운영에 상당한 영향을 미친다. AI 기술이 진화함에 따라 MITRE AI는 AI 시스템의 신뢰성, 보안, 공공 이익 부합을 보장하는 데 중점을 둔다. 이 조직은 설명 가능한 AI, AI 거버넌스, 양자 컴퓨팅 및 엣지 컴퓨팅과의 AI 통합 분야를 탐구하고 있다. MITRE AI는 또한 AI 윤리 및 규제에 관한 정책 논의에 기여하여 AI의 책임 있는 개발 및 배포를 위한 방향을 제시한다.
2023년 현재, MITRE AI는 대규모 언어 모델 평가 및 적대적 견고성에 대한 연구를 확장하고 있다. 정부 자문가이자 독립 연구 기관이라는 이중 역할을 통해 MITRE AI는 공공 부문에서 AI의 미래를 형성하는 데 중요한 위치를 차지하고 있다.