MITRE AI ist der Forschungs- und Entwicklungszweig für künstliche Intelligenz der MITRE Corporation, einer amerikanischen Non-Profit-Organisation mit Hauptsitzen in Bedford, Massachusetts, und McLean, Virginia. MITRE verwaltet bundesweit finanzierte Forschungs- und Entwicklungszentren (FFRDCs), die US-Regierungsbehörden in den Bereichen Luftfahrt, Verteidigung, Gesundheitswesen, Heimatschutz und Cybersicherheit unterstützen. MITRE AI nutzt die technische und systemische Expertise der gesamten Organisation, um KI-Technologien und deren Anwendung für gemeinwohlorientierte Missionen voranzutreiben.
Die MITRE Corporation wurde 1958 als militärischer Think Tank gegründet und ging aus der Radar- und Computerforschung am MIT Lincoln Laboratory hervor. Zu den frühen Arbeiten gehörte das Luftverteidigungssystem Semi-Automatic Ground Environment (SAGE). In den folgenden Jahrzehnten diversifizierte MITRE sein Forschungsspektrum, und in den 1990er Jahren wurden zivile Projekte in eine separate Einheit ausgegliedert, die heute als Noblis bekannt ist. MITRE AI operiert innerhalb dieses Erbes und konzentriert sich auf KI-Forschung, die nationale Sicherheit und öffentliche Dienste unterstützt.
KI-Forschung und Programme
MITRE AI forscht in einem breiten Spektrum von KI-Bereichen, darunter maschinelles Lernen, Deep Learning, neuronale Netze und große Sprachmodelle. Die Organisation wendet diese Technologien auf Herausforderungen in Cybersicherheit, Verteidigung, Gesundheitswesen und Luftfahrt an. Beispielsweise umfasst die Arbeit von MITRE an generativer KI die Entwicklung von Methoden zur Bewertung und Minderung von Risiken, die mit KI-generierten Inhalten verbunden sind. MITRE arbeitet außerdem mit akademischen Einrichtungen und Industriepartnern wie MIT CSAIL und Stanford AI Lab zusammen, um den Stand der Technik in der KI voranzutreiben.
Eine bemerkenswerte Initiative ist das MITRE-ATT&CK-Framework, das, obwohl nicht ausschließlich auf KI fokussiert, KI-gestützte Bedrohungserkennung und -reaktion integriert. MITRE AI trägt auch zur Entwicklung von Methoden zur KI-Absicherung und -Evaluierung bei und hilft Regierungsbehörden, die Fähigkeiten und Grenzen von KI-Systemen zu verstehen.
Bundesweit finanzierte Forschungs- und Entwicklungszentren
MITRE AI operiert innerhalb mehrerer der sechs FFRDCs von MITRE. Das National Security Engineering Center befasst sich mit Fragen der nationalen Sicherheit für das Verteidigungsministerium, einschließlich KI-gestützter Kommando- und Kontrollsysteme. Das Center for Advanced Aviation System Development (CAASD) unterstützt die Federal Aviation Administration und wendet KI auf Flugverkehrsmanagement und Flugsicherheit an. Das 1998 gegründete Center for Enterprise Modernization konzentriert sich auf die Modernisierung von IT-Systemen der Regierung, wobei KI eine zunehmende Rolle bei Automatisierung und Datenanalyse spielt. Das Homeland Security Systems Engineering and Development Institute (HSSEDI) arbeitet an Cybersicherheits- und KI-bezogenen Projekten für das Heimatschutzministerium, wie der Identifizierung häufiger Software-Schwachstellen. Die 2012 gegründete CMS Alliance to Modernize Healthcare wendet KI auf Gesundheitsversorgung und -politik an.
KI für Cybersicherheit
MITRE AI ist besonders für seine Beiträge zur Cybersicherheit bekannt. Die Organisation entwickelt KI-basierte Werkzeuge für Bedrohungserkennung, Schwachstellenanalyse und Incident Response. Die 2020 gestartete Adversary Emulation Library bietet herunterladbare Emulationspläne für Cyber-Gegner, einschließlich KI-verstärkter Angriffsszenarien. MITRE pflegt außerdem die ATT&CK-Wissensbasis, die Taktiken und Techniken von Gegnern katalogisiert, und hat Emulationspläne für fortschrittliche anhaltende Bedrohungsgruppen wie APT3 und APT29 veröffentlicht. Diese Bemühungen helfen Regierungs- und Industriepartnern, sich gegen KI-gesteuerte Cyber-Bedrohungen zu verteidigen.
Kooperationen und Partnerschaften
MITRE AI arbeitet mit einer breiten Palette von Partnern zusammen, darunter Technologieunternehmen wie OpenAI, Anthropic und Google DeepMind sowie Cloud-Anbieter wie Amazon Web Services, Azure und Google Cloud. Diese Kooperationen konzentrieren sich auf die Evaluierung von KI-Systemen, den Austausch bewährter Praktiken und die Entwicklung von Standards für KI-Sicherheit und -Zuverlässigkeit. MITRE arbeitet auch mit akademischen Einrichtungen wie Carnegie Mellon University und Berkeley AI Research zusammen, um Grundlagenforschung in der KI zu betreiben.
Im Jahr 2019 startete MITRE MITRE Engenuity, eine gemeinnützige Stiftung, die mit dem privaten Sektor an branchenweiten Herausforderungen zusammenarbeitet, einschließlich KI-bezogener Cybersicherheit. Das Center for Threat-Informed Defense von Engenuity hat Mitgliedsorganisationen wie Fujitsu und Microsoft und hat Ressourcen wie die Adversary Emulation Library entwickelt.
Auswirkungen und zukünftige Richtungen
Die Arbeit von MITRE AI hat erhebliche Auswirkungen auf den Betrieb der US-Regierung, von der Verteidigung bis zum Gesundheitswesen. Während sich KI-Technologien weiterentwickeln, konzentriert sich MITRE AI darauf, sicherzustellen, dass KI-Systeme vertrauenswürdig, sicher und mit öffentlichen Interessen im Einklang sind. Die Organisation erforscht Bereiche wie erklärbare KI, KI-Governance und die Integration von KI mit Quantencomputing und Edge-Computing. MITRE AI trägt auch zu politischen Diskussionen über KI-Ethik und -Regulierung bei und hilft, die verantwortungsvolle Entwicklung und Bereitstellung von KI zu gestalten.
Stand 2023 erweitert MITRE AI weiterhin seine Forschungskapazitäten, mit einem wachsenden Schwerpunkt auf der Evaluierung großer Sprachmodelle und adversarischer Robustheit. Die Doppelrolle der Organisation als Regierungsberater und unabhängige Forschungseinrichtung positioniert sie, um die Zukunft der KI im öffentlichen Sektor zu beeinflussen.