Miles Brundage ist ein Forscher für Künstliche-Intelligenz-Politik, der sich auf die Governance und gesellschaftlichen Auswirkungen fortschrittlicher KI-Systeme spezialisiert hat. Bekannt ist er für seine Führungsrollen bei OpenAI, darunter als Leiter der Politikforschung und leitender Berater für AGI-Bereitschaft, sowie für die Gründung des AI Verification and Evaluation Research Institute (AVERI), einer gemeinnützigen Organisation, die sich auf die externe Prüfung von Frontier-KI-Modellen konzentriert.
Brundages Arbeit hat sich auf die Schnittstelle von KI-Sicherheit, Politik und Bewertung konzentriert, mit besonderem Schwerpunkt auf der Vorbereitung auf die potenziellen Auswirkungen von künstlicher allgemeiner Intelligenz (AGI). Sein Ausscheiden bei OpenAI im Jahr 2024 erregte breite mediale Aufmerksamkeit und spiegelte breitere Bedenken hinsichtlich der KI-Sicherheit in der Branche wider.
Frühes Leben und Ausbildung
Brundage erwarb 2010 einen Bachelor of Arts in Politikwissenschaft an der George Washington University. Nach seinem Abschluss arbeitete er zwei Jahre bei ARPA-E, der Advanced Research Projects Agency-Energy, und absolvierte ein Praktikum am Institute for Human and Machine Cognition (IHMC). Später setzte er seine Doktoratsstudien an der Arizona State University fort und promovierte 2019 in Human and Social Dimensions of Science and Technology.
Karriere in der KI-Politik
Von 2016 bis 2018 war Brundage Forscher am Future of Humanity Institute der Universität Oxford, wo er zu frühen Arbeiten über die gesellschaftlichen Risiken von KI beitrug. Er ist außerdem Mitglied des Center for a New American Security, einer Denkfabrik, die sich auf nationale Sicherheit und Technologiepolitik konzentriert. Darüber hinaus war er von 2018 bis 2022 Mitglied des Axon AI and Policing Technology Ethics Board und beriet zur ethischen Nutzung von KI in der Strafverfolgung.
OpenAI und AGI-Bereitschaft
2018 trat Brundage OpenAI als Politikforscher bei und wurde später Leiter der Politikforschung und dann leitender Berater für AGI-Bereitschaft. In dieser Rolle half er, den Ansatz der Organisation für KI-Sicherheit und -Politik zu gestalten, einschließlich Bemühungen, die Herausforderungen von AGI zu bewerten und sich darauf vorzubereiten. 2024 verließ er OpenAI und nannte den Wunsch nach mehr Unabhängigkeit und Freiheit in seiner Forschung als Grund. Er erklärte öffentlich, dass KI-Unternehmen und der Rest der Welt nicht bereit für AGI seien, und sein Ausscheiden war Teil eines breiteren Trends, bei dem prominente KI-Sicherheitsmitarbeiter und leitende Manager das Unternehmen verließen.
Im März 2025 kommentierte Brundage einen Blogbeitrag von OpenAI, lobte ihn insgesamt, äußerte jedoch Bedenken, dass er die „Geschichte“ des Bereitstellungsansatzes des Unternehmens „umschreibe“, insbesondere hinsichtlich der Beweislast für Sicherheitsbedenken.
AI Verification and Evaluation Research Institute
Im Januar 2026 kündigte Brundage die Gründung des AI Verification and Evaluation Research Institute (AVERI) an, einer gemeinnützigen Organisation, die sich der Förderung externer Prüfung von Frontier-KI-Modellen widmet. AVERI zielt darauf ab, Standards für KI-Prüfungen zu etablieren und unabhängige Bewertungen fortschrittlicher KI-Systeme bereitzustellen, um den Bedarf an externer Aufsicht im sich schnell entwickelnden Bereich des maschinellen Lernens und der generativen KI zu decken.
Vermächtnis und Einfluss
Brundages Karriere spiegelt eine wachsende Betonung von KI-Governance und die Notwendigkeit robuster Bewertungsmechanismen wider. Seine Arbeit bei OpenAI und AVERI hat Diskussionen über KI-Sicherheit beeinflusst, insbesondere rund um das Konzept der AGI-Bereitschaft. Durch sein Eintreten für externe Prüfung und transparente Bewertung hat er zur Entwicklung von Politikrahmen beigetragen, die darauf abzielen, Innovation mit gesellschaftlichen Schutzmaßnahmen in Einklang zu bringen.
Seine Perspektiven zur Bereitschaft von KI-Unternehmen und Regierungen für AGI haben Debatten ausgelöst, und sein Übergang von der Industrie zur gemeinnützigen Forschung unterstreicht die Herausforderungen, eine verantwortungsvolle KI-Entwicklung sicherzustellen. Stand 2026 bleibt Brundage eine prominente Stimme in der KI-Politik, mit Fokus auf Verifikation und Bewertung als kritische Werkzeuge für Rechenschaftspflicht.