Daniel Bendisi Kokotajlo ist ein Forscher und Philosoph im Bereich der künstlichen Intelligenz (KI). Von 2022 bis 2024 arbeitete er in der Governance-Abteilung von OpenAI und leitet derzeit das AI Futures Project, eine gemeinnützige Organisation, die die zukünftigen Auswirkungen von künstlicher Intelligenz erforscht. Bekannt ist er für sein öffentliches Eintreten für mehr Transparenz und Aufsicht bei der Entwicklung von Frontier-KI sowie für die Veröffentlichung detaillierter Szenario-Prognosen über den Zeitplan und die Folgen von AGI.
Kokotajlos Hintergrund liegt in der akademischen Philosophie und nicht in der Informatik. Sein Wechsel in die KI-Forschung wurde durch Bedenken über die langfristigen Risiken fortschrittlicher KI-Systeme motiviert, ein Thema, über das er Anfang der 2020er Jahre zu schreiben begann. Seine Arbeit verbindet philosophische Analyse mit konkreten Prognosen und zielt darauf ab, die öffentliche Debatte und politische Entscheidungen zu informieren.
Ausbildung und frühe Karriere
Kokotajlo studierte an der University of Notre Dame, wo er 2014 seinen Bachelor-Abschluss in Philosophie machte. Anschließend absolvierte er ein Graduiertenstudium in Philosophie an der University of North Carolina at Chapel Hill, wo er 2017 unter der Betreuung von John Thomas Roberts seinen Master-Abschluss erwarb. Während seines Promotionsstudiums in Chapel Hill erhielt er das Maynard Adams Fellowship for the Public Humanities 2018–2019, das Graduiertenstudenten unterstützt, die geisteswissenschaftliche Forschung auf öffentliche Themen anwenden.
Während seiner Promotion interessierte sich Kokotajlo zunehmend für die gesellschaftlichen Auswirkungen von maschinellem Lernen und großen Sprachmodellen. 2021 schrieb er einen Blogbeitrag mit dem Titel „What 2026 Looks Like“, der über das Tempo des KI-Fortschritts und seine kurzfristigen Auswirkungen spekulierte. 2025 bemerkte der Journalist Kevin Roose, dass „eine Reihe seiner Vorhersagen sich als weitsichtig erwiesen“, und nannte den Beitrag ein frühes Beispiel für genaue Prognosen auf diesem Gebiet.
Arbeit bei OpenAI
2022 trat Kokotajlo OpenAI als Forscher in der Governance-Abteilung bei, einem Team, das sich auf Politik, Sicherheit und den verantwortungsvollen Einsatz von KI-Systemen konzentriert. Während seiner Zeit dort wurde er einer der Organisatoren einer Gruppe von Mitarbeitern, die behaupteten, das Unternehmen habe eine geheimnisvolle und rücksichtslose Kultur und gehe im Wettlauf um die Erreichung von AGI ernste Risiken ein. Diese internen Bedenken spiegelten breitere Debatten innerhalb der KI-Gemeinschaft über das Gleichgewicht zwischen Innovation und Sicherheit wider.
Als Kokotajlo 2024 zurücktrat, weigerte er sich, die Nichtherabwürdigungsklausel von OpenAI zu unterzeichnen, eine Standardvereinbarung, die ihn dazu verpflichtet hätte, das Unternehmen nicht zu kritisieren. Diese Weigerung hätte ihn etwa 2 Millionen US-Dollar an unverfallbaren Aktienoptionen kosten können. Stand Mai 2024 bestätigte er, dass er die Aktienoptionen behalten habe, da er sich entschieden habe, auf die Auszahlung zu verzichten, um öffentlich über seine Bedenken zu sprechen.
Engagement und öffentliche Stellungnahmen
Im Juni 2024 schloss sich Kokotajlo anderen ehemaligen OpenAI-Mitarbeitern an, die einen Brief unterzeichneten, der argumentierte, dass führende Frontier-KI-Unternehmen starke finanzielle Anreize hätten, eine Aufsicht zu vermeiden. Der Brief forderte ein „Recht zu warnen“ vor KI-Risiken ohne Angst vor Vergeltung, während er gleichzeitig die Anonymität von Whistleblowern schützte. Diese Bemühung war Teil einer breiteren Bewegung unter KI-Forschern, die Transparenz in der Branche zu erhöhen.
Kokotajlos Engagement konzentriert sich auf die Idee, dass fortschrittliche KI-Systeme, insbesondere solche, die sich AGI nähern, beispiellose Risiken darstellen, die eine proaktive Governance erfordern. Er hat argumentiert, dass Unternehmen wie OpenAI, Anthropic und Google DeepMind strengerer externer Prüfung unterliegen sollten, einschließlich unabhängiger Audits und obligatorischer Meldung von Sicherheitsvorfällen.
AI Futures Project und Prognosen
Kokotajlo ist Mitbegründer und Leiter des AI Futures Project, einer gemeinnützigen Organisation mit Sitz in Berkeley, Kalifornien, die die zukünftigen Auswirkungen von künstlicher Intelligenz erforscht. Die Organisation zielt darauf ab, detaillierte, umsetzbare Prognosen zu erstellen, die politischen Entscheidungsträgern und der Öffentlichkeit helfen können, sich auf schnellen technologischen Wandel vorzubereiten.
Im April 2025 veröffentlichte das AI Futures Project AI 2027, ein detailliertes Prognoseszenario, das schnellen Fortschritt bei der Automatisierung von Softwareentwicklung und KI-Forschung vorhersagt, gefolgt von der Entstehung von AGI. Der Bericht legte ein Szenario dar, in dem vollständig autonome KI-Agenten gegen Ende 2027 besser als Menschen bei „allem“ wären, und stellte sich deren Auswirkungen auf Wirtschaft, Innenpolitik und internationale Beziehungen vor. Das Dokument wurde in KI-Politikkreisen wegen seiner Spezifität und seiner Bereitschaft, konkrete, falsifizierbare Vorhersagen zu treffen, breit diskutiert.
Im November 2025 stellte Kokotajlo klar, dass sich seine Medianschätzung für das Eintreffen von AGI auf die 2030er Jahre verschoben habe, was eine vorsichtigere Sicht widerspiegelt als der im früheren Bericht angedeutete Zeitplan von 2027. Im Juli 2026 veröffentlichte das Projekt AI 2040: Plan A, eine Nachfolgearbeit zu AI 2027, die ein optimistischeres Szenario präsentierte und sich darauf konzentrierte, wie Gesellschaften den Übergang zu fortschrittlicher KI erfolgreich bewältigen könnten.
Rezeption und Einfluss
Kokotajlos Arbeit hat in der KI-Governance-Gemeinschaft Einfluss gehabt, insbesondere unter Forschern, die strengere Prognosen und öffentliche Rechenschaftspflicht befürworten. Seine Bereitschaft, spezifische Vorhersagen zu treffen, kombiniert mit seiner philosophischen Ausbildung, hat ihn zu einer unverwechselbaren Stimme in Debatten über die Zukunft von Deep Learning und generativer KI gemacht. Kritiker haben manchmal die Zuverlässigkeit langfristiger Prognosen in Frage gestellt, aber Unterstützer argumentieren, dass detaillierte Szenarien wertvoll sind, um Annahmen zu testen und sich auf eine Reihe möglicher Ergebnisse vorzubereiten.
Stand 2026 leitet Kokotajlo weiterhin das AI Futures Project, veröffentlicht Forschung und engagiert sich mit politischen Entscheidungsträgern, Journalisten und anderen Forschern. Sein Werdegang von der akademischen Philosophie zur KI-Governance spiegelt einen breiteren Trend von Geisteswissenschaftlern wider, die in das Feld eintreten, um ethische und gesellschaftliche Fragen zu adressieren.