Connor Leahy ist ein deutsch-amerikanischer Forscher im Bereich der künstlichen Intelligenz und Unternehmer, bekannt für seine Arbeit an großen Sprachmodellen und sein Engagement für die Risiken fortgeschrittener KI. Er war Mitbegründer von EleutherAI, einem Kollektiv, das frühe Open-Source-Sprachmodelle entwickelte, und gründete später das KI-Sicherheitsforschungsunternehmen Conjecture, das er bis 2026 als CEO leitete. Seit 2026 ist er US-Direktor von ControlAI, einer gemeinnützigen Organisation, die sich auf die Verhinderung des Extinktionsrisikos durch künstliche Superintelligenz konzentriert.
Leahy ist eine prominente Stimme, die vor der Möglichkeit der Auslöschung der Menschheit durch fortgeschrittene KI warnt. Er hat vor dem Unterhaus von Kanada ausgesagt und am ersten KI-Sicherheitsgipfel 2023 teilgenommen. Seine öffentlichen Aussagen betonen oft die Unvorhersehbarkeit leistungsfähiger KI-Systeme und die Notwendigkeit staatlicher Aufsicht.
Frühes Leben und Ausbildung
Leahy wuchs in Deutschland auf und zog später in die Vereinigten Staaten. Er studierte an einer Universität, wo er in seiner Freizeit begann, mit Modellen des maschinellen Lernens zu experimentieren. Während er 2019 noch Student war, rekonstruierte er OpenAIs GPT-2 in seinem Wohnheimzimmer, zu einer Zeit, als das vollständige Modell von der Organisation zunächst zurückgehalten wurde. Dieses frühe Projekt weckte sein Interesse an den inneren Abläufen von großen Sprachmodellen und deren potenziellen gesellschaftlichen Auswirkungen.
Karriere und Forschung
Im Juli 2020 gründete Leahy zusammen mit Sid Black und Leo Gao EleutherAI, mit einem anfänglichen Fokus auf der Replikation von GPT-3 in einem Open-Source-Umfeld. Während seiner Zeit als Co-Leiter produzierte EleutherAI einige der frühesten Open-Source-Sprachmodelle und Datensätze. Dazu gehörten The Pile im Dezember 2020, GPT-Neo im März 2021, GPT-J-6B im Juni 2021 und GPT-NeoX-20B im Februar 2022. Zum Zeitpunkt seiner Veröffentlichung war GPT-J-6B das größte Open-Source-Sprachmodell im GPT-3-Stil der Welt, ein bedeutender Meilenstein für die KI-Forschungsgemeinschaft.
Im März 2022 war Leahy Mitbegründer von Conjecture, einem KI-Sicherheitsforschungsunternehmen, das er als CEO leitete. Die erklärte Mission des Unternehmens war es, angewandte KI-Ausrichtungsforschung zu skalieren, mit dem Ziel, die Herausforderung zu bewältigen, sicherzustellen, dass leistungsfähige KI-Systeme im Einklang mit menschlichen Absichten handeln. Leahy hat Skepsis gegenüber Verstärkungslernen durch menschliches Feedback als vollständige Lösung für das Ausrichtungsproblem geäußert. Er hat leistungsfähige KI-Systeme als „fremdartig" in ihrer Argumentation beschrieben und darauf hingewiesen, dass Techniken wie RLHF nur zugrunde liegende nicht-menschliche Denkprozesse überdecken könnten. Er verwendet die Metapher einer „Smiley-Gesichtsmaske", die unter unerwarteten Eingabeaufforderungen verrutschen kann und das enthüllt, was er eine „massive Unterbauch des Wahnsinns" nennt.
Engagement und öffentliche Auftritte
Im März 2023 war Leahy einer der Unterzeichner eines offenen Briefes des Future of Life Institute, der dazu aufrief, „dass alle KI-Labore das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate pausieren". Der Brief erregte große Aufmerksamkeit und löste Debatten über das Tempo der KI-Entwicklung aus. Im Mai 2023 gehörte er zu den Unterzeichnern der Erklärung zum KI-Risiko, einer ein Satz langen Erklärung, die lautet: „Die Minderung des Extinktionsrisikos durch KI sollte eine globale Priorität sein, neben anderen Risiken im gesellschaftlichen Maßstab wie Pandemien und Atomkrieg." Die Erklärung wurde von Hunderten bedeutender Persönlichkeiten unterzeichnet, darunter Nobelpreisträger, KI-Forscher und CEOs großer KI-Unternehmen wie OpenAI, Anthropic und Google DeepMind.
Im November 2023 wurde Leahy eingeladen, beim ersten KI-Sicherheitsgipfel im Vereinigten Königreich zu sprechen. Er äußerte Bedenken, dass der Gipfel die Risiken von KI-Systemen, die menschliche Fähigkeiten übertreffen, nicht angemessen ansprechen würde, und argumentierte, dass, wenn solche Systeme ohne angemessene Kontrolle gebaut würden, „die Zukunft ihnen gehört, nicht uns". Er arbeitete mit der gemeinnützigen Organisation ControlAI zusammen, um Regierungen zu einer Pause bei der Entwicklung künstlicher allgemeiner Intelligenz zu bewegen, und kritisierte große KI-Unternehmen dafür, dass sie versuchten, staatlicher Aufsicht und Regulierung auszuweichen.
Spätere Karriere
Im März 2026 kündigte Leahy in einem Rückblick an, dass das Conjecture-Projekt sich dem Ende zuneige und er als US-Direktor zu ControlAI stoße, eine Rolle, in der er zuvor als Berater tätig war. Seine Arbeit bei ControlAI konzentriert sich auf politische Interessenvertretung und öffentliche Aufklärung über die Risiken künstlicher Superintelligenz. Er schreibt und spricht weiterhin öffentlich über KI-Sicherheit und unterhält einen Substack-Newsletter mit dem Titel „Expedition to the Far Lands".
Siehe auch
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell