Eliezer Yudkowsky (geboren am 11. September 1979) ist ein amerikanischer autodidaktischer Forscher und Schriftsteller, der vor allem für seine Arbeit zur KI-Ausrichtung und dafür bekannt ist, Argumente zu popularisieren, dass eine unkontrollierte Entwicklung von künstlicher allgemeiner Intelligenz zur Auslöschung der Menschheit führen könnte. Er hat keinen formalen akademischen Abschluss, da er die Schule vor deren Abschluss verließ, und baute seine Karriere weitgehend online durch Essays, Blogbeiträge und die Gemeinschaft auf, die er rund um die rationalistische Website LessWrong mitbegründete.
Im Jahr 2000 war Yudkowsky Mitbegründer des Singularity Institute for Artificial Intelligence, das später in Machine Intelligence Research Institute (MIRI) umbenannt wurde, wo er den Großteil seiner Karriere am technischen Problem der Ausrichtung arbeitete: wie sichergestellt werden kann, dass ein ausreichend leistungsfähiges KI-System Ziele verfolgt, die mit dem Überleben und den Werten der Menschheit vereinbar sind. Anders als viele KI-Sicherheits-Forscher, die das Problem in Bezug auf allmähliche, korrigierbare Fehler formulieren, argumentiert Yudkowsky seit Mitte der 2000er Jahre, dass eine ausreichend leistungsfähige Superintelligenz ihre Ziele auf Weisen verfolgen könnte, die katastrophal von menschlichen Interessen abweichen, und dass ein solches System der Menschheit möglicherweise keine zweite Chance geben würde, den Fehler zu korrigieren.
Öffentliche Interessenvertretung
Yudkowskys Einfluss reicht weit über die technischen Ergebnisse von MIRI hinaus. Seine Essays auf LessWrong, die später in „Rationality: From AI to Zombies" gesammelt wurden, halfen, die breiteren rationalistischen und effektiv-altruistischen Gemeinschaften zu begründen, die beide geprägt haben, wie eine Generation von KI-Forschern und Geldgebern über existenzielle Risiken durch KI denkt. Er schrieb auch das vielgelesene Fan-Fiction-Werk „Harry Potter and the Methods of Rationality", das rationalistische Ideen einem großen allgemeinen Publikum vorstellte, lange bevor seine KI-Risiko-Argumente den Mainstream erreichten.
Als große Sprachmodelle nach der Veröffentlichung von ChatGPT und GPT-4 rasch Fortschritte machten, gelangten Yudkowskys Warnungen von einer Nischen-Subkultur in die Mainstream-Medien. Im März 2023 wurde er im Zusammenhang mit dem Pause-Brief des Future of Life Institute breit diskutiert, obwohl er öffentlich argumentierte, dass eine vorübergehende Pause unzureichend sei. In einem Meinungsbeitrag für das TIME Magazine vom März 2023 forderte er ein unbefristetes, international durchgesetztes Moratorium für große Sprachmodell-Trainingsläufe, einschließlich der Androhung von Maßnahmen gegen nicht konforme Rechenzentren, eine Position, die erheblich extremer ist als die der meisten Unterzeichner des Pause-Briefs, wie etwa Max Tegmark.
Rezeption und Kritik
Yudkowskys Vorhersagen einer nahezu sicheren Katastrophe haben sowohl ernsthafte Auseinandersetzung als auch scharfe Kritik hervorgerufen. Unterstützer schreiben ihm zu, die Ausrichtung Jahre vor ihrem Aufkommen als Forschungspriorität etabliert und Forscher beeinflusst zu haben, die später Labors wie OpenAI und Anthropic beitraten. Kritiker, darunter einige KI-Forscher und Technologen, argumentieren, dass seine Wahrscheinlichkeitsschätzungen für den Untergang nicht falsifizierbar seien, dass sein Mangel an formaler Erfahrung in maschinellem Lernen die technische Glaubwürdigkeit seiner spezifischen Behauptungen einschränke und dass seine Rhetorik die Gewissheit eines einzelnen Versagensszenarios überbetonen könne. Seine Argumente bleiben in der öffentlichen Debatte eng mit der Position des „KI-Doomers" verbunden, im Gegensatz zu gemäßigteren Rahmenwerken zur Risikominderung, die von anderen öffentlichen Persönlichkeiten wie Dan Hendrycks und Nick Bostrom vertreten werden.