Max Tegmark (geboren 1967 in Stockholm, Schweden) ist ein Physiker, Kosmologe und Professor am Massachusetts Institute of Technology, bekannt für seine Forschung zum Multiversum und den mathematischen Strukturen, die der physikalischen Realität zugrunde liegen. Seit Mitte der 2010er Jahre ist er eine der sichtbarsten Persönlichkeiten des öffentlichen Lebens, die sich für Vorsicht bei der Entwicklung von künstlicher allgemeiner Intelligenz einsetzen, vor allem durch die von ihm mitbegründete und inzwischen geleitete gemeinnützige Organisation Future of Life Institute (FLI).
Tegmark gründete das FLI 2014 gemeinsam mit mehreren Kollegen, darunter Skype-Mitbegründer Jaan Tallinn, um Arbeiten zur Verringerung von Risiken durch transformative Technologien zu finanzieren und zu koordinieren, wobei der anfängliche Schwerpunkt auf existenziellen Risiken durch KI lag. 2017 organisierte das Institut die Asilomar-Konferenz zu nutzbringender KI, die eine vielzitierte Reihe von Grundsätzen für eine verantwortungsvolle KI-Entwicklung hervorbrachte, die von Hunderten von Forschern unterzeichnet wurden. Das FLI hat sich seither zu einer der am besten finanzierten Interessenvertretungen entwickelt, die sich speziell mit KI-Sicherheit und -Governance befassen.
Life 3.0 und öffentliches Engagement
2017 veröffentlichte Tegmark „Life 3.0: Der Mensch in der Ära Künstlicher Intelligenz", ein Buch, das eine Reihe von Szenarien für die Entwicklung transformativer KI darlegt, von vorteilhaften bis hin zu katastrophalen Ausgängen, und das ein Rahmenwerk populär machte, das „Leben 1.0, 2.0 und 3.0" als Stufen der biologischen, kulturellen und technologischen Evolution der Intelligenz beschreibt. Das Buch wurde zu einem vielzitierten Bezugspunkt in der öffentlichen Diskussion über Superintelligenz und trug dazu bei, Konzepte aus der KI-Sicherheitsforschung einem breiten Leserkreis näherzubringen.
Tegmarks öffentlichkeitswirksamster Moment kam im März 2023, als das FLI den offenen Brief „Pause Giant AI Experiments" veröffentlichte, bekannt als Pause-Brief, der KI-Labore dazu aufrief, das Training von Modellen, die leistungsfähiger als GPT-4 sind, für mindestens sechs Monate zu unterbrechen. Der Brief, an dessen Organisation und Verbreitung Tegmark beteiligt war, wurde von Tausenden von Forschern und Technologen unterzeichnet, darunter Elon Musk und andere prominente Persönlichkeiten, und erzeugte eine erhebliche Berichterstattung in den Mainstream-Medien über KI-Risiken, obwohl die geforderte Pause nie eintrat. Seitdem setzt er sich weiterhin für verbindliche internationale Regulierung ein und engagiert sich in Initiativen wie dem EU-KI-Gesetz und dem Bletchley-Abkommen.
Positionen und Rezeption
Tegmark rahmt das KI-Risiko im Allgemeinen sowohl im Hinblick auf konkrete, kurzfristige Governance-Fehler als auch auf längerfristige Katastrophenszenarien ein und positioniert sich damit zwischen den kategorischeren Prognosen von Forschern wie Eliezer Yudkowsky und den Stimmen der Mainstream-Industrie, die eine weniger strenge Regulierung befürworten. Kritiker haben argumentiert, dass die Kampagnen des FLI manchmal spekulative langfristige Risiken mit unmittelbareren Schäden wie Voreingenommenheit und Fehlinformationen vermischen und dadurch den Fokus auf beides verwässern. Unterstützer schreiben Tegmark zu, technische Bedenken zur Ausrichtung in eine Sprache übersetzt zu haben, die politische Entscheidungsträger und die breite Öffentlichkeit früher und effektiver erreichte als die meiste akademische KI-Sicherheitsforschung.