Dario Amodei ist ein US-amerikanischer Forscher im Bereich maschinelles Lernen und Mitbegründer sowie Chief Executive von Anthropic, einem Unternehmen, das er 2021 mitgründete, nachdem er mehrere Jahre in leitenden Forschungspositionen bei OpenAI tätig war.
Frühe Karriere
Amodei hat einen PhD in Biophysik von der Princeton University. Bevor er sich vollständig dem maschinellen Lernen zuwandte, arbeitete er in Andrew Ngs KI-Team bei Baidu und anschließend bei Google Brain. Er trat 2016 OpenAI bei und wurde Vizepräsident für Forschung, wo er an der Entwicklung von GPT-2 und GPT-3 beteiligt war sowie an OpenAIs frühen Sicherheits- und Politikdiskussionen, einschließlich der gestaffelten, vorsichtigen Veröffentlichung von GPT-2 im Jahr 2019.
Gründung von Anthropic
Im Jahr 2021 verließ Amodei OpenAI zusammen mit einer Gruppe von Kollegen, darunter seine Schwester Daniela Amodei, Tom Brown, Jared Kaplan und Chris Olah, um Anthropic zu gründen. Der Abgang wurde damals weithin als Folge von Meinungsverschiedenheiten über die Richtung von OpenAI nach dessen Umstrukturierung im Jahr 2019 zu einem Unternehmen mit gedeckelten Gewinnen und der vertieften Partnerschaft mit Microsoft berichtet. Anthropic wurde um eine These herum aufgebaut, die Amodei wiederholt in öffentlichen Schriften und Interviews beschrieben hat: dass der sicherste Weg darin besteht, dass sicherheitsorientierte Forscher selbst Modelle mit Spitzenleistung entwickeln, anstatt dieses Feld Laboren mit geringerer Sicherheitsausrichtung zu überlassen, damit sie die leistungsfähigsten Systeme direkt untersuchen und gestalten können.
Öffentliches Engagement
Als CEO von Anthropic ist Amodei eine der sichtbarsten Stimmen geworden, die sich gleichzeitig für eine fortgesetzte aggressive Skalierung der KI-Fähigkeiten und für erhebliche Vorsicht und Regulierung in diesem Bereich einsetzen. Die Responsible Scaling Policy von Anthropic (siehe Anthropic-Prinzipien) formalisiert Fähigkeitsschwellen, die zusätzliche Sicherheitsmaßnahmen auslösen sollen. Im Jahr 2024 veröffentlichte Amodei den Aufsatz „Machines of Loving Grace", in dem er argumentierte, dass leistungsfähige KI-Systeme innerhalb eines Jahrzehnts den wissenschaftlichen und medizinischen Fortschritt dramatisch beschleunigen könnten, wenn die Entwicklung gut verläuft - ein bemerkenswert optimistischer Gegenpunkt zu seinen häufigen Warnungen an anderer Stelle vor katastrophalen und existenziellen Risiken durch fortgeschrittene KI (siehe KI-Sicherheit). Er hat vor dem US-Kongress ausgesagt und sich mit politischen Entscheidungsträgern über KI-Governance ausgetauscht.
Führung von Anthropic
Unter Amodei entwickelte Anthropic die Claude-Modellfamilie und die Trainingsmethode Constitutional AI und sammelte Mittel von Investoren wie Google und Amazon ein, blieb jedoch in den meisten Nutzungs- und Umsatzkennzahlen bis Mitte der 2020er Jahre kleiner als OpenAI. Er wird häufig neben Sam Altman als eine der zentralen Figuren profiliert, die die Richtung des breiteren Generative-KI-Booms prägen.