Dan Hendrycks ist ein amerikanischer Informatiker und der geschäftsführende sowie Forschungsdirektor des Center for AI Safety (CAIS), einer gemeinnützigen Organisation, die sich auf die Reduzierung großflächiger Risiken durch künstliche Intelligenz konzentriert. Er promovierte in Informatik an der University of California, Berkeley, wo seine Forschung zu Robustheit und maschinellem Lernbewertung einige der am weitesten verbreiteten Benchmarks auf diesem Gebiet hervorbrachte.
Benchmarks
Während seines Studiums leitete Hendrycks die Erstellung des Massive Multitask Language Understanding Benchmarks, bekannt als MMLU, der erstmals 2020 veröffentlicht wurde. MMLU testet Modelle in 57 akademischen und beruflichen Fächern und wurde zu einem der Standardmaßstäbe für die LLM evaluation, der in fast jeder größeren Veröffentlichung von Large language model seit GPT-3 zitiert wird. Er trug auch zu anderen weit verbreiteten Bewertungsdatensätzen bei, darunter MATH, ein Benchmark für Wettbewerbsmathematikprobleme, und half, Methoden zur Messung von Hallucination (AI) und Robustheit in Machine learning-Systemen allgemein zu popularisieren.
Center for AI Safety und die Extinktionserklärung
Hendrycks gründete CAIS, um technische Sicherheitsforschung zu finanzieren und das Profil katastrophaler KI-Risiken als ein Mainstream-Politikanliegen zu schärfen, wobei er akademische und politische Arbeiten zu Themen wie Reward hacking, Modellrobustheit und AI alignment veröffentlichte. Im Mai 2023 veröffentlichte CAIS die "Statement on AI Risk", einen einzelnen Satz, der besagt, dass die Minderung des Risikos des Aussterbens durch KI eine globale Priorität neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg sein sollte. Die Erklärung wurde von Hunderten von Forschern und Führungskräften unterzeichnet, darunter Leiter von OpenAI, Anthropic und Google DeepMind, und wurde weithin als Zeichen dafür berichtet, dass die Besorgnis über Existential risk from AI sich von einer Randposition zu einer Position bewegt hatte, die in der gesamten Mainstream-KI-Forschungsgemeinschaft vertreten wird.
Hendrycks wurde später Sicherheitsberater bei xAI, Elon Musks KI-Unternehmen, was einige Kritik von Kommentatoren hervorrief, die die Vereinbarkeit dieser Rolle mit seiner öffentlichen Risikobefürwortung in Frage stellten. Er war auch Mitautor eines offenen Lehrbuchs, "Introduction to AI Safety, Ethics, and Society", das darauf abzielt, KI-Sicherheit als akademisches Fach zu formalisieren, das neben traditionellen maschinellen Lernkursen unterrichtet wird.
Rezeption
Hendrycks wird im Allgemeinen innerhalb des Feldes als eine mittlere Position zwischen den kategorischeren Vorhersagen von Forschern wie Eliezer Yudkowsky und Branchenvertretern, die skeptisch gegenüber nahem katastrophalem Risiko sind, angesehen. Seine empirischen Beiträge, insbesondere MMLU, werden unabhängig von seiner Befürwortungsarbeit zitiert und von Forschern über das gesamte Spektrum der Ansichten zu KI-Risiken verwendet, einschließlich Laboren, die öffentlich Teile seiner politischen Positionen ablehnen. Kritiker haben in Frage gestellt, ob Benchmarks wie MMLU gesättigt oder ausgespielt werden, da Modelle zunehmend mit Daten trainiert werden, die sich mit Bewertungssätzen überschneiden, eine Kritik, die Hendrycks anerkannt und mit Folge-Benchmarks, die schwieriger sind, adressiert hat.