Stuart Russell ist ein britischer Informatiker und Professor an der University of California, Berkeley, der vor allem als Mitautor, zusammen mit Peter Norvig, von Artificial Intelligence: A Modern Approach (AIMA) bekannt ist, dem seit seiner ersten Auflage 1995 am weitesten verbreiteten einführenden Lehrbuch in diesem Fachgebiet.
Karriere
1962 in Portsmouth, England, geboren, studierte Russell Physik in Oxford, bevor er 1986 an der Stanford University in Informatik promovierte. Im selben Jahr wechselte er nach Berkeley und ist dort seitdem geblieben, wo er an Themen arbeitet, die von probabilistischem Schließen über Wissensrepräsentation bis hin zu Verstärkendem Lernen reichen. AIMA, das inzwischen in mehreren Auflagen vorliegt, präsentiert künstliche Intelligenz als ein einheitliches Feld, das um das Konzept eines rationalen Agenten organisiert ist, und hat geprägt, wie Generationen von Studierenden in das Fach eingeführt werden, einschließlich der Inhalte zu Suche, Logik, Planung und maschinellem Lernen, die einen Großteil der modernen KI untermauern.
Menschenkompatible KI
Seit Mitte der 2010er Jahre ist Russell eine der prominentesten akademischen Stimmen, die argumentieren, dass das „Standardmodell“ der KI, bei dem ein System darauf ausgelegt ist, ein festes, von Menschen spezifiziertes Ziel zu optimieren, grundlegend riskant wird, sobald Systeme leistungsfähiger werden, weil jedes fehlspezifizierte Ziel auf unbeabsichtigte und schädliche Weise verfolgt werden kann. In seinem Buch Human Compatible von 2019 schlägt er eine Alternative vor, die er „nachweislich vorteilhafte“ KI nennt, bei der Maschinen so gestaltet sind, dass sie bewusst unsicher über menschliche Präferenzen bleiben und sich der menschlichen Aufsicht unterordnen, anstatt selbstbewusst ein fest verdrahtetes Ziel zu verfolgen - ein Rahmen, der eng mit dem breiteren Forschungsfeld der Ausrichtung verbunden ist.
Russell gründete und leitet das Center for Human-Compatible AI (CHAI) in Berkeley, das technische Ansätze untersucht, um fortschrittliche KI-Systeme unter sinnvoller menschlicher Kontrolle zu halten. Er war Unterzeichner des Pause-Briefs von 2023, der ein Moratorium für das Training der leistungsfähigsten Modelle forderte, und hat vor nationalen und internationalen Gremien zu KI-Risiken und Regulierung ausgesagt, womit er seine Arbeit in die breitere Debatte über KI-Sicherheit und existenzielle Risiken durch KI einordnet, neben Forschern wie Yoshua Bengio. Russell hat argumentiert, dass das selbst erklärte langfristige Ziel des Feldes, Maschinen zu bauen, die in praktisch allen Aufgaben eine menschengleiche oder überlegene allgemeine Intelligenz erreichen oder übertreffen, Forscher dazu verpflichtet, ernsthaft zu bedenken, was geschieht, wenn dieses Ziel erreicht wird, ohne zuvor das Kontrollproblem zu lösen - eine Sorge, die auch für die Arbeit an der Sicherheit von allgemeiner künstlicher Intelligenz zentral ist.