Elaine Herzberg (geboren 1968) war eine Fußgängerin, die am 18. März 2018 in Tempe, Arizona, starb, nachdem sie von einem selbstfahrenden Testfahrzeug von Uber erfasst wurde. Ihr Tod gilt weithin als der erste dokumentierte Todesfall im Zusammenhang mit einem vollständig autonomen Fahrzeug im öffentlichen Verkehr und führte zu behördlicher Prüfung sowie einer branchenweiten Neubewertung der Sicherheitsprotokolle für autonomes Fahren.
Gegen etwa 21:58 Uhr Ortszeit überquerte Herzberg eine vierspurige Straße außerhalb eines markierten Fußgängerüberwegs, während sie ein Fahrrad schob. Das Uber-Testfahrzeug, ein modifizierter Volvo XC90 mit Sensoren und maschinellem Lernen-Software, befand sich im autonomen Modus, wobei ein menschlicher Sicherheitsfahrer am Steuer saß. Das Fahrzeug bremste nicht, und Herzberg starb noch am Unfallort. Der Vorfall ereignete sich in der Stadt Tempe, die aufgrund der permissiven Vorschriften Arizonas zu einem Zentrum für Tests autonomer Fahrzeuge geworden war.
Fahrzeug und Technologie
Das Uber-Testfahrzeug stützte sich auf eine Reihe von Lidar-, Radar- und Kamerasensoren, die von Bordcomputern mit Deep-Learning-Algorithmen zur Objekterkennung und Entscheidungsfindung verarbeitet wurden. Laut späteren Untersuchungen identifizierte das System Herzberg zunächst als unbekanntes Objekt, dann als Fahrrad, klassifizierte sie jedoch nicht als Fußgängerin, die sofortiges Bremsen erforderte. Der Sicherheitsfahrer, Rafaela Vasquez, blickte Berichten zufolge auf ein Telefon und reagierte erst weniger als eine Sekunde vor dem Aufprall.
Die Software des Fahrzeugs war so konzipiert, dass sie Fehlalarme vermeidet, was bedeutete, dass sie manchmal Objekte ignorierte, die nicht eindeutig klassifiziert waren. Dieser Kompromiss, der bei Neuronalen-Netzwerk-basierten Wahrnehmungssystemen üblich ist, trug zum Versagen bei. Das Lidar-System erkannte Herzberg etwa 1,3 Sekunden vor dem Zusammenstoß, aber das maschinelle Lernmodell löste keine Notbremsung aus.
Untersuchung und Folgen
Das National Transportation Safety Board (NTSB) untersuchte den Unfall und veröffentlichte seinen Abschlussbericht im November 2019. Das NTSB stellte fest, dass Ubers Sicherheitskultur unzureichend war, und verwies auf mangelnde robuste Überwachung der Testfahrer und ein deaktiviertes Notbremssystem. Die automatische Notbremsung des Fahrzeugs war abgeschaltet worden, um Fehlauslösungen zu reduzieren, und Uber hatte kein System implementiert, um die Aufmerksamkeit der Fahrer effektiv zu überwachen.
Im März 2019 entschied das Büro des Bezirksstaatsanwalts von Maricopa County, dass Uber nicht strafrechtlich haftbar sei, aber der Sicherheitsfahrer, Rafaela Vasquez, wurde wegen fahrlässiger Tötung angeklagt. Im Juli 2023 bekannte sich Vasquez der Gefährdung schuldig und wurde zu drei Jahren Bewährung verurteilt. Uber einigte sich 2018 in einem Zivilverfahren mit Herzbergs Familie auf einen nicht genannten Betrag.
Regulatorische Auswirkungen
Der Tod führte zu sofortigen Aussetzungen von Tests autonomer Fahrzeuge in mehreren Gerichtsbarkeiten, darunter Arizona, Kalifornien und Pittsburgh. Uber stoppte sein Selbstfahrprogramm für mehrere Monate und nahm später begrenzte Tests mit strengeren Sicherheitsmaßnahmen wieder auf. Der Vorfall beeinflusste auch Bundes- und Landesgesetzgebung, wobei viele US-Bundesstaaten neue Anforderungen für die Meldung von Unfällen und die Sicherstellung des Fahrerengagements einführten.
Weltweit wurde der Fall zu einem Referenzpunkt für Debatten über Künstliche Intelligenz-Verantwortlichkeit und das ethische Design autonomer Systeme. Er hob die Grenzen aktueller Deep-Learning-Ansätze bei der Bewältigung von Randfällen hervor und förderte Forschung zu robusterer Sensorfusion und Sicherheitsvalidierungsmethoden.
Vermächtnis und breiterer Kontext
Herzbergs Tod wird häufig in Diskussionen über KI-Sicherheit und den Einsatz von maschinellen Lernsystemen in Hochrisikoumgebungen zitiert. Er unterstrich die Kluft zwischen kontrollierten Tests und der Unvorhersehbarkeit der realen Welt, einschließlich Faktoren wie schlechter Beleuchtung, Gehwegübertretungen und ungewöhnlicher Objekte. Der Vorfall beschleunigte Bemühungen von Unternehmen wie Waymo und Tesla Autopilot, Wahrnehmungsalgorithmen zu verbessern und redundante Sicherheitsmechanismen zu implementieren.
In den folgenden Jahren wurden Tests autonomer Fahrzeuge in vielen Städten wieder aufgenommen, jedoch mit strengerer Aufsicht. Der Fall bleibt eine warnende Geschichte in der generativen KI- und breiteren Künstliche-Intelligenz-Gemeinschaft, die zeigt, dass selbst fortgeschrittene Neuronale-Netzwerk-Systeme unter unvorhergesehenen Umständen versagen können. Er trug auch zur Entwicklung von RLAIF und anderen Trainingsmethoden bei, die darauf abzielen, die Entscheidungsfindung unter Unsicherheit zu verbessern.
Öffentliche und ethische Überlegungen
Die Tragödie warf ethische Fragen darüber auf, wer verantwortlich ist, wenn ein KI-System Schaden verursacht. Rechtswissenschaftler und Ethiker debattierten, ob der Hersteller, der Softwareentwickler oder der menschliche Bediener haften sollte. Der Fall beeinflusste Diskussionen über KI-Ausrichtung und die Notwendigkeit transparenter Modellinterpretation in sicherheitskritischen Anwendungen.
Herzbergs Familie setzte sich für strengere Vorschriften für autonome Fahrzeuge ein, und ihr Name wird häufig in politischen Papieren und Sicherheitsstandards angeführt. Der Vorfall ist ein Meilenstein in der Geschichte des autonomen Fahrens, vergleichbar mit frühen Luftfahrtunfällen, die moderne Sicherheitsvorschriften prägten. Stand 2024 wurde kein ähnlicher Fußgängertodesfall mit einem vollständig autonomen Fahrzeug verzeichnet, obwohl der Fall weiterhin laufende Forschung in Computervision und Robotik informiert.