Elaine Herzberg (geboren 1968) war eine Fußgängerin, die am 18. März 2018 in Tempe, Arizona, starb, nachdem sie von einem selbstfahrenden Testfahrzeug von Uber erfasst worden war. Ihr Tod gilt weithin als der erste dokumentierte Todesfall im Zusammenhang mit einem vollständig autonomen Fahrzeug im öffentlichen Verkehr und führte zu behördlicher Prüfung sowie einer branchenweiten Neubewertung der Sicherheitsprotokolle für autonomes Fahren.
Gegen etwa 21:58 Uhr Ortszeit überquerte Herzberg eine vierspurige Straße außerhalb eines markierten Fußgängerüberwegs, während sie ein Fahrrad schob. Das Uber-Testfahrzeug, ein modifizierter Volvo XC90 mit Sensoren und Maschinenlern-Software, befand sich im autonomen Modus, wobei ein menschlicher Sicherheitsfahrer am Steuer saß. Das Fahrzeug bremste nicht, und Herzberg starb noch am Unfallort. Der Vorfall ereignete sich in der Stadt Tempe, die aufgrund der permissiven Vorschriften in Arizona zu einem Zentrum für Tests autonomer Fahrzeuge geworden war.
Fahrzeug und Technologie
Das Uber-Testfahrzeug stützte sich auf eine Reihe von Lidar-, Radar- und Kamerasensoren, die von Bordcomputern mit Deep-Learning-Algorithmen zur Objekterkennung und Entscheidungsfindung verarbeitet wurden. Laut späteren Untersuchungen identifizierte das System Herzberg zunächst als unbekanntes Objekt, dann als Fahrrad, klassifizierte sie jedoch nicht als Fußgängerin, die ein sofortiges Bremsen erforderte. Der Sicherheitsfahrer, Rafaela Vasquez, blickte Berichten zufolge auf ein Telefon und reagierte erst weniger als eine Sekunde vor dem Aufprall.
Die Software des Fahrzeugs war so ausgelegt, dass sie falsch positive Erkennungen vermeiden sollte, was bedeutete, dass sie manchmal Objekte ignorierte, die nicht eindeutig klassifiziert waren. Dieser Kompromiss, der in neuralen Netzwerken basierten Wahrnehmungssystemen üblich ist, trug zum Versagen bei. Das Lidar-System erkannte Herzberg etwa 1,3 Sekunden vor dem Zusammenstoß, aber das Maschinenlern-Modell löste keinen Notstopp aus.
Untersuchung und Folgen
Die National Transportation Safety Board (NTSB) untersuchte den Unfall und veröffentlichte ihren Abschlussbericht im November 2019. Die NTSB stellte fest, dass Ubers Sicherheitskultur unzureichend war, und verwies auf mangelnde robuste Überwachung der Testfahrer und ein deaktiviertes Notbremssystem. Die automatische Notbremsung des Fahrzeugs war deaktiviert worden, um falsche Auslösungen zu reduzieren, und Uber hatte kein System zur effektiven Überwachung der Aufmerksamkeit der Fahrer implementiert.
Im März 2019 entschied das Büro des Bezirksstaatsanwalts von Maricopa County, dass Uber nicht strafrechtlich haftbar sei, aber der Sicherheitsfahrer, Rafaela Vasquez, wurde wegen fahrlässiger Tötung angeklagt. Im Juli 2023 bekannte sich Vasquez der Gefährdung schuldig und wurde zu drei Jahren Bewährung verurteilt. Uber einigte sich 2018 in einem Zivilverfahren mit Herzbergs Familie auf einen nicht genannten Betrag.
Regulatorische Auswirkungen
Der Tod führte zu sofortigen Aussetzungen von Tests autonomer Fahrzeuge in mehreren Gerichtsbarkeiten, darunter Arizona, Kalifornien und Pittsburgh. Uber pausierte sein Selbstfahrprogramm für mehrere Monate und nahm später begrenzte Tests mit strengeren Sicherheitsmaßnahmen wieder auf. Der Vorfall beeinflusste auch Bundes- und Landesgesetzgebung, wobei viele US-Bundesstaaten neue Anforderungen für die Meldung von Unfällen und die Sicherstellung der Fahreraufmerksamkeit einführten.
Weltweit wurde der Fall zu einem Referenzpunkt für Debatten über die Verantwortlichkeit von künstlicher Intelligenz und das ethische Design autonomer Systeme. Er hob die Grenzen aktueller Deep-Learning-Ansätze bei der Bewältigung von Randfällen hervor und förderte Forschung zu robusterer Sensorfusion und Sicherheitsvalidierungsmethoden.
Vermächtnis und breiterer Kontext
Herzbergs Tod wird häufig in Diskussionen über KI-Sicherheit und den Einsatz von Maschinenlern-Systemen in risikoreichen Umgebungen zitiert. Er unterstrich die Kluft zwischen kontrollierten Tests und der Unvorhersehbarkeit der realen Welt, einschließlich Faktoren wie schlechter Beleuchtung, Überqueren der Straße an unerlaubten Stellen und ungewöhnlichen Objekten. Der Vorfall beschleunigte Bemühungen von Unternehmen wie Waymo und Tesla Autopilot, Wahrnehmungsalgorithmen zu verbessern und redundante Sicherheitsmechanismen zu implementieren.
In den folgenden Jahren wurden Tests autonomer Fahrzeuge in vielen Städten wieder aufgenommen, jedoch mit strengerer Aufsicht. Der Fall bleibt eine warnende Geschichte in der generativen KI- und breiteren KI-Gemeinschaft und zeigt, dass selbst fortschrittliche neuronale Netzwerk-Systeme unter unvorhergesehenen Umständen versagen können. Er trug auch zur Entwicklung von RLAIF und anderen Trainingsmethoden bei, die darauf abzielen, die Entscheidungsfindung unter Unsicherheit zu verbessern.
Öffentliche und ethische Überlegungen
Die Tragödie warf ethische Fragen darüber auf, wer verantwortlich ist, wenn ein KI-System Schaden verursacht. Rechtswissenschaftler und Ethiker debattierten, ob der Hersteller, der Softwareentwickler oder der menschliche Bediener haften sollte. Der Fall beeinflusste Diskussionen über KI-Ausrichtung und die Notwendigkeit transparenter Modellinterpretation in sicherheitskritischen Anwendungen.
Herzbergs Familie wurde zu Fürsprechern strengerer Vorschriften für autonome Fahrzeuge, und ihr Name wird häufig in politischen Papieren und Sicherheitsstandards angeführt. Der Vorfall ist ein Meilenstein in der Geschichte des autonomen Fahrens, vergleichbar mit frühen Flugzeugunfällen, die moderne Sicherheitsvorschriften prägten. Bis 2024 wurde kein ähnlicher Todesfall eines Fußgängers im Zusammenhang mit einem vollständig autonomen Fahrzeug dokumentiert, obwohl der Fall weiterhin die laufende Forschung in Computer Vision und Robotik informiert.