Elaine Herzberg (née en 1968) était une piétonne décédée le 18 mars 2018 à Tempe, en Arizona, après avoir été percutée par un véhicule de test autonome exploité par Uber. Sa mort est largement reconnue comme le premier décès enregistré impliquant un véhicule entièrement autonome dans la circulation publique, suscitant un examen réglementaire et une réévaluation à l'échelle de l'industrie des protocoles de sécurité de la conduite autonome.
À environ 21 h 58, heure locale, Herzberg traversait une route à quatre voies en dehors d'un passage piéton balisé tout en poussant un vélo. Le véhicule de test Uber, un Volvo XC90 modifié équipé de capteurs et d'un logiciel de Machine learning, était en mode autonome avec un conducteur de sécurité humain au volant. Le véhicule n'a pas freiné, et Herzberg est décédée sur les lieux. L'incident s'est produit dans la ville de Tempe, devenue un pôle pour les tests de véhicules autonomes en raison de la réglementation permissive de l'Arizona.
Véhicule et technologie
Le véhicule de test Uber reposait sur un ensemble de lidar, de radar et de caméras, traités par des ordinateurs embarqués exécutant des algorithmes de Deep learning pour la détection d'objets et la prise de décision. Selon les enquêtes ultérieures, le système a d'abord identifié Herzberg comme un objet inconnu, puis comme un vélo, mais ne l'a pas classée comme une piétonne nécessitant un freinage immédiat. Le conducteur de sécurité, Rafaela Vasquez, regardait apparemment un téléphone et n'a réagi que moins d'une seconde avant l'impact.
Le logiciel du véhicule avait une conception qui privilégiait l'évitement des faux positifs, ce qui signifiait qu'il ignorait parfois des objets qui n'étaient pas clairement classifiés. Ce compromis, courant dans les systèmes de perception basés sur les Neural network, a contribué à la défaillance. Le système lidar a détecté Herzberg environ 1,3 seconde avant la collision, mais le modèle de Machine learning n'a pas déclenché d'arrêt d'urgence.
Enquête et conséquences
Le National Transportation Safety Board (NTSB) a enquêté sur l'accident et a publié son rapport final en novembre 2019. Le NTSB a conclu que la culture de sécurité d'Uber était inadéquate, citant un manque de supervision robuste des conducteurs de test et un système de freinage d'urgence désactivé. Le freinage d'urgence automatique du véhicule avait été désactivé pour réduire les activations fausses, et Uber n'avait pas mis en œuvre de système pour surveiller efficacement l'attention des conducteurs.
En mars 2019, le bureau du procureur du comté de Maricopa a déterminé qu'Uber n'était pas pénalement responsable, mais le conducteur de sécurité, Rafaela Vasquez, a été inculpé d'homicide par négligence. En juillet 2023, Vasquez a plaidé coupable de mise en danger et a été condamnée à trois ans de probation. Uber a réglé un procès civil avec la famille de Herzberg en 2018 pour un montant non divulgué.
Impact réglementaire
La mort a entraîné des suspensions immédiates des tests de véhicules autonomes dans plusieurs juridictions, notamment l'Arizona, la Californie et Pittsburgh. Uber a interrompu son programme de conduite autonome pendant plusieurs mois et a ensuite repris des tests limités avec des mesures de sécurité plus strictes. L'incident a également influencé la législation fédérale et étatique, de nombreux États américains introduisant de nouvelles exigences pour signaler les accidents et garantir l'engagement des conducteurs.
À l'échelle mondiale, l'affaire est devenue un point de référence pour les débats sur la responsabilité de l'Artificial intelligence et la conception éthique des systèmes autonomes. Elle a mis en évidence les limites des approches actuelles de Deep learning pour gérer les cas limites et a stimulé la recherche sur une fusion de capteurs plus robuste et des méthodes de validation de sécurité.
Héritage et contexte plus large
La mort de Herzberg est souvent citée dans les discussions sur la sécurité de l'IA et le déploiement de systèmes de Machine learning dans des environnements à enjeux élevés. Elle a souligné l'écart entre les tests contrôlés et l'imprévisibilité du monde réel, y compris des facteurs comme un mauvais éclairage, la traversée hors des passages piétons et des objets inhabituels. L'incident a accéléré les efforts de sociétés comme Waymo et Tesla Autopilot pour améliorer les algorithmes de perception et mettre en œuvre des mécanismes de sécurité redondants.
Dans les années qui ont suivi, les tests de véhicules autonomes ont repris dans de nombreuses villes, mais avec une supervision plus rigoureuse. L'affaire reste un récit d'avertissement dans la communauté de la Generative AI et plus largement de l'Artificial intelligence, illustrant que même des systèmes avancés de Neural network peuvent échouer dans des circonstances imprévues. Elle a également contribué au développement de RLAIF et d'autres méthodes d'entraînement visant à améliorer la prise de décision en situation d'incertitude.
Considérations publiques et éthiques
La tragédie a soulevé des questions éthiques sur qui est responsable lorsqu'un système d'IA cause un préjudice. Les juristes et les éthiciens ont débattu pour savoir si le fabricant, le développeur de logiciels ou l'opérateur humain devait assumer la responsabilité. L'affaire a influencé les discussions sur l'alignement de l'IA et la nécessité d'une interprétation transparente des modèles dans les applications critiques pour la sécurité.
La famille de Herzberg est devenue une défenseure de réglementations plus strictes sur les véhicules autonomes, et son nom est fréquemment invoqué dans les documents de politique et les normes de sécurité. L'incident est un événement marquant dans l'histoire de la conduite autonome, comparable aux premiers accidents de l'aviation qui ont façonné les réglementations de sécurité modernes. En 2024, aucun décès similaire de piéton impliquant un véhicule entièrement autonome n'a été enregistré, bien que l'affaire continue d'informer la recherche en cours en vision par ordinateur et en Robotics.