伊莱恩·赫茨伯格（生于1968年）是一名行人，于2018年3月18日在亚利桑那州坦佩市被优步运营的一辆自动驾驶测试车辆撞击后身亡。她的死亡被广泛认为是首例涉及完全自动驾驶车辆在公共交通中致人死亡的记录，引发了监管审查和行业对自动驾驶安全协议的重新评估。
当地时间晚上约9点58分，赫茨伯格在推着自行车穿越一条四车道道路时，未走人行横道。优步测试车辆是一辆改装过的沃尔沃XC90，配备传感器和Machine learning软件，处于自动驾驶模式，但车内有一名人类安全驾驶员。车辆未能刹车，赫茨伯格当场死亡。事件发生在坦佩市，该市因亚利桑那州宽松的法规而成为自动驾驶测试的中心。
车辆与技术
优步测试车辆依赖一套激光雷达、雷达和摄像头，由车载计算机运行Deep learning算法进行物体检测和决策。根据后来的调查，系统最初将赫茨伯格识别为未知物体，随后识别为自行车，但未将其归类为需要立即刹车的行人。安全驾驶员拉斐尔·瓦斯克斯据报道当时低头看手机，直到撞击前不到一秒才作出反应。
车辆软件的设计优先考虑避免误报，这意味着它有时会忽略未被明确分类的物体。这种在基于Neural network的感知系统中常见的权衡，导致了此次失败。激光雷达系统在碰撞前约1.3秒检测到赫茨伯格，但Machine learning模型未触发紧急停车。
调查与后续
美国国家运输安全委员会（NTSB）调查了这起事故，并于2019年11月发布了最终报告。NTSB发现优步的安全文化不足，指出对测试驾驶员缺乏强有力的监督，且紧急制动系统被禁用。车辆的自动紧急制动被关闭以减少误触发，优步也未有效实施监控驾驶员注意力的系统。
2019年3月，马里科帕县检察官办公室确定优步不承担刑事责任，但安全驾驶员拉斐尔·瓦斯克斯被指控过失杀人罪。2023年7月，瓦斯克斯承认危害安全罪，被判处三年缓刑。优步于2018年与赫茨伯格家属达成民事和解，金额未公开。
监管影响
这起死亡事件导致多个司法管辖区立即暂停自动驾驶测试，包括亚利桑那州、加利福尼亚州和匹兹堡。优步暂停了其自动驾驶项目数月，后来在更严格的安全措施下恢复有限测试。该事件还影响了联邦和州立法，美国许多州引入了报告事故和确保驾驶员参与的新要求。
在全球范围内，此案成为关于Artificial intelligence问责制和自动驾驶系统伦理设计辩论的参考点。它凸显了当前Deep learning方法在处理边缘情况时的局限性，并推动了对更稳健的传感器融合和安全验证方法的研究。
遗产与更广泛背景
赫茨伯格的死亡经常在AI安全和高风险环境中部署Machine learning系统的讨论中被引用。它强调了受控测试与现实世界不可预测性之间的差距，包括照明不良、乱穿马路和异常物体等因素。该事件加速了Waymo和特斯拉自动驾驶等公司改进感知算法和实施冗余安全机制的努力。
此后几年，自动驾驶测试在许多城市恢复，但监管更加严格。此案在Generative AI和更广泛的Artificial intelligence社区中仍是一个警示故事，说明即使是先进的Neural network系统也可能在不可预见的情况下失败。它还促进了RLAIF和其他旨在改善不确定性下决策的训练方法的发展。
公共与伦理考量
这起悲剧引发了关于当AI系统造成伤害时谁应负责的伦理问题。法律学者和伦理学家争论制造商、软件开发者还是人类操作员应承担责任。该事件影响了关于AI对齐和安全关键应用中透明模型解释的讨论。
赫茨伯格的家人成为更严格自动驾驶法规的倡导者，她的名字经常在政策文件和安全标准中被提及。该事件是自动驾驶历史上的里程碑事件，堪比塑造现代安全法规的早期航空事故。截至2024年，尚未记录到涉及完全自动驾驶车辆的类似行人死亡事件，但此案继续为计算机视觉和Robotics领域的持续研究提供信息。