エレイン・ハーツバーグ（1968年生まれ）は、2018年3月18日にアリゾナ州テンピで、Uberが運行する自動運転試験車両に衝突され死亡した歩行者である。彼女の死亡は、完全自動運転車両による公道での初の記録された死亡事故として広く認識されており、規制当局の監視と自動運転の安全プロトコルに関する業界全体の再評価を促した。
現地時間の午後9時58分頃、ハーツバーグは自転車を押しながら横断歩道の外で4車線の道路を横断していた。Uberの試験車両は、センサーとMachine learningソフトウェアを搭載した改造ボルボXC90で、自動運転モードで走行しており、人間の安全ドライバーがハンドルを握っていた。車両はブレーキをかけず、ハーツバーグはその場で死亡した。この事故は、アリゾナ州の寛容な規制により自動運転試験の拠点となっていたテンピ市で発生した。
車両と技術
Uberの試験車両は、ライダー、レーダー、カメラの一式に依存し、Deep learningアルゴリズムを実行する車載コンピューターで物体検出と意思決定を行っていた。後の調査によると、システムはハーツバーグを最初は未知の物体として識別し、次に自転車として識別したが、即時ブレーキを必要とする歩行者として分類しなかった。安全ドライバーのラファエラ・バスケスは、スマートフォンを見下ろしており、衝突の1秒未満前まで反応しなかったと報告されている。
車両のソフトウェアは、誤検知を回避することを優先する設計であり、明確に分類されていない物体を無視することがあった。このトレードオフは、Neural networkベースの認識システムに共通するもので、事故の一因となった。ライダーシステムは衝突の約1.3秒前にハーツバーグを検出したが、Machine learningモデルは緊急停止を発動しなかった。
調査と余波
国家運輸安全委員会（NTSB）はこの事故を調査し、2019年11月に最終報告書を発表した。NTSBは、Uberの安全文化が不十分であり、試験ドライバーに対する堅牢な監督の欠如と、緊急ブレーキシステムの無効化を指摘した。車両の自動緊急ブレーキは誤作動を減らすためにオフにされており、Uberはドライバーの注意力を効果的に監視するシステムを実装していなかった。
2019年3月、マリコパ郡検察局はUberに刑事責任はないと判断したが、安全ドライバーのラファエラ・バスケスは過失致死で起訴された。2023年7月、バスケスは危険行為への有罪を認め、3年間の保護観察を言い渡された。Uberは2018年にハーツバーグの家族との民事訴訟を非公開の金額で和解した。
規制への影響
この死亡事故は、アリゾナ州、カリフォルニア州、ピッツバーグを含む複数の管轄区域で自動運転試験の即時停止につながった。Uberは自動運転プログラムを数ヶ月間停止し、その後、より厳格な安全対策を講じて限定的な試験を再開した。この事故は連邦および州の法律にも影響を与え、多くの米国の州が事故報告とドライバーの関与確保に関する新たな要件を導入した。
世界的に、この事件はArtificial intelligenceの説明責任と自動運転システムの倫理設計に関する議論の参照点となった。これは、現在のDeep learningアプローチがエッジケースを処理する際の限界を浮き彫りにし、より堅牢なセンサーフュージョンと安全性検証方法の研究を促した。
遺産とより広い文脈
ハーツバーグの死亡は、AI安全性と高リスク環境でのMachine learningシステムの展開に関する議論で頻繁に引用されている。これは、管理された試験と現実世界の予測不可能性（暗い照明、無謀な横断、異常な物体など）との間のギャップを強調した。この事故は、Waymoやテスラ・オートパイロットなどの企業が認識アルゴリズムを改善し、冗長な安全メカニズムを実装する取り組みを加速させた。
その後数年間で、自動運転試験は多くの都市で再開されたが、より厳格な監督が伴った。この事件は、Generative AIおよびより広いArtificial intelligenceコミュニティにおける警告の物語として残り、高度なNeural networkシステムでさえ予期しない状況で失敗し得ることを示している。また、不確実性下での意思決定を改善することを目的としたRLAIFやその他のトレーニング方法の開発にも貢献した。
公共および倫理的考察
この悲劇は、AIシステムが害を引き起こした場合に誰が責任を負うべきかという倫理的疑問を提起した。法律学者や倫理学者は、製造業者、ソフトウェア開発者、または人間のオペレーターのいずれが責任を負うべきかを議論した。この事件は、AIアライメントと安全クリティカルなアプリケーションにおける透明なモデル解釈の必要性に関する議論に影響を与えた。
ハーツバーグの家族は、より厳格な自動運転規制の擁護者となり、彼女の名前は政策文書や安全基準で頻繁に言及されている。この事故は自動運転の歴史における画期的な出来事であり、現代の安全規制を形成した初期の航空事故に匹敵する。2024年時点で、完全自動運転車両による同様の歩行者死亡事故は記録されていないが、この事件はコンピュータービジョンとRoboticsの進行中の研究に情報を提供し続けている。