エレイン・ハーツバーグ（1968年生まれ）は、2018年3月18日にアリゾナ州テンピで、Uberが運行する自動運転テスト車両にはねられて死亡した歩行者である。彼女の死亡は、一般交通において完全自動運転車両が関与した初めての記録された死亡事故として広く認識されており、規制上の監視と、自動運転の安全プロトコルに関する業界全体の再評価を促した。
現地時間の午後9時58分頃、ハーツバーグは、自転車を押しながら、標識のある横断歩道の外で4車線の道路を横断していた。Uberのテスト車両は、センサーとMachine learningソフトウェアを備えた改造ボルボXC90で、人間の安全運転手がハンドルを握る中、自動運転モードにあった。車両はブレーキをかけず、ハーツバーグはその場で死亡した。この事故は、アリゾナ州の寛容な規制により自動運転車両テストの拠点となっていたテンピ市で発生した。
車両と技術
Uberのテスト車両は、ライダー、レーダー、カメラの一式に依存し、物体検出と意思決定のためのDeep learningアルゴリズムを実行する搭載コンピュータによって処理されていた。その後の調査によると、システムは当初ハーツバーグを未知の物体として識別し、次に自転車として識別したが、即時ブレーキを必要とする歩行者としては分類しなかった。安全運転手のラファエラ・バスケスは、携帯電話を見下ろしていたと報告され、衝突の1秒未満前まで反応しなかったとされる。
車両のソフトウェアには、誤検知を優先的に回避する設計があり、明確に分類されていない物体を時折無視することがあった。このトレードオフは、Neural networkベースの知覚システムに共通するものだが、失敗の一因となった。ライダーシステムは、衝突の約1.3秒前にハーツバーグを検出したが、Machine learningモデルは緊急停止を発動しなかった。
##調査と余波
米国国家運輸安全委員会（NTSB）はこの衝突事故を調査し、2019年11月に最終報告書を発表した。NTSBは、Uberの安全文化が不十分であるとし、テスト運転手に対する堅牢な監督の欠如と、緊急ブレーキシステムの無効化を挙げた。車両の自動緊急ブレーキは、誤作動を減らすためにオフにされており、Uberは運転手の注意力を効果的に監視するシステムを導入していなかった。
。
2019年3月、マリコパ郡検察局は、Uberに刑事責任はないと判断したが、安全運転手のラファエラ・バスケスは、過失致死罪で起訴された。2023年7月、バスケスは危険行為に対する有罪答弁を行い、3年間の保護観察を言い渡された。Uberは2018年にハーツバーグの家族との民事訴訟を非公開の金額で和解した。
##規制への影響
この死亡事故は、アリゾナ州、カリフォルニア州、ピッツバーグを含む複数の管轄区域で、自動運転車両テストの即時停止につながった。Uberは自動運転プログラムを数ヶ月間停止し、その後、より厳格な安全対策を講じて限定的なテストを再開した。この事故はまた、連邦および州の法律にも影響を与え、多くの米国の州が、衝突事故の報告と運転手の関与確保に関する新たな要件を導入した。世界的に、この事例は、Artificial intelligenceの説明責任と自動運転システムの倫理的設計に関する議論の参照点となった。これは、現在のDeep learningアプローチがエッジケースの処理において持つ限界を浮き彫りにし、より堅牢なセンサーフュージョンと安全検証方法に関する研究を促した。
##遺産とより広い文脈
ハーツバーグの死亡は、AI安全と、高リスク環境におけるMachine learningシステムの展開に関する議論でしばしば引用される。これは、管理されたテストと現実世界の予測不可能性との間のギャップを浮き彫りにし、悪い照明、無謀横断、異常な物体などの要因を含んでいた。この事故は、WaymoやTesla Autopilotなどの企業による、知覚アルゴリズムの改善と冗長な安全機構の実装への取り組みを加速させた。
。
その後の数年間で、自動運転車両テストは多くの都市で再開されたが、より厳格な監視を伴うものとなった。この事例は、Generative AIおよびより広いArtificial intelligenceコミュニティにおいて警告の物語として残り、高度なNeural networkシステムでさえ予期せぬ状況で失敗し得ることを示している。また、不確実性下での意思決定を改善することを目的としたRLAIFや他の訓練方法の発展にも貢献した。
##公衆および倫理的考察
この悲劇は、AIシステムが害を引き起こした場合に誰が責任を負うのかという倫理的疑問を提起した。法律学者や倫理学者は、製造業者、ソフトウェア開発者、または人間の運転手のいずれが責任を負うべきかを議論した。この事例は、AI整合性と、安全重要アプリケーションにおける透明なモデル解釈の必要性に関する議論に影響を与えた。
ハーツバーグの家族は、より厳格な自動運転規制の提唱者となり、彼女の名前は政策文書や安全基準で頻繁に言及される。この事故は、自動運転の歴史における画期的な出来事であり、現代の安全規制を形成した初期の航空事故に匹敵する。2024年時点で、完全自動運転車両が関与する同様の歩行者死亡事故は記録されていないが、この事例はコンピュータビジョンとRoboticsにおける進行中の研究に引き続き情報を提供している。