एलेन हर्ज़बर्ग की मृत्यु

एलेन हर्ज़बर्ग (जन्म 1968) एक पैदल यात्री थीं, जिनकी मृत्यु 18 मार्च 2018 को टेम्पे, एरिज़ोना में उबर द्वारा संचालित एक स्व-चालित परीक्षण वाहन से टकराने के बाद हुई। उनकी मृत्यु को व्यापक रूप से सार्वजनिक यातायात में पूर्णतः स्वायत्त वाहन से जुड़ी पहली दर्ज घटना माना जाता है, जिसने नियामक जांच और स्वायत्त ड्राइविंग सुरक्षा प्रोटोकॉल के उद्योग-व्यापी पुनर्मूल्यांकन को प्रेरित किया।

स्थानीय समयानुसार लगभग 9:58 बजे, हर्ज़बर्ग एक चिह्नित क्रॉसवॉक के बाहर चार-लेन वाली सड़क पार कर रही थीं, जबकि वह एक साइकिल धकेल रही थीं। उबर परीक्षण वाहन, एक संशोधित वोल्वो XC90 जो सेंसर और Machine learning सॉफ्टवेयर से लैस था, स्वायत्त मोड में था, जिसमें एक मानव सुरक्षा चालक पहिये के पीछे था। वाहन ब्रेक लगाने में विफल रहा, और हर्ज़बर्ग की मौके पर ही मृत्यु हो गई। यह घटना टेम्पे शहर में हुई, जो एरिज़ोना के उदार नियमों के कारण स्वायत्त वाहन परीक्षण का केंद्र बन गया था।

वाहन और प्रौद्योगिकी

उबर परीक्षण वाहन लिडार, रडार और कैमरों के एक सेट पर निर्भर था, जिसे ऑनबोर्ड कंप्यूटरों द्वारा संसाधित किया जाता था, जो वस्तु पहचान और निर्णय लेने के लिए Deep learning एल्गोरिदम चलाते थे। बाद की जांचों के अनुसार, सिस्टम ने शुरू में हर्ज़बर्ग को एक अज्ञात वस्तु के रूप में पहचाना, फिर एक साइकिल के रूप में, लेकिन उसे तत्काल ब्रेकिंग की आवश्यकता वाले पैदल यात्री के रूप में वर्गीकृत नहीं किया। सुरक्षा चालक, राफेला वास्केज़, कथित तौर पर एक फोन को देख रही थीं और प्रभाव से एक सेकंड से भी कम समय पहले तक प्रतिक्रिया नहीं दी।

वाहन के सॉफ्टवेयर में एक डिज़ाइन था जो झूठे सकारात्मक परिणामों से बचने को प्राथमिकता देता था, जिसका अर्थ था कि यह कभी-कभी उन वस्तुओं को अनदेखा कर देता था जो स्पष्ट रूप से वर्गीकृत नहीं थीं। यह समझौता, जो Neural network आधारित धारणा प्रणालियों में आम है, विफलता में योगदान दिया। लिडार प्रणाली ने दुर्घटना से लगभग 1.3 सेकंड पहले हर्ज़बर्ग का पता लगाया, लेकिन Machine learning मॉडल ने आपातकालीन रोक को ट्रिगर नहीं किया।

जांच और परिणाम

राष्ट्रीय परिवहन सुरक्षा बोर्ड (NTSB) ने दुर्घटना की जांच की और नवंबर 2019 में अपनी अंतिम रिपोर्ट जारी की। NTSB ने पाया कि उबर की सुरक्षा संस्कृति अपर्याप्त थी, जिसमें परीक्षण चालकों की मजबूत निगरानी की कमी और एक अक्षम आपातकालीन ब्रेकिंग प्रणाली का हवाला दिया गया। वाहन की स्वचालित आपातकालीन ब्रेकिंग को झूठी सक्रियताओं को कम करने के लिए बंद कर दिया गया था, और उबर ने चालक की सतर्कता को प्रभावी ढंग से निगरानी करने के लिए एक प्रणाली लागू नहीं की थी।

मार्च 2019 में, मारिकोपा काउंटी अटॉर्नी कार्यालय ने निर्धारित किया कि उबर आपराधिक रूप से उत्तरदायी नहीं था, लेकिन सुरक्षा चालक, राफेला वास्केज़ पर लापरवाही से हत्या का आरोप लगाया गया। जुलाई 2023 में, वास्केज़ ने खतरे में डालने का दोष स्वीकार किया और उसे तीन साल की परिवीक्षा की सजा सुनाई गई। उबर ने 2018 में हर्ज़बर्ग के परिवार के साथ एक अज्ञात राशि के लिए एक नागरिक मुकदमे का निपटारा किया।

नियामक प्रभाव

इस मृत्यु के कारण कई न्यायक्षेत्रों, जिनमें एरिज़ोना, कैलिफोर्निया और पिट्सबर्ग शामिल हैं, में स्वायत्त वाहन परीक्षण तुरंत निलंबित कर दिया गया। उबर ने अपने स्व-ड्राइविंग कार्यक्रम को कई महीनों के लिए रोक दिया और बाद में कड़े सुरक्षा उपायों के साथ सीमित परीक्षण फिर से शुरू किया। इस घटना ने संघीय और राज्य कानून को भी प्रभावित किया, कई अमेरिकी राज्यों ने दुर्घटनाओं की रिपोर्टिंग और चालक की भागीदारी सुनिश्चित करने के लिए नई आवश्यकताएं पेश कीं।

वैश्विक स्तर पर, यह मामला Artificial intelligence जवाबदेही और स्वायत्त प्रणालियों के नैतिक डिजाइन पर बहस के लिए एक संदर्भ बिंदु बन गया। इसने किनारे के मामलों को संभालने में वर्तमान Deep learning दृष्टिकोणों की सीमाओं को उजागर किया और अधिक मजबूत सेंसर फ्यूजन और सुरक्षा सत्यापन विधियों में अनुसंधान को प्रेरित किया।

विरासत और व्यापक संदर्भ

हर्ज़बर्ग की मृत्यु को अक्सर AI सुरक्षा और उच्च-जोखिम वाले वातावरण में Machine learning प्रणालियों की तैनाती की चर्चाओं में उद्धृत किया जाता है। इसने नियंत्रित परीक्षण और वास्तविक दुनिया की अप्रत्याशितता के बीच की खाई को रेखांकित किया, जिसमें खराब रोशनी, जयवॉकिंग और असामान्य वस्तुओं जैसे कारक शामिल हैं। इस घटना ने वेमो और टेस्ला ऑटोपायलट जैसी कंपनियों द्वारा धारणा एल्गोरिदम में सुधार और अनावश्यक सुरक्षा तंत्र लागू करने के प्रयासों को तेज किया।

बाद के वर्षों में, कई शहरों में स्वायत्त वाहन परीक्षण फिर से शुरू हुआ, लेकिन अधिक कठोर निगरानी के साथ। यह मामला Generative AI और व्यापक Artificial intelligence समुदाय में एक चेतावनी कथा बना हुआ है, जो दर्शाता है कि उन्नत Neural network प्रणालियां भी अप्रत्याशित परिस्थितियों में विफल हो सकती हैं। इसने RLAIF और अन्य प्रशिक्षण विधियों के विकास में भी योगदान दिया, जिनका उद्देश्य अनिश्चितता के तहत निर्णय लेने में सुधार करना है।

सार्वजनिक और नैतिक विचार

इस त्रासदी ने नैतिक प्रश्न उठाए कि जब एक AI प्रणाली नुकसान पहुंचाती है तो कौन जिम्मेदार है। कानूनी विद्वानों और नैतिकतावादियों ने बहस की कि क्या निर्माता, सॉफ्टवेयर डेवलपर या मानव ऑपरेटर को दायित्व वहन करना चाहिए। इस मामले ने AI संरेखण और सुरक्षा-महत्वपूर्ण अनुप्रयोगों में पारदर्शी मॉडल व्याख्या की आवश्यकता पर चर्चाओं को प्रभावित किया।

हर्ज़बर्ग का परिवार कड़े स्वायत्त वाहन नियमों के लिए वकील बन गया, और उनका नाम अक्सर नीति पत्रों और सुरक्षा मानकों में उल्लिखित किया जाता है। यह घटना स्वायत्त ड्राइविंग के इतिहास में एक ऐतिहासिक घटना है, जो प्रारंभिक विमानन दुर्घटनाओं के समान है जिन्होंने आधुनिक सुरक्षा नियमों को आकार दिया। 2024 तक, पूर्णतः स्वायत्त वाहन से जुड़ी कोई समान पैदल यात्री मृत्यु दर्ज नहीं की गई है, हालांकि यह मामला कंप्यूटर विज़न और Robotics में चल रहे अनुसंधान को सूचित करना जारी रखता है।