गूगल एआई सिद्धांत, जून 2018 में प्रकाशित, नैतिक दिशानिर्देशों का एक समूह है जो कंपनी के अनुसंधान, विकास और कृत्रिम बुद्धिमत्ता की तैनाती को नियंत्रित करते हैं। ये सिद्धांत सीईओ सुंदर पिचाई द्वारा एक ब्लॉग पोस्ट में पेश किए गए थे, जिसमें सात उद्देश्यों की रूपरेखा दी गई थी जिनके लिए गूगल अपने एआई कार्य में प्रतिबद्ध है, साथ ही आवेदन के उन क्षेत्रों को भी रेखांकित किया गया था जिन्हें कंपनी आगे नहीं बढ़ाएगी। ये दिशानिर्देश एआई की नैतिकता पर बढ़ती सार्वजनिक बहस के बीच उभरे, जिसमें एल्गोरिथम पूर्वाग्रह, गोपनीयता और स्वायत्त प्रणालियों के संभावित दुरुपयोग के बारे में चिंताएँ शामिल थीं।
ये सिद्धांत आंतरिक चर्चाओं और बाहरी इनपुट, जिसमें कर्मचारियों और नागरिक समाज समूहों से प्रतिक्रिया शामिल है, द्वारा आकार दिए गए थे। वे आंतरिक विवादों के बाद सामने आए, जैसे कि प्रोजेक्ट मेवेन, जो अमेरिकी रक्षा विभाग का ड्रोन इमेजरी विश्लेषण कार्यक्रम था, जिसके कारण कर्मचारी विरोध और कई शोधकर्ताओं के इस्तीफे हुए। सिद्धांतों का उद्देश्य एआई में नैतिक निर्णय लेने के लिए एक रूपरेखा प्रदान करना है, जो नवाचार को जिम्मेदारी के साथ संतुलित करता है।
मुख्य उद्देश्य
गूगल एआई सिद्धांत सात प्राथमिक उद्देश्यों की सूची देते हैं। पहला, एआई सामाजिक रूप से लाभकारी होना चाहिए, जिसका उद्देश्य लोगों के जीवन में सुधार करना और स्वास्थ्य देखभाल, शिक्षा और स्थिरता जैसी चुनौतियों का समाधान करना है। दूसरा, एआई को अनुचित पूर्वाग्रह बनाने या सुदृढ़ करने से बचना चाहिए, जिसमें निष्पक्षता सुनिश्चित करने और भेदभावपूर्ण परिणामों को कम करने के प्रयास शामिल हैं। तीसरा, एआई को सुरक्षा के लिए बनाया और परखा जाना चाहिए, जिसमें मजबूत डिजाइन और जोखिम मूल्यांकन शामिल है। चौथा, एआई लोगों के प्रति जवाबदेह होना चाहिए, जिसमें प्रतिक्रिया और मानवीय निगरानी के अवसर हों। पाँचवाँ, एआई को गोपनीयता डिजाइन सिद्धांतों को शामिल करना चाहिए, जिससे उपयोगकर्ताओं को उनके डेटा पर पारदर्शिता और नियंत्रण मिले। छठा, एआई को वैज्ञानिक उत्कृष्टता के उच्च मानकों को बनाए रखना चाहिए, जिसमें कठोर परीक्षण और सहकर्मी समीक्षा शामिल है। सातवाँ, एआई को उन उपयोगों के लिए उपलब्ध कराया जाना चाहिए जो इन सिद्धांतों के अनुरूप हों, संदर्भ और संभावित नुकसान पर विचार करते हुए।
आवेदन जिन्हें आगे नहीं बढ़ाया गया
सिद्धांत उन क्षेत्रों को भी निर्दिष्ट करते हैं जहाँ गूगल एआई को डिज़ाइन या तैनात नहीं करेगा। इनमें ऐसी तकनीकें शामिल हैं जो समग्र नुकसान पहुँचाती हैं या होने की संभावना है, हथियार या अन्य तकनीकें जिनका मुख्य उद्देश्य चोट को सुविधाजनक बनाना है, ऐसी तकनीकें जो अंतरराष्ट्रीय स्तर पर स्वीकृत मानदंडों का उल्लंघन करने वाली निगरानी के लिए जानकारी एकत्र या उपयोग करती हैं, और ऐसी तकनीकें जिनका उद्देश्य अंतरराष्ट्रीय कानून और मानवाधिकारों के व्यापक रूप से स्वीकृत सिद्धांतों के विपरीत है। यह खंड स्वायत्त हथियारों पर अपने रुख के लिए विशेष रूप से उल्लेखनीय था, हालाँकि यह सभी सैन्य अनुप्रयोगों पर स्पष्ट रूप से प्रतिबंध नहीं लगाता है।
शासन और कार्यान्वयन
सिद्धांतों को लागू करने के लिए, गूगल ने एक एआई नैतिकता समीक्षा प्रक्रिया स्थापित की, जिसमें एक समर्पित टीम और सलाहकार परिषद शामिल थी। कंपनी वार्षिक रिपोर्ट प्रकाशित करती है जिसमें विस्तार से बताया जाता है कि वह सिद्धांतों को कैसे लागू करती है, जिसमें केस स्टडी और मेट्रिक्स शामिल हैं। हालाँकि, कार्यान्वयन को चुनौतियों का सामना करना पड़ा है, जिसमें 2019 में इसकी सदस्यता पर विवाद के बाद एक बाहरी सलाहकार परिषद का विघटन शामिल है। सिद्धांतों की कुछ लोगों ने अस्पष्ट या अपर्याप्त रूप से लागू करने योग्य होने के रूप में आलोचना की है, जबकि अन्य उन्हें Artificial intelligence विकास में कॉर्पोरेट जवाबदेही की दिशा में एक सकारात्मक कदम के रूप में देखते हैं।
ये सिद्धांत एक व्यापक उद्योग प्रवृत्ति का हिस्सा हैं, जिसमें OpenAI और Anthropic जैसे अन्य संगठन समान नैतिक ढाँचे अपना रहे हैं। वे Machine learning नैतिकता में शैक्षणिक चर्चाओं के साथ भी संरेखित हैं, जिसमें एल्गोरिथम निष्पक्षता और पारदर्शिता पर काम शामिल है। सिद्धांतों ने गूगल के उत्पाद निर्णयों को प्रभावित किया है, जैसे कुछ चेहरे की पहचान सुविधाओं को प्रतिबंधित करना और हथियार प्रणालियों के लिए एआई प्रदान करने से इनकार करना।
प्रभाव और आलोचना
गूगल एआई सिद्धांतों का कॉर्पोरेट एआई शासन पर महत्वपूर्ण प्रभाव पड़ा है, जो अन्य कंपनियों के लिए एक मॉडल के रूप में सेवा कर रहा है। उन्हें एआई नैतिकता पर शैक्षणिक साहित्य और नीति बहस में उद्धृत किया गया है। हालाँकि, आलोचकों का तर्क है कि सिद्धांतों में बाध्यकारी प्रवर्तन तंत्र का अभाव है, और सैन्य और सरकारी ग्राहकों के साथ गूगल का निरंतर काम उनके आवेदन के बारे में सवाल उठाता है। उदाहरण के लिए, सिद्धांतों के प्रकाशन के बाद प्रोजेक्ट मेवेन को नवीनीकृत नहीं किया गया था, लेकिन गूगल ने गैर-हथियार अनुप्रयोगों के लिए सिद्धांतों की अनुमति का हवाला देते हुए अन्य रक्षा-संबंधी अनुबंध जारी रखे हैं।
2023 में, गूगल ने "हथियारों या अन्य तकनीकों से बचने के लिए स्पष्ट प्रतिबद्धताओं को हटाने के लिए अपने सिद्धांतों को संशोधित किया, जिनका मुख्य उद्देश्य चोट को सुविधाजनक बनाना है," एक बदलाव जिसने एआई नैतिकता शोधकर्ताओं से आलोचना आकर्षित की। यह संशोधन एआई उद्योग में प्रतिस्पर्धी दबावों की प्रतिक्रिया के रूप में देखा गया, विशेष रूप से Generative AI और Large language model तकनीकों के आसपास। इस कदम ने नैतिक प्रतिबद्धताओं और वाणिज्यिक हितों के बीच तनाव को उजागर किया, एक चुनौती जिसका सामना कई एआई डेवलपर्स करते हैं।
विरासत
गूगल एआई सिद्धांत जिम्मेदार एआई के बारे में चर्चाओं में एक संदर्भ बिंदु बने हुए हैं। उनकी तुलना Google DeepMind द्वारा की गई समान पहलों से की गई है, जिनके पास अपने स्वयं के नैतिकता और सुरक्षा ढाँचे हैं। सिद्धांत एआई को विनियमित करने के व्यापक प्रयासों के साथ भी जुड़ते हैं, जैसे कि यूरोपीय संघ का एआई अधिनियम, जो पूर्वाग्रह, पारदर्शिता और जवाबदेही के बारे में समान चिंताओं को संबोधित करता है। जैसे-जैसे एआई विकसित होता रहता है, सिद्धांत तकनीकी प्रगति को मानवीय मूल्यों के साथ संरेखित करने के चल रहे प्रयास में एक ऐतिहासिक मील का पत्थर के रूप में काम करते हैं।