मानव-केंद्रित एआई (HCAI) एक डिज़ाइन दर्शन और कृत्रिम बुद्धिमत्ता के भीतर अनुसंधान दिशा है जो मानवीय आवश्यकताओं, क्षमताओं और मूल्यों को सिस्टम विकास के केंद्र में रखता है। केवल तकनीकी प्रदर्शन या स्वचालन पर ध्यान केंद्रित करने के बजाय, HCAI ऐसी AI प्रणालियाँ बनाने का प्रयास करता है जो समझने योग्य, नियंत्रणीय और व्यक्तियों तथा समाज के लिए लाभकारी हों। यह दृष्टिकोण मानव-कंप्यूटर संपर्क, संज्ञानात्मक विज्ञान और नैतिकता जैसे क्षेत्रों से अंतर्दृष्टि को एकीकृत करता है ताकि यह सुनिश्चित किया जा सके कि AI प्रौद्योगिकियाँ मानवीय क्षमताओं को बढ़ाएँ और मानव निर्णय लेने का समर्थन करें, न कि उन्हें प्रतिस्थापित या कमजोर करें।
यह अवधारणा 2010 के दशक में प्रमुखता से उभरी जब AI प्रणालियाँ अधिक शक्तिशाली और व्यापक हो गईं, जिससे पूर्वाग्रह, पारदर्शिता और जवाबदेही के बारे में चिंताएँ उठीं। शोधकर्ताओं और चिकित्सकों ने तर्क दिया कि AI विकास को मानव-केंद्रित सिद्धांतों द्वारा निर्देशित किया जाना चाहिए, जिसमें निष्पक्षता, व्याख्यात्मकता और उपयोगकर्ता एजेंसी शामिल हैं। यह दृष्टिकोण विशुद्ध रूप से प्रौद्योगिकी-संचालित दृष्टिकोणों के विपरीत है जो मानवीय प्रभाव की कीमत पर दक्षता या सटीकता को प्राथमिकता देते हैं।
मूल सिद्धांत
मानव-केंद्रित AI कई आधारभूत सिद्धांतों पर आधारित है। पहला, पारदर्शिता आवश्यक है कि AI प्रणालियाँ अपने निर्णयों और व्यवहारों के स्पष्ट स्पष्टीकरण प्रदान करें, जिससे उपयोगकर्ता उन्हें समझ सकें और उन पर भरोसा कर सकें। दूसरा, निष्पक्षता में ऐसे एल्गोरिदम डिज़ाइन करना शामिल है जो भेदभावपूर्ण परिणामों से बचें और सभी उपयोगकर्ताओं के साथ समान व्यवहार करें। तीसरा, उपयोगकर्ता नियंत्रण इस बात पर जोर देता है कि मनुष्यों के पास AI निर्णयों को ओवरराइड करने या हस्तक्षेप करने की क्षमता बनी रहे, यह सुनिश्चित करते हुए कि सिस्टम स्वायत्त अधिकारियों के बजाय उपकरण बने रहें। इसके अतिरिक्त, गोपनीयता और सुरक्षा महत्वपूर्ण हैं, क्योंकि HCAI प्रणालियों को उपयोगकर्ता डेटा की रक्षा करनी चाहिए और दुरुपयोग के प्रति लचीला होना चाहिए।
इन सिद्धांतों को अक्सर व्याख्यात्मक AI (XAI) जैसी तकनीकों के माध्यम से लागू किया जाता है, जिसका उद्देश्य मॉडल आउटपुट को व्याख्या योग्य बनाना है, और मानव-इन-द-लूप प्रणालियाँ, जो प्रशिक्षण और तैनाती के दौरान मानव प्रतिक्रिया को शामिल करती हैं। उदाहरण के लिए, मानव प्रतिक्रिया से सुदृढीकरण सीखना (RLHF) का उपयोग बड़े भाषा मॉडल में आउटपुट को मानवीय प्राथमिकताओं के साथ संरेखित करने के लिए किया जाता है।
ऐतिहासिक संदर्भ
कंप्यूटिंग के लिए मानव-केंद्रित दृष्टिकोण में रुचि आधुनिक AI से पहले की है। 1980 के दशक में, ज़ेरॉक्स पार्क और एमआईटी सीएसएआईएल जैसे संस्थानों के शोधकर्ताओं ने सॉफ्टवेयर में उपयोगकर्ता-केंद्रित डिज़ाइन की खोज की, जिसने बाद के HCAI कार्य की नींव रखी। "मानव-केंद्रित AI" शब्द स्वयं 2010 के दशक के अंत में अधिक व्यापक रूप से उपयोग में आया, विशेष रूप से स्टैनफोर्ड विश्वविद्यालय और कार्नेगी मेलन विश्वविद्यालय में पहलों के माध्यम से। 2019 में, स्टैनफोर्ड ने मानव-केंद्रित कृत्रिम बुद्धिमत्ता के लिए स्टैनफोर्ड संस्थान (HAI) लॉन्च किया, जिसका सह-निर्देशन फेई-फेई ली और जॉन एटचेमेंडी ने किया, ताकि मानवीय प्रभाव को प्राथमिकता देने वाले अनुसंधान को बढ़ावा दिया जा सके।
इस क्षेत्र के प्रमुख व्यक्तियों में माइकल जॉर्डन शामिल हैं, जो यूसी बर्कले में प्रोफेसर हैं और जिन्होंने मशीन लर्निंग में मानव-केंद्रित दृष्टिकोण की वकालत की है, और मेलानी मिशेल, एक जटिलता वैज्ञानिक जिन्होंने AI की सीमाओं और सामाजिक निहितार्थों के बारे में लिखा है। उनका काम, अनिमा आनंदकुमार और अलेक्जेंडर मैड्री जैसे विद्वानों के योगदान के साथ, जिम्मेदार AI विकास के आसपास के प्रवचन को आकार देने में मदद की है।
अनुप्रयोग और उदाहरण
मानव-केंद्रित AI सिद्धांत विभिन्न क्षेत्रों में लागू होते हैं। स्वास्थ्य सेवा में, इंट्यूटिव सर्जिकल का दा विंची रोबोट सर्जनों को बढ़ी हुई सटीकता के साथ सहायता करता है जबकि मानव डॉक्टर को नियंत्रण में रखता है। स्वायत्त ड्राइविंग में, वेमो और टेस्ला जैसी कंपनियाँ अपने सिस्टम को सुरक्षा सुविधाओं के साथ डिज़ाइन करती हैं जो मानव हस्तक्षेप की अनुमति देती हैं, जो HCAI मूल्यों को दर्शाती हैं। ग्राहक सेवा में, ओपनएआई का ChatGPT और एंथ्रोपिक का क्लॉड संरेखण तकनीकों के साथ विकसित किए गए हैं ताकि सहायक और हानिरहित प्रतिक्रियाएँ सुनिश्चित की जा सकें, जिसमें उपयोगकर्ता प्रतिक्रिया लूप शामिल हैं।
कार्यस्थल में, HCAI उपकरण नौकरियों को प्रतिस्थापित करने के बजाय मानवीय क्षमताओं को बढ़ाने का लक्ष्य रखते हैं। उदाहरण के लिए, माइक्रोसॉफ्ट की Azure AI सेवाओं में पहुंच और निष्पक्षता के लिए सुविधाएँ शामिल हैं, जबकि गूगल क्लाउड व्याख्या योग्य मशीन लर्निंग के लिए उपकरण प्रदान करता है। ये अनुप्रयोग दर्शाते हैं कि HCAI को वास्तविक दुनिया के उत्पादों में कैसे लागू किया जा सकता है।
चुनौतियाँ और आलोचनाएँ
अपने महान लक्ष्यों के बावजूद, मानव-केंद्रित AI को कई चुनौतियों का सामना करना पड़ता है। एक प्रमुख मुद्दा पारदर्शिता और प्रदर्शन के बीच तनाव है: गहरे तंत्रिका नेटवर्क जैसे जटिल मॉडल अक्सर उच्च सटीकता प्राप्त करते हैं लेकिन व्याख्या करना कठिन होता है। शोधकर्ता व्याख्यात्मकता में सुधार के लिए लेयर नॉर्मलाइज़ेशन और ध्यान तंत्र जैसी तकनीकें विकसित कर रहे हैं, लेकिन ट्रेड-ऑफ बने रहते हैं। एक और चुनौती निष्पक्षता को परिभाषित और मापना है, क्योंकि विभिन्न हितधारकों के पास समान व्यवहार के बारे में परस्पर विरोधी धारणाएँ हो सकती हैं।
आलोचकों का तर्क है कि HCAI कभी-कभी बिना ठोस बदलाव के एक विपणन शब्द के रूप में उपयोग किया जाता है। उदाहरण के लिए, कुछ कंपनियाँ मानव-केंद्रित डिज़ाइन का दावा कर सकती हैं जबकि अभी भी अपारदर्शी एल्गोरिदम तैनात करती हैं जो उपयोगकर्ताओं को प्रतिकूल रूप से प्रभावित करते हैं। इसके अतिरिक्त, इस बात पर बहस है कि क्या HCAI वास्तव में प्रशिक्षण डेटा में अंतर्निहित प्रणालीगत पूर्वाग्रहों को संबोधित कर सकता है, जो अक्सर ऐतिहासिक असमानताओं को दर्शाते हैं। टिमनिट गेब्रू और केट क्रॉफर्ड जैसे विद्वानों ने इन चिंताओं को उजागर किया है, हालाँकि वे हमेशा सीधे HCAI लेबल से जुड़े नहीं होते हैं।
भविष्य की दिशाएँ
मानव-केंद्रित AI का भविष्य संभवतः प्रौद्योगिकीविदों, सामाजिक वैज्ञानिकों और अंतिम उपयोगकर्ताओं के बीच घनिष्ठ सहयोग शामिल करेगा। उभरते क्षेत्रों में सहभागी डिज़ाइन शामिल है, जहाँ प्रभावित समुदाय AI विकास में शामिल होते हैं, और AI नैतिकता बोर्ड जो तैनाती की देखरेख करते हैं। पाठ्यक्रम सीखने और डेटा संवर्धन पर अनुसंधान भी अधिक मजबूत और निष्पक्ष मॉडल में योगदान दे सकता है। जैसे-जैसे AI दैनिक जीवन में अधिक एकीकृत होता जाता है, HCAI के सिद्धांत यह सुनिश्चित करने के लिए आवश्यक होंगे कि प्रौद्योगिकी मानवता के व्यापक लक्ष्यों की सेवा करे।
शिक्षा में, बर्कले एआई रिसर्च प्रयोगशाला और स्टैनफोर्ड एआई लैब जैसे समर्पित केंद्र HCAI अनुसंधान को आगे बढ़ा रहे हैं। एप्पल, सैमसंग इलेक्ट्रॉनिक्स और इंटेल सहित उद्योग प्रयास भी अपने उत्पादों में मानव-केंद्रित डिज़ाइन को शामिल कर रहे हैं। इन हितधारकों के बीच चल रहा संवाद आने वाले वर्षों में AI कैसे विकसित होगा, इसे आकार देगा।