कंप्यूटर पावर एंड ह्यूमन रीज़न: फ्रॉम जजमेंट टू कैलकुलेशन कंप्यूटर वैज्ञानिक जोसेफ वाइज़ेनबाम द्वारा लिखित 1976 की एक पुस्तक है। यह कृत्रिम बुद्धिमत्ता (AI) और मानवीय मामलों में कम्प्यूटेशनल सोच के अविवेकपूर्ण अनुप्रयोग की एक आधारभूत आलोचना है। वाइज़ेनबाम, जिन्होंने 1960 के दशक में MIT में ELIZA चैटबॉट बनाया था, ने इस पुस्तक का उपयोग यह तर्क देने के लिए किया कि कंप्यूटर, शक्तिशाली होते हुए भी, मानवीय निर्णय, सहानुभूति और नैतिक जिम्मेदारी का स्थान नहीं ले सकते और न ही लेना चाहिए। यह पुस्तक कम्प्यूटिंग के दर्शन में एक मील का पत्थर बन गई और AI नैतिकता तथा प्रौद्योगिकी की सीमाओं पर बहस को प्रभावित करती रही है।
यह कृति वाइज़ेनबाम के AI अनुसंधान की दिशा से मोहभंग से उभरी। उन्होंने देखा कि कई शोधकर्ता मानवीय तर्क को केवल सूचना-प्रसंस्करण कार्य के रूप में मानते थे, उन भावनात्मक, सामाजिक और नैतिक आयामों की उपेक्षा करते हुए जो मानवीय बुद्धिमत्ता के अभिन्न अंग हैं। उन्होंने चेतावनी दी कि यह न्यूनीकरणवादी दृष्टिकोण एक ऐसे समाज को जन्म दे सकता है जो चिकित्सा, कानून और युद्ध जैसे क्षेत्रों में मानवीय ज्ञान की आवश्यकता वाले निर्णयों के लिए कंप्यूटर पर अत्यधिक निर्भर हो जाए।
ELIZA प्रभाव और कम्प्यूटेशन की सीमाएँ
वाइज़ेनबाम का सबसे प्रसिद्ध उदाहरण ELIZA था, एक सरल प्रोग्राम जो उपयोगकर्ता के कथनों को प्रश्नों के रूप में पुनः प्रस्तुत करके एक रोजेरियन मनोचिकित्सक का अनुकरण करता था। अपनी सरलता के बावजूद, कई उपयोगकर्ता ELIZA से भावनात्मक रूप से जुड़ गए, इसे एक वास्तविक चिकित्सक के रूप में मानने लगे। यह घटना, जिसे बाद में "ELIZA प्रभाव" कहा गया, ने प्रदर्शित किया कि लोग कितनी आसानी से कंप्यूटर को मानवीय रूप दे देते हैं। वाइज़ेनबाम ने तर्क दिया कि यह प्रवृत्ति खतरनाक थी क्योंकि यह एक मशीन के पैटर्न-मिलान और वास्तविक मानवीय समझ के बीच के मौलिक अंतर को धुंधला कर देती है।
उन्होंने कहा कि कंप्यूटर केवल औपचारिक नियमों के अनुसार प्रतीकों में हेरफेर कर सकते हैं; उनमें अर्थ, संदर्भ या आशय को समझने की क्षमता का अभाव है। इसके विपरीत, मानवीय तर्क मूल्यों, संबंधों और शारीरिक अनुभव की एक जीवित दुनिया में निहित है। इस प्रकार, एल्गोरिदम कितने भी परिष्कृत क्यों न हों, एक कंप्यूटर किसी मानवीय समस्या को वास्तव में समझ नहीं सकता या नैतिक निर्णय नहीं ले सकता।
साधन-तर्क की आलोचना
वाइज़ेनबाम ने साधन-तर्क (इंस्ट्रुमेंटल रीज़न) की दार्शनिक अवधारणा पर आधारित तर्क दिया, जो सभी सोच को दिए गए लक्ष्यों के लिए साधनों की कुशल गणना तक सीमित कर देती है। उन्होंने तर्क दिया कि कंप्यूटर इसी प्रकार की सोच का प्रतीक है, और इसका व्यापक रूप से अपनाया जाना लोगों को स्वयं को और दूसरों को अनुकूलित किए जाने वाली वस्तुओं के रूप में देखने के लिए प्रोत्साहित करता है। यह उस ओर ले जाता है जिसे उन्होंने "साधन-तर्क का साम्राज्यवाद" कहा, जहाँ मानवीय समस्याओं को तकनीकी समस्याओं के रूप में पुनर्परिभाषित किया जाता है, जिससे उनके नैतिक और राजनीतिक आयाम छीन लिए जाते हैं।
वे सैन्य और सरकारी निर्णय-प्रक्रियाओं में कंप्यूटर के उपयोग, जैसे परमाणु युद्ध योजना के लिए स्वचालित प्रणाली, के विशेष रूप से आलोचक थे। उन्होंने तर्क दिया कि ऐसे अनुप्रयोग निर्णय लेने वालों और प्रभावित आबादी दोनों को अमानवीय बना देते हैं, जिससे विनाशकारी विकल्प तर्कसंगत और अपरिहार्य लगने लगते हैं।
वैज्ञानिकों की जिम्मेदारी
वाइज़ेनबाम ने कंप्यूटर वैज्ञानिकों की नैतिक जिम्मेदारी पर जोर दिया। उन्होंने तर्क दिया कि शोधकर्ता अपने उपकरणों की तटस्थता के पीछे छिप नहीं सकते; उन्हें अपने काम के सामाजिक परिणामों पर विचार करना चाहिए। उन्होंने प्रसिद्ध रूप से कहा कि कुछ ऐसे कार्य हैं जिन्हें कंप्यूटर से कभी नहीं करने के लिए कहा जाना चाहिए, चाहे उनकी तकनीकी व्यवहार्यता कुछ भी हो, क्योंकि ऐसा करना मानवीय गरिमा को कमजोर करेगा।
उन्होंने AI समुदाय के अहंकार की आलोचना की, विशेष रूप से इस दावे की कि मशीनें अंततः सभी मानवीय संज्ञानात्मक क्षमताओं की नकल कर सकती हैं। उन्होंने इसे आत्म-धोखे का एक रूप माना जो मानव जीवन के अपरिवर्तनीय रूप से व्यक्तिपरक और भावनात्मक पहलुओं की उपेक्षा करता है। इसके बजाय, उन्होंने प्रौद्योगिकी के प्रति अधिक विनम्र और चिंतनशील दृष्टिकोण का आह्वान किया, जो कम्प्यूटेशन की सीमाओं का सम्मान करता हो।
विरासत और समकालीन प्रासंगिकता
कंप्यूटर पावर एंड ह्यूमन रीज़न को AI नैतिकता, मानव-कंप्यूटर संपर्क और प्रौद्योगिकी के दर्शन की चर्चाओं में व्यापक रूप से उद्धृत किया गया है। एल्गोरिदम पर अत्यधिक निर्भरता के खतरों के बारे में इसकी चेतावनियाँ बड़े भाषा मॉडल, जनरेटिव एआई और मशीन लर्निंग के युग में गहराई से प्रतिध्वनित होती हैं। उदाहरण के लिए, चिकित्सा या कानून जैसे क्षेत्रों में भी AI आउटपुट को आधिकारिक मानने की प्रवृत्ति ELIZA प्रभाव की प्रतिध्वनि है। यह पुस्तक AI संरेखण, पूर्वाग्रह और मानवीय निगरानी की आवश्यकता पर बहसों का भी पूर्वानुमान करती है।
साधन-तर्क की वाइज़ेनबाम की आलोचना अब समाज में कृत्रिम बुद्धिमत्ता की कई आलोचनाओं के केंद्र में है, जिसमें निगरानी, स्वचालन और मानवीय एजेंसी के क्षरण की चिंताएँ शामिल हैं। प्रौद्योगिकीविदों की नैतिक जिम्मेदारी पर उनका आग्रह AI नैतिकता बोर्डों और जिम्मेदार AI विकास के समकालीन आह्वानों में परिलक्षित होता है।
अपनी उम्र के बावजूद, यह पुस्तक उन लोगों के लिए एक आधारशिला बनी हुई है जो इस धारणा पर सवाल उठाते हैं कि अधिक कंप्यूटिंग शक्ति हमेशा बेहतर परिणामों की ओर ले जाती है। यह पाठकों को यह विचार करने की चुनौती देती है कि मशीनों द्वारा तेजी से आकार दी जा रही दुनिया में मानव होने का क्या अर्थ है।