पॉज़ जाइंट एआई एक्सपेरिमेंट्स पत्र 22 मार्च 2023 को फ्यूचर ऑफ लाइफ इंस्टीट्यूट द्वारा प्रकाशित एक खुला पत्र था, जिसमें एआई प्रयोगशालाओं से GPT-4 से अधिक शक्तिशाली प्रणालियों के प्रशिक्षण को कम से कम छह महीने के लिए रोकने का आह्वान किया गया था। इसमें 30,000 से अधिक हस्ताक्षर एकत्र हुए, जिनमें प्रमुख प्रौद्योगिकीविद् और शोधकर्ता शामिल थे, और यह 2020 के दशक में एआई नीति बहसों में सबसे व्यापक रूप से चर्चित सार्वजनिक हस्तक्षेपों में से एक बन गया, हालांकि इससे प्रमुख प्रयोगशालाओं द्वारा कोई वास्तविक रोक नहीं लगी।
सामग्री और हस्ताक्षरकर्ता
पत्र में तर्क दिया गया कि एआई प्रयोगशालाएं तेजी से शक्तिशाली प्रणालियों को विकसित करने और तैनात करने की "बेकाबू दौड़" में लगी हुई हैं, जिन्हें कोई भी, उनके निर्माताओं सहित, विश्वसनीय रूप से समझ, भविष्यवाणी या नियंत्रित नहीं कर सकता है, और सूचना चैनलों में प्रचार और असत्य की बाढ़ से लेकर सभ्यता पर नियंत्रण के व्यापक नुकसान तक के जोखिमों की चेतावनी दी। इसने एक सार्वजनिक, सत्यापन योग्य रोक का आह्वान किया, और मध्यवर्ती समय का उपयोग स्वतंत्र विशेषज्ञों द्वारा देखरेख की जाने वाली साझा सुरक्षा प्रोटोकॉल विकसित करने के लिए करने का सुझाव दिया। हस्ताक्षरकर्ताओं में मैक्स टेगमार्क, जिनके फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने पत्र का आयोजन किया, एलन मस्क, और एआई सुरक्षा समुदाय के कई शिक्षाविद् और हस्तियां शामिल थीं, हालांकि शीर्ष सीमा प्रयोगशालाओं के बहुत कम शोधकर्ताओं ने हस्ताक्षर किए।
स्वागत और आलोचना
पत्र ने कई दिशाओं से तीखी आलोचना खींची। कुछ एआई सुरक्षा शोधकर्ताओं, जिनमें अस्तित्वगत जोखिम चिंताओं से जुड़े लोग शामिल थे, ने तर्क दिया कि वर्णित जोखिमों के लिए एक अस्थायी रोक अपर्याप्त प्रतिक्रिया थी और उन्होंने अधिक बाध्यकारी नियामक उपायों को प्राथमिकता दी। अन्य आलोचकों, जैसे टिमनिट गेब्रू और एमिली बेंडर जैसे विद्वानों ने तर्क दिया कि पत्र काल्पनिक दीर्घकालिक नुकसानों पर केंद्रित था, जबकि एल्गोरिदमिक पूर्वाग्रह जैसे प्रलेखित अल्पकालिक नुकसानों से ध्यान भटका रहा था, और प्रतिस्पर्धियों को धीमा करने में वाणिज्यिक हित रखने वाले हस्ताक्षरकर्ताओं के इरादों पर सवाल उठाया।
परिणाम
पत्र के जवाब में किसी भी प्रमुख एआई प्रयोगशाला ने विकास नहीं रोका। OpenAI ने उत्पाद जारी करना जारी रखा, और गूगल डीपमाइंड और एंथ्रोपिक सहित प्रतिस्पर्धियों ने अगले महीनों में नए मॉडल जारी करना जारी रखा। फिर भी, पत्र को एआई जोखिम पर सार्वजनिक और राजनीतिक ध्यान बढ़ाने का श्रेय दिया जाता है, जिसने बाद के नीतिगत प्रयासों में गति पैदा करने में योगदान दिया, जिसमें उस वर्ष बाद में ब्लेचले पार्क एआई सुरक्षा शिखर सम्मेलन और एआई शासन ढांचे की व्यापक चर्चा शामिल है। इसे अक्सर इस बात के संकेतक के रूप में संदर्भित किया जाता है कि 2023 की शुरुआत तक सीमा एआई क्षमता के बारे में मुख्यधारा की चिंता कितनी प्रमुख हो गई थी, भले ही इसकी केंद्रीय मांग अधूरी रही।