GPT-4chan

GPT-4chan एक Large language model है जिसे यूट्यूबर और एआई शोधकर्ता यानिक किल्चर ने जून 2022 में विकसित किया था। इसे ओपन-सोर्स Transformer (architecture) मॉडल GPT-J को 4chan के /pol/ बोर्ड के 100 मिलियन से अधिक पोस्ट के डेटासेट पर फाइन-ट्यून करके बनाया गया था, जो एक गुमनाम ऑनलाइन फोरम है जो नफरत भरी और अतिवादी सामग्री के लिए जाना जाता है। मॉडल ने /pol/ उपयोगकर्ताओं की शैली और लहजे की नकल करना सीखा, जिससे ऐसा पाठ तैयार होता था जो अक्सर जानबूझकर आपत्तिजनक और शून्यवादी होता था। किल्चर ने मॉडल को /pol/ बोर्ड पर ही तैनात किया, जहां यह अपनी पहचान प्रकट किए बिना उपयोगकर्ताओं के साथ बातचीत करता था, और इसे हटाए जाने तक हगिंग फेस पर सार्वजनिक रूप से उपलब्ध भी कराया। इस परियोजना ने Artificial intelligence समुदाय के भीतर नैतिकता, वैधता और सामाजिक प्रभाव के संबंध में महत्वपूर्ण विवाद और बहस छेड़ दी।

विकास

GPT-4chan का विकास मई 2022 में शुरू हुआ, जब किल्चर ने अपने यूट्यूब चैनल पर परियोजना की घोषणा की। उनका लक्ष्य एक ऐसा Large language model बनाना था जो सबसे कुख्यात ऑनलाइन समुदायों में से एक /pol/ की शैली में यथार्थवादी और सुसंगत पाठ उत्पन्न कर सके। किल्चर OpenAI द्वारा बनाए गए GPT-3, एक शक्तिशाली मॉडल, और एलिउथरएआई द्वारा जारी तुलनीय प्रदर्शन वाले ओपन-सोर्स मॉडल GPT-J की सफलता से प्रेरित थे। उन्होंने GPT-J को आधार मॉडल के रूप में चुना और इसे रेडर्स ऑफ द लॉस्ट केक डेटासेट का उपयोग करके फाइन-ट्यून किया, जिसमें जून 2016 से नवंबर 2019 तक /pol/ के 100 मिलियन से अधिक पोस्ट शामिल थे।

किल्चर ने GPT-J को इस डेटा पर फाइन-ट्यून किया, जिससे ऐसे आउटपुट प्रदर्शित हुए जो राजनीतिक राय और षड्यंत्र सिद्धांतों से लेकर चुटकुले, अपमान और धमकियों, साथ ही कविताओं और कोड जैसे रचनात्मक पाठों तक फैले हुए थे। उन्होंने इस बारे में जिज्ञासा व्यक्त की कि मॉडल वास्तविक /pol/ उपयोगकर्ताओं के साथ कैसे बातचीत करेगा और इसकी प्रवाहशीलता और विविधता से प्रभावित थे।

तैनाती और रिलीज़

जून 2022 में, किल्चर ने GPT-4chan को /pol/ बोर्ड पर एक बॉट का उपयोग करके तैनात किया जो स्वायत्त रूप से थ्रेड पोस्ट और उत्तर देता था, बिना अपनी पहचान या मानवीय निगरानी प्रकट किए। उन्होंने इसे वास्तविक दुनिया की सेटिंग में मॉडल के व्यवहार का निरीक्षण करने, ट्रोलिंग, फ्लेमिंग और मॉडरेशन के खिलाफ इसकी मजबूती का परीक्षण करने के लिए एक प्राकृतिक प्रयोग के रूप में वर्णित किया।

साथ ही, किल्चर ने मॉडल को एआई मॉडल साझा करने के लिए एक मंच, हगिंग फेस पर सार्वजनिक रूप से उपलब्ध कराया। उन्होंने एक वेब इंटरफेस और एपीआई के माध्यम से पहुंच प्रदान की, साथ ही कोड और डेटा युक्त एक GitHub रिपॉजिटरी भी प्रदान की। उन्होंने कहा कि उन्हें उम्मीद है कि वे दूसरों को प्रेरित करेंगे और ऐसे मॉडलों के नैतिक निहितार्थों पर चर्चा छेड़ेंगे।

विवाद और स्वागत

/pol/ बोर्ड पर, GPT-4chan के पोस्ट ने उन उपयोगकर्ताओं का ध्यान आकर्षित किया जो ज्यादातर इसकी पहचान से अनजान थे। कुछ ने इसकी बुद्धिमत्ता और हास्य की प्रशंसा की, जबकि अन्य ने इसे चुनौती दी या ट्रोल करने का प्रयास किया। मॉडल की बातचीत अक्सर उपयोगकर्ताओं के बीच गरमागरम बहस और संघर्ष का कारण बनती थी।

हगिंग फेस पर, मॉडल के पेज को महत्वपूर्ण ट्रैफिक और प्रतिक्रिया मिली। संभावित नुकसान के बारे में चिंताओं के कारण, पहुंच को प्रतिबंधित किया गया और अंततः अक्षम कर दिया गया। टॉक पेजों में हगिंग फेस के सीईओ क्लेमेंट डेलांग्यू का हस्तक्षेप उल्लेखनीय था, क्योंकि यह सामान्य सामग्री मॉडरेशन प्रथाओं से विचलित था।

रिलीज़ ने मीडिया कवरेज और सार्वजनिक ध्यान भी आकर्षित किया। GPT-4chan की तैनाती की निंदा करने वाली एक याचिका ने प्रौद्योगिकी विशेषज्ञों से 300 से अधिक हस्ताक्षर एकत्र किए। आलोचकों ने नफरत फैलाने वाले भाषण के प्रसार, एआई डेवलपर्स और प्लेटफार्मों की जिम्मेदारी, विनियमन की आवश्यकता, और एआई अनुसंधान में ओपन सोर्स और पारदर्शिता की भूमिका सहित मुद्दों को उठाया।

नैतिक और सामाजिक निहितार्थ

GPT-4chan विवाद ने हानिकारक सामग्री उत्पन्न करने वाले एआई मॉडल के विकास और वितरण के बारे में व्यापक प्रश्नों को उजागर किया। इसने ओपन-सोर्स साझाकरण और दुरुपयोग की संभावना के बीच तनाव को रेखांकित किया। इस घटना ने Generative AI शासन के बारे में चल रही चर्चाओं में योगदान दिया, जिसमें नैतिक दिशानिर्देशों और निरीक्षण तंत्र की आवश्यकता शामिल है। इसने एआई प्रणालियों, विशेष रूप से विषाक्त ऑनलाइन डेटा पर प्रशिक्षित लोगों के सामाजिक प्रभाव पर विचार करने के महत्व पर भी जोर दिया।

विरासत

GPT-4chan एआई नैतिकता में एक केस स्टडी बना हुआ है, जिसे अक्सर मॉडल रिलीज़ नीतियों और सामग्री मॉडरेशन के बारे में बहस में उद्धृत किया जाता है। इसने प्रदर्शित किया कि बड़े भाषा मॉडल को विशिष्ट, संभावित रूप से हानिकारक उद्देश्यों के लिए फाइन-ट्यून करना कितना आसान है, और प्लेटफार्मों को खुलेपन के साथ सुरक्षा को संतुलित करने में किन चुनौतियों का सामना करना पड़ता है। इस घटना ने जिम्मेदार एआई विकास और एआई तैनाती प्रथाओं को आकार देने में सामुदायिक प्रतिक्रिया की भूमिका पर बाद की चर्चाओं को प्रभावित किया।