चीन के डीप सिंथेसिस विनियम, जिन्हें औपचारिक रूप से "डीप सिंथेसिस इंटरनेट सूचना सेवाओं के प्रशासन पर प्रावधान" कहा जाता है, 10 जनवरी 2023 को प्रभावी हुए। साइबरस्पेस प्रशासन चीन (CAC) और तीन अन्य मंत्रालयों द्वारा जारी, ये नियम डीपफेक और सिंथेटिक मीडिया को विशेष रूप से लक्षित करने वाले पहले राष्ट्रीय स्तर के कानूनी ढांचों में से हैं। ये जनवादी गणराज्य चीन के भीतर पाठ, चित्र, ऑडियो और वीडियो सहित सामग्री उत्पन्न करने या संशोधित करने के लिए डीप सिंथेसिस तकनीक का उपयोग करने वाले संगठनों और व्यक्तियों पर बाध्यकारी दायित्व लागू करते हैं।
विनियम डीप सिंथेसिस को उस तकनीक के रूप में परिभाषित करते हैं जो पाठ, चित्र, ऑडियो या वीडियो उत्पन्न या संपादित करने के लिए Machine learning और Deep learning विधियों का उपयोग करती है, जिसमें चेहरे की अदला-बदली, आवाज की नकल और आभासी दृश्य निर्माण की तकनीकें शामिल हैं। नियम वाणिज्यिक प्रदाताओं और गैर-वाणिज्यिक उपयोगकर्ताओं दोनों पर लागू होते हैं जो ऐसे उपकरणों का उपयोग करते हैं, जिसमें मोबाइल ऐप, वेबसाइट और सॉफ्टवेयर प्लेटफॉर्म सहित इंटरनेट पर पेश की जाने वाली सेवाएं शामिल हैं। बताया गया उद्देश्य राष्ट्रीय सुरक्षा, सार्वजनिक हितों और नागरिकों के वैध अधिकारों की रक्षा करना है, साथ ही Generative AI प्रौद्योगिकियों के स्वस्थ विकास को बढ़ावा देना है।
दायरा और प्रमुख परिभाषाएँ
विनियम स्पष्ट रूप से सिंथेटिक मीडिया की एक विस्तृत श्रृंखला को कवर करते हैं। इसमें डीपफेक वीडियो, यथार्थवादी आवाज संश्लेषण, पाठ-से-चित्र निर्माण और एआई-जनित आभासी एंकर शामिल हैं। CAC "डीप सिंथेसिस सेवा प्रदाताओं" को किसी भी इकाई के रूप में परिभाषित करता है जो इन तकनीकों को जनता को पेश करता है, या तो प्राथमिक सेवा के रूप में या किसी बड़े प्लेटफॉर्म के भीतर एक सुविधा के रूप में। जो उपयोगकर्ता सार्वजनिक प्रसार के लिए ऐसी सेवाओं का उपयोग करते हैं, वे भी कुछ प्रावधानों के अधीन हैं, विशेष रूप से लेबलिंग और सामग्री वैधता के आसपास।
नियमों का एक उल्लेखनीय पहलू उनकी क्षेत्रात्मक पहुंच है। जो प्रदाता चीन के भीतर उपयोगकर्ताओं को सेवाएं प्रदान करते हैं, भले ही वे विदेश में स्थित हों, उनसे अनुपालन की अपेक्षा की जाती है। विनियमों में यह भी आवश्यक है कि सेवा प्रदाता डीप सिंथेसिस का उपयोग करने वाले नए उत्पादों या सुविधाओं को लॉन्च करने से पहले सुरक्षा मूल्यांकन करें, और उन्हें अपने एल्गोरिदम CAC के साथ दर्ज कराने होंगे, यह प्रक्रिया मार्च 2022 में प्रभावी हुए मौजूदा एल्गोरिदम अनुशंसा विनियमों के समान है।
लेबलिंग और पारदर्शिता आवश्यकताएँ
केंद्रीय आवश्यकताओं में से एक अनिवार्य लेबलिंग है। डीप सिंथेसिस का उपयोग करके उत्पन्न या संशोधित कोई भी सामग्री जो जनता को गुमराह कर सकती है, उसे स्पष्ट रूप से सिंथेटिक के रूप में चिह्नित किया जाना चाहिए। विनियम "स्पष्ट लेबल" और "अंतर्निहित लेबल" के बीच अंतर करते हैं। स्पष्ट लेबल उपयोगकर्ताओं को दिखाई देते हैं, जैसे वॉटरमार्क या पाठ सूचना। अंतर्निहित लेबल फ़ाइल के मेटाडेटा या डिजिटल हस्ताक्षर में एम्बेडेड होते हैं, जो मशीन-पठनीय पहचान की अनुमति देते हैं।
यथार्थवादी चेहरे की अदला-बदली या आवाज की नकल वाली सामग्री के लिए, प्रदाता को एक प्रमुख सूचना जोड़नी होगी कि सामग्री एआई-जनित या संपादित है। नियमों में यह भी आवश्यक है कि प्रदाता यह सुनिश्चित करें कि लेबल आसानी से हटाए या छेड़छाड़ न किए जा सकें। इसके अतिरिक्त, यदि समाचार रिपोर्टिंग में सिंथेटिक सामग्री का उपयोग किया जाता है, तो प्रदाता को वास्तविक फुटेज के साथ भ्रम से बचने के लिए सिंथेटिक प्रकृति को स्पष्ट रूप से इंगित करना होगा। यह लेबलिंग आवश्यकता उपयोगकर्ताओं द्वारा अपलोड की गई सामग्री तक फैली हुई है, जो प्लेटफार्मों पर प्रकाशित होने पर ऐसी सामग्री का पता लगाने और लेबल करने की जिम्मेदारी डालती है।
उपयोगकर्ता सहमति और व्यक्तिगत अधिकार
विनियम व्यक्तिगत अधिकारों की सुरक्षा पर मजबूत जोर देते हैं। प्रदाताओं को डीप सिंथेसिस में चेहरे या आवाज जैसी बायोमेट्रिक जानकारी का उपयोग करने से पहले व्यक्तियों से स्पष्ट सहमति प्राप्त करनी होगी। यह सहमति सूचित और स्वैच्छिक होनी चाहिए, और उपयोगकर्ताओं को इसे वापस लेने का अधिकार है। नियम किसी व्यक्ति की प्रतिष्ठा, गोपनीयता या अन्य वैध अधिकारों का उल्लंघन करने वाली सामग्री बनाने या वितरित करने के लिए डीप सिंथेसिस के उपयोग को प्रतिबंधित करते हैं।
इसके अलावा, प्रदाताओं को उपयोगकर्ताओं के लिए उल्लंघनों की रिपोर्ट करने के लिए तंत्र स्थापित करने की आवश्यकता होती है, जैसे कि गैर-सहमति वाले डीपफेक। उन्हें प्रभावित व्यक्तियों के लिए बिना अनुमति के उनकी समानता का उपयोग करने वाली सामग्री को हटाने का अनुरोध करने का एक तरीका भी प्रदान करना होगा। विनियम स्पष्ट रूप से फर्जी समाचार, मानहानिकारक सामग्री या सामाजिक व्यवस्था को बाधित करने वाली सामग्री उत्पन्न करने के लिए डीप सिंथेसिस के उपयोग को प्रतिबंधित करते हैं। यह चीन के व्यापक साइबर सुरक्षा और डेटा संरक्षण कानूनों के साथ संरेखित है, जिसमें नवंबर 2021 में प्रभावी व्यक्तिगत सूचना संरक्षण कानून (PIPL) शामिल है।
सामग्री मॉडरेशन और सुरक्षा दायित्व
सेवा प्रदाताओं को मजबूत सामग्री मॉडरेशन प्रणाली लागू करनी होगी। उन्हें अवैध या हानिकारक सामग्री के लिए सभी सिंथेटिक सामग्री की समीक्षा करने की आवश्यकता होती है, जिसमें आतंकवाद, हिंसा, अश्लीलता या राज्य सत्ता को कमजोर करने को बढ़ावा देने वाली सामग्री शामिल है। विनियम अनिवार्य करते हैं कि प्रदाता सिंथेटिक सामग्री की पहचान करने और उसके दुरुपयोग को रोकने के लिए तकनीकी साधनों का उपयोग करें। इसमें डेटा प्रतिधारण कानूनों के अधीन, कम से कम छह महीने के लिए उपयोगकर्ता गतिविधियों और सामग्री निर्माण के लॉग बनाए रखना शामिल है।
प्रदाताओं को यह भी सुनिश्चित करना होगा कि उनके एल्गोरिदम अवैध या अनैतिक व्यवहार को सुदृढ़ न करें। नियमों की आवश्यकता है कि डीप सिंथेसिस सेवाओं को सुरक्षा सुविधाओं के साथ डिज़ाइन किया जाए, जैसे कि सरकारी अधिकारियों या सार्वजनिक हस्तियों को भ्रामक तरीके से प्रस्तुत करने वाली सामग्री उत्पन्न करने से रोकना। ऐसे मामलों में जहां सिंथेटिक सामग्री जनमत या राष्ट्रीय सुरक्षा को प्रभावित कर सकती है, प्रदाताओं से अधिकारियों के साथ सहयोग करने और ऐसी सामग्री को हटाने या ब्लॉक करने के लिए तत्काल कार्रवाई करने की अपेक्षा की जाती है।
एल्गोरिदम फाइलिंग और सुरक्षा मूल्यांकन
एक प्रमुख अनुपालन तंत्र CAC के साथ एल्गोरिदम दर्ज करने की आवश्यकता है। प्रदाताओं को अपने डीप सिंथेसिस एल्गोरिदम के बारे में विस्तृत जानकारी जमा करनी होगी, जिसमें उनका उद्देश्य, डेटा स्रोत और संभावित जोखिम शामिल हैं। यह फाइलिंग प्रक्रिया 2022 के विनियमों के तहत अनुशंसा एल्गोरिदम के समान है। CAC दर्ज एल्गोरिदम का एक सार्वजनिक रजिस्टर बनाए रखता है, और फाइल करने में विफलता के परिणामस्वरूप दंड हो सकता है।
नई सेवाओं या प्रमुख अद्यतनों को लॉन्च करने से पहले सुरक्षा मूल्यांकन आवश्यक हैं। ये मूल्यांकन राष्ट्रीय सुरक्षा, सामाजिक स्थिरता और व्यक्तिगत अधिकारों के लिए संभावित जोखिमों का मूल्यांकन करते हैं। मूल्यांकन योग्य तृतीय-पक्ष संगठनों या आंतरिक टीमों द्वारा किए जाने चाहिए, और परिणाम CAC को प्रस्तुत किए जाने चाहिए। विनियमों में यह भी आवश्यक है कि प्रदाता सुरक्षा घटनाओं के लिए आपातकालीन प्रतिक्रिया योजनाएं स्थापित करें, जैसे कि बड़े पैमाने पर डीपफेक अभियान।
प्रवर्तन और दंड
विनियमों के उल्लंघन से प्रशासनिक दंड हो सकते हैं, जिसमें जुर्माना, सेवाओं का निलंबन और लाइसेंस रद्द करना शामिल है। CAC और अन्य नियामकों के पास निरीक्षण करने और सुधारात्मक कार्रवाई की मांग करने का अधिकार है। गंभीर मामलों में, चीन के आपराधिक कानून के तहत आपराधिक दायित्व लागू हो सकता है, विशेष रूप से धोखाधड़ी, मानहानि या झूठी सूचना फैलाने से संबंधित अपराधों के लिए।
विनियमों के प्रभावी होने के बाद से, CAC ने सक्रिय रूप से उन्हें लागू किया है। 2023 में, कई प्लेटफार्मों को सिंथेटिक सामग्री को पर्याप्त रूप से लेबल करने में विफल रहने के लिए सार्वजनिक रूप से आलोचना की गई थी। CAC ने विशिष्ट उपयोग मामलों पर मार्गदर्शन भी जारी किया है, जैसे कि लाइवस्ट्रीमिंग में एआई-जनित आभासी एंकर, जिसमें उन्हें स्पष्ट रूप से पहचाने जाने की आवश्यकता होती है। प्रवर्तन दृष्टिकोण चीन में एक व्यापक कानून के बजाय क्षेत्र-विशिष्ट नियमों के माध्यम से Artificial intelligence को विनियमित करने की व्यापक प्रवृत्ति को दर्शाता है।
उद्योग पर प्रभाव और वैश्विक संदर्भ
विनियमों का घरेलू और अंतर्राष्ट्रीय दोनों कंपनियों पर महत्वपूर्ण प्रभाव पड़ा है। Alibaba Cloud और अन्य क्लाउड प्रदाताओं सहित प्रमुख चीनी तकनीकी फर्मों ने अपनी एआई सेवाओं में स्वचालित वॉटरमार्किंग और सामग्री फ़िल्टरिंग जैसी अनुपालन सुविधाओं को एकीकृत किया है। चीनी उपयोगकर्ताओं को डीप सिंथेसिस उपकरण पेश करने वाली अंतर्राष्ट्रीय कंपनियों ने भी अपनी प्रथाओं को समायोजित किया है, अक्सर जियो-ब्लॉकिंग या स्थानीय अनुपालन उपायों को जोड़कर।
वैश्विक स्तर पर, चीन का दृष्टिकोण प्रभावशाली रहा है। यूरोपीय संघ का एआई अधिनियम, जो अगस्त 2024 में लागू हुआ, में डीपफेक के लिए समान पारदर्शिता आवश्यकताएं शामिल हैं, हालांकि विभिन्न प्रवर्तन तंत्रों के साथ। संयुक्त राज्य अमेरिका ने राज्य-स्तरीय कानूनों और संघीय दिशानिर्देशों के साथ एक अधिक खंडित दृष्टिकोण अपनाया है। चीन के विनियम अपने व्यापक दायरे और एल्गोरिदम फाइलिंग के एकीकरण के लिए उल्लेखनीय हैं, जो प्रमुख अर्थव्यवस्थाओं में अद्वितीय है।
भविष्य के विकास और चुनौतियाँ
2025 तक, CAC ने संकेत दिया है कि यह Large language model-आधारित सामग्री निर्माण और वास्तविक समय डीपफेक वीडियो जैसी उभरती प्रौद्योगिकियों को संबोधित करने के लिए विनियमों को अद्यतन करेगा। Generative AI का तेजी से विकास प्रवर्तन के लिए चुनौतियां पेश करता है, क्योंकि पहचान विधियां उत्पादन क्षमताओं से पीछे रह जाती हैं। विनियमों को कुछ विद्वानों से आलोचना का भी सामना करना पड़ता है जो तर्क देते हैं कि लेबलिंग आवश्यकताएं गलत सूचना को रोकने के लिए अपर्याप्त हैं, जबकि अन्य का तर्क है कि नियम अत्यधिक प्रतिबंधात्मक हैं और नवाचार में बाधा डालते हैं।
इन चुनौतियों के बावजूद, विनियमों ने चीन में डीप सिंथेसिस के जिम्मेदार उपयोग के लिए एक आधार रेखा स्थापित की है। उन्होंने वॉटरमार्किंग और सामग्री उत्पत्ति के लिए तकनीकी मानकों के विकास को प्रेरित किया है, और उन्होंने पहचान एल्गोरिदम में अनुसंधान को प्रोत्साहित किया है। विनियमों की दीर्घकालिक प्रभावशीलता निरंतर अद्यतनों और नियामकों की तकनीकी परिवर्तन के साथ गति बनाए रखने की क्षमता पर निर्भर करेगी।
अन्य क्षेत्राधिकारों के साथ तुलनात्मक विश्लेषण
ईयू के एआई अधिनियम की तुलना में, जो डीपफेक को एक पारदर्शिता जोखिम के रूप में वर्गीकृत करता है, चीन के विनियम अधिक निर्देशात्मक हैं, विशिष्ट लेबलिंग प्रारूप और एल्गोरिदम फाइलिंग की आवश्यकता होती है। ईयू सामान्य पारदर्शिता दायित्वों और जोखिम प्रबंधन पर निर्भर करता है, जबकि चीन विस्तृत तकनीकी अनुपालन अनिवार्य करता है। संयुक्त राज्य अमेरिका में, संघीय कानून की अनुपस्थिति ने राज्य विनियमों का एक पैचवर्क बनाया है, जैसे कि राजनीतिक डीपफेक पर कैलिफोर्निया का कानून, जो 2020 में प्रभावी हुआ। चीन का केंद्रीकृत दृष्टिकोण सुसंगत प्रवर्तन की अनुमति देता है लेकिन अतिरेक और सेंसरशिप के बारे में चिंताएं उठाता है।
विनियम चीन की डेटा स्थानीयकरण आवश्यकताओं के साथ भी बातचीत करते हैं, क्योंकि प्रदाताओं को चीन के भीतर उपयोगकर्ता डेटा संग्रहीत करना होगा। इसका वैश्विक रूप से संचालित होने वाली अंतर्राष्ट्रीय कंपनियों पर प्रभाव पड़ता है। एल्गोरिदम फाइलिंग की आवश्यकता की तुलना अन्य क्षेत्रों में समान उपायों से की गई है, जैसे कि 2021 के अनुशंसा एल्गोरिदम पर नियम, जिनका उपयोग सूचना प्रवाह को नियंत्रित करने के लिए किया गया है। कुल मिलाकर, चीन के डीप सिंथेसिस विनियम सिंथेटिक मीडिया को नियंत्रित करने के लिए एक अग्रणी प्रयास का प्रतिनिधित्व करते हैं, जिसके कार्यान्वयन को समर्थक और आलोचक दोनों बारीकी से देख रहे हैं।