NYC स्थानीय कानून 144 (LL 144) न्यूयॉर्क शहर में एक नगरपालिका अध्यादेश है जो भर्ती और पदोन्नति निर्णयों में स्वचालित रोजगार निर्णय उपकरणों (AEDTs) के उपयोग को विनियमित करता है। यह कानून, जिसे आधिकारिक तौर पर "स्वचालित रोजगार निर्णय उपकरण" कहा जाता है, दिसंबर 2021 में अधिनियमित किया गया था और 5 जुलाई 2023 को प्रभावी हुआ। यह संयुक्त राज्य अमेरिका में पहले कानूनों में से एक है जो विशेष रूप से रोजगार में एल्गोरिदमिक पूर्वाग्रह को लक्षित करता है, जो अन्य न्यायक्षेत्रों में समान विधान के लिए एक मिसाल स्थापित करता है। यह कानून न्यूयॉर्क शहर में काम करने वाले नियोक्ताओं और रोजगार एजेंसियों पर लागू होता है, चाहे उनका भौतिक स्थान कुछ भी हो, यदि वे उम्मीदवारों या कर्मचारियों की पदोन्नति के लिए स्क्रीनिंग में AEDTs का उपयोग करते हैं।
LL 144 की मुख्य आवश्यकता यह है कि रोजगार निर्णयों के लिए उपयोग किया जाने वाला कोई भी AEDT अपने उपयोग से एक वर्ष के भीतर एक स्वतंत्र पूर्वाग्रह ऑडिट से गुजरना चाहिए। ऑडिट को नस्ल, जातीयता और लिंग पर उपकरण के प्रभाव का आकलन करना चाहिए, और परिणाम नियोक्ता की वेबसाइट पर प्रकाशित किए जाने चाहिए। इसके अतिरिक्त, नियोक्ताओं को उम्मीदवारों और कर्मचारियों को सूचित करना चाहिए कि एक AEDT का उपयोग किया जाएगा, साथ ही उपकरण की विशेषताओं और वैकल्पिक चयन प्रक्रिया या आवास का अनुरोध कैसे करें, इसके बारे में जानकारी प्रदान करनी चाहिए। कानून उन AEDTs के उपयोग को भी प्रतिबंधित करता है जो केवल एक एकल कारक पर निर्भर करते हैं, जैसे कि व्यक्तित्व परीक्षण, जब तक कि वह कारक नौकरी से संबंधित न हो।
विधायी पृष्ठभूमि और उद्देश्य
LL 144 को न्यूयॉर्क शहर के परिषद सदस्य लॉरी कुम्बो द्वारा 2020 में पेश किया गया था, जब भर्ती में एआई के उपयोग के बारे में बढ़ती चिंताएं थीं। यह कानून एल्गोरिदमिक जवाबदेही उपायों के एक व्यापक पैकेज का हिस्सा था, जिसमें शहर की एजेंसियों में स्वचालित निर्णय प्रणालियों पर एक अलग कानून भी शामिल था। उद्देश्य उन प्रलेखित मामलों को संबोधित करना था जहां स्वचालित उपकरणों ने संरक्षित समूहों के खिलाफ भेदभाव किया, जैसे कि 2018 का एक अध्ययन जिसमें दिखाया गया कि एक प्रमुख तकनीकी कंपनी का एआई भर्ती उपकरण "महिलाओं" शब्द वाले फिर से शुरू को दंडित करता है। कानून का उद्देश्य प्रौद्योगिकी को पूरी तरह से प्रतिबंधित किए बिना पारदर्शिता और जवाबदेही बनाना था, इसके बजाय ऑडिट और प्रकटीकरण को अनिवार्य करना था।
न्यूयॉर्क शहर के उपभोक्ता और श्रमिक संरक्षण विभाग (DCWP) को कानून को लागू करने का कार्य सौंपा गया था। DCWP ने 2022 में प्रस्तावित नियम जारी किए और अप्रैल 2023 में अंतिम नियम, जिसमें प्रमुख परिभाषाओं और प्रक्रियाओं को स्पष्ट किया गया। प्रभावी तिथि को 1 जनवरी 2023 से 5 जुलाई 2023 तक बढ़ा दिया गया ताकि नियोक्ताओं को अनुपालन करने का समय मिल सके। अंतिम नियमों ने एक AEDT को किसी भी कम्प्यूटेशनल प्रक्रिया के रूप में परिभाषित किया जो मशीन लर्निंग, सांख्यिकीय मॉडलिंग, या अन्य डेटा-प्रोसेसिंग तकनीकों से प्राप्त होती है और एक सरलीकृत आउटपुट जारी करती है, जैसे कि स्कोर या वर्गीकरण, जो विवेकाधीन निर्णय लेने में काफी सहायता या प्रतिस्थापन के लिए उपयोग किया जाता है।
प्रमुख प्रावधान और आवश्यकताएं
पूर्वाग्रह ऑडिट LL 144 का केंद्रबिंदु है। इसे एक स्वतंत्र ऑडिटर द्वारा आयोजित किया जाना चाहिए जो AEDT का विक्रेता या डेवलपर नहीं है, न ही नियोक्ता का कर्मचारी है। ऑडिट को नियोक्ता के अपने उपयोग से ऐतिहासिक डेटा का उपयोग करना चाहिए, या यदि ऐतिहासिक डेटा उपलब्ध नहीं है तो परीक्षण डेटा का उपयोग करना चाहिए। ऑडिट को नस्ल, जातीयता और लिंग की प्रत्येक श्रेणी के लिए चयन दर की गणना करनी चाहिए, और समान रोजगार अवसर आयोग के चार-पांचवें नियम के समान मीट्रिक का उपयोग करके उच्चतम चयन दर से तुलना करनी चाहिए। यदि किसी समूह के लिए चयन दर उच्चतम समूह की दर के चार-पांचवें से कम है, तो ऑडिट को संभावित पूर्वाग्रह को चिह्नित करना चाहिए।
ऑडिट परिणाम नियोक्ता की वेबसाइट पर प्रकाशित किए जाने चाहिए, जिसमें ऑडिट की तारीख, उपकरण का नाम और संस्करण, और परिणामों का सारांश शामिल हो। प्रकाशन ऑडिट पूरा होने के 30 दिनों के भीतर होना चाहिए। नियोक्ताओं को ऑडिट रिकॉर्ड कम से कम तीन वर्षों तक बनाए रखना चाहिए। कानून एक विशिष्ट उत्तीर्ण स्कोर की आवश्यकता नहीं करता है, लेकिन यदि ऑडिट पूर्वाग्रह प्रकट करता है, तो नियोक्ता को या तो सुधारात्मक कार्रवाई करनी चाहिए या उपकरण का उपयोग बंद करना चाहिए।
सूचना आवश्यकताएं समान रूप से महत्वपूर्ण हैं। नियोक्ताओं को प्रत्येक उम्मीदवार या कर्मचारी को सूचना प्रदान करनी चाहिए जो AEDT के अधीन है, उपकरण के उपयोग से कम से कम 10 व्यावसायिक दिन पहले। सूचना में उपकरण का नाम, एकत्र किए गए डेटा का प्रकार, उपकरण की स्कोरिंग या वर्गीकरण तर्क, और वैकल्पिक चयन प्रक्रियाओं पर नियोक्ता की नीति का वर्णन होना चाहिए। सूचना में यह भी समझाया जाना चाहिए कि आवास का अनुरोध कैसे करें, जैसे कि मैन्युअल समीक्षा या एक अलग मूल्यांकन विधि। कानून आवश्यकता है कि सूचना सुलभ हो, जिसमें अंग्रेजी के अलावा अन्य भाषाएं शामिल हैं यदि नियोक्ता आमतौर पर उन भाषाओं में संवाद करता है।
दायरा और परिभाषाएं
LL 144 "रोजगार निर्णयों" पर लागू होता है जिसमें भर्ती, पदोन्नति और प्रतिधारण शामिल हैं। यह प्रारंभिक स्क्रीनिंग और चल रहे मूल्यांकन दोनों को कवर करता है। कानून एक AEDT को एक उपकरण के रूप में परिभाषित करता है जो "विवेकाधीन निर्णय लेने में काफी सहायता या प्रतिस्थापन करता है।" इसका मतलब है कि उपकरण का उपयोग एक निर्णय लेने के लिए किया जाना चाहिए जिसके लिए अन्यथा मानवीय निर्णय की आवश्यकता होगी। एक उपकरण जो केवल कच्चा डेटा प्रदान करता है, जैसे कि एक फिर से शुरू पार्सर जो स्कोरिंग के बिना कीवर्ड निकालता है, कवर नहीं किया गया है। हालांकि, एक उपकरण जो उम्मीदवारों को रैंक करता है या नौकरी के प्रदर्शन की भविष्यवाणी करता है, कवर किया गया है।
कानून न्यूयॉर्क शहर में कम से कम एक कर्मचारी वाले नियोक्ताओं के साथ-साथ रोजगार एजेंसियों पर लागू होता है जो NYC नियोक्ताओं को उम्मीदवारों को संदर्भित करते हैं। यह केवल आंतरिक प्रशासनिक उद्देश्यों के लिए उपयोग किए जाने वाले उपकरणों पर लागू नहीं होता है, जैसे कि शेड्यूलिंग या पेरोल। यह उन उपकरणों पर भी लागू नहीं होता है जो पूरी तरह से मैनुअल हैं, जैसे कि एक मानव द्वारा कागजी फिर से शुरू की समीक्षा। कानून का अतिरिक्त-क्षेत्रीय दायरा है: कैलिफोर्निया में स्थित एक नियोक्ता जो NYC स्थिति के लिए भर्ती करता है, उसे अनुपालन करना चाहिए यदि वह उस भर्ती के लिए AEDT का उपयोग करता है।
प्रवर्तन और दंड
LL 144 का प्रवर्तन नागरिक है, आपराधिक नहीं। DCWP शिकायतों की जांच कर सकता है और अपने स्वयं के ऑडिट कर सकता है। पहले उल्लंघनों के लिए दंड $500 प्रति दिन है, और बाद के उल्लंघनों के लिए, $1,500 प्रति दिन है। गैर-अनुपालन का प्रत्येक दिन एक अलग उल्लंघन है। कानून एक निजी कार्रवाई का अधिकार भी बनाता है, जिससे व्यक्तियों को निषेधाज्ञा राहत, क्षति और वकील की फीस के लिए मुकदमा करने की अनुमति मिलती है। हालांकि, निजी कार्रवाई का अधिकार उन मामलों तक सीमित है जहां नियोक्ता ने ऑडिट प्रकाशित करने या सूचना प्रदान करने में विफल रहा, न कि भेदभावपूर्ण परिणामों के लिए।
DCWP ने एक शिकायत फॉर्म प्रकाशित किया है और कहा है कि यह स्पष्ट उल्लंघनों वाले मामलों को प्राथमिकता देगा, जैसे कि कोई ऑडिट या कोई सूचना नहीं। 2024 तक, DCWP ने सार्वजनिक रूप से किसी भी प्रवर्तन कार्रवाई की रिपोर्ट नहीं की थी, लेकिन कानून को कई निजी मुकदमों में उद्धृत किया गया है। एक उल्लेखनीय मामले में, एक नौकरी आवेदक ने एक खुदरा श्रृंखला पर एआई वीडियो साक्षात्कार उपकरण का उपयोग करने के लिए सूचना प्रदान किए बिना मुकदमा दायर किया, LL 144 के उल्लंघन का आरोप लगाते हुए। मामला 2024 में सुलझा लिया गया था, लेकिन शर्तों का खुलासा नहीं किया गया था।
प्रभाव और उद्योग प्रतिक्रिया
कानून का भर्ती प्रौद्योगिकी उद्योग पर महत्वपूर्ण प्रभाव पड़ा है। एमएल-आधारित स्क्रीनिंग उपकरणों के विक्रेताओं, जैसे कि तंत्रिका नेटवर्क या बड़े भाषा मॉडल का उपयोग करने वाले, को पूर्वाग्रह ऑडिट का समर्थन करने के लिए अपने उत्पादों को अनुकूलित करना पड़ा है। कई विक्रेता अब ऑडिट-तैयार सुविधाएं प्रदान करते हैं, जैसे कि चयन दरों की स्वचालित गणना और ऑडिट रिपोर्ट का निर्माण। कुछ विक्रेताओं ने अपने उपकरणों को "LL 144 अनुपालन" के रूप में विपणन करना भी शुरू कर दिया है, हालांकि अनुपालन अंततः नियोक्ता की जिम्मेदारी है।
नियोक्ताओं ने या तो आंतरिक रूप से ऑडिट करके (तीसरे पक्ष के ऑडिटरों का उपयोग करके) या कुछ AEDTs का उपयोग बंद करके प्रतिक्रिया दी है। एक एचआर परामर्श फर्म द्वारा 2023 के सर्वेक्षण में पाया गया कि NYC-आधारित 23% नियोक्ताओं ने LL 144 के कारण कम से कम एक स्वचालित भर्ती उपकरण का उपयोग बंद कर दिया था। एक स्वतंत्र पूर्वाग्रह ऑडिट की लागत डेटा मात्रा और जटिलता के आधार पर $5,000 से $30,000 प्रति उपकरण तक होती है। यह छोटे नियोक्ताओं के लिए एक बाधा रहा है, जिससे कुछ मैन्युअल समीक्षा पर निर्भर हैं।
कानून ने अन्य न्यायक्षेत्रों को भी प्रभावित किया है। 2023 में, कैलिफोर्निया राज्य ने एक समान कानून (AB 331) पारित किया जो स्वचालित निर्णय प्रणालियों के लिए पूर्वाग्रह ऑडिट की आवश्यकता है, हालांकि इसे राज्यपाल द्वारा वीटो कर दिया गया था। वाशिंगटन, डी.सी. शहर और इलिनोइस राज्य ने समान उपायों पर विचार किया है। समान रोजगार अवसर आयोग (EEOC) ने LL 144 को संघीय विनियमन के लिए एक मॉडल के रूप में उद्धृत किया है, और 2023 में, EEOC ने एल्गोरिदमिक निष्पक्षता पर तकनीकी मार्गदर्शन जारी किया जो NYC कानून को संदर्भित करता है।
आलोचनाएं और सीमाएं
आलोचकों ने LL 144 के बारे में कई चिंताएं उठाई हैं। पहले, कानून का नस्ल, जातीयता और लिंग पर ध्यान अन्य संरक्षित श्रेणियों जैसे कि आयु, विकलांगता या धर्म को कवर नहीं करता है। दूसरे, चार-पांचवें नियम एक कुंद उपकरण है जो पूर्वाग्रह के सूक्ष्म रूपों को पकड़ नहीं सकता है, विशेष रूप से छोटे नमूना आकारों में। तीसरे, कानून को ऑडिट को उपकरण की सटीकता या नौकरी-संबंधितता का आकलन करने की आवश्यकता नहीं है, केवल इसके असमान प्रभाव की। चौथे, सूचना आवश्यकताएं बोझिल हैं और उच्च-मात्रा भर्ती के लिए व्यावहारिक नहीं हो सकती हैं, जहां उम्मीदवारों को मिनटों में स्क्रीन किया जाता है।
एक और सीमा ऐतिहासिक डेटा पर कानून की निर्भरता है। यदि नियोक्ता ने पहले उपकरण का उपयोग नहीं किया है, तो उसे परीक्षण डेटा का उपयोग करना चाहिए, जो वास्तविक दुनिया की स्थितियों को प्रतिबिंबित नहीं कर सकता है। कानून नियोक्ताओं को "वैकल्पिक चयन प्रक्रियाओं" का उपयोग करने की अनुमति भी देता है लेकिन यह परिभाषित नहीं करता है कि वे क्या हैं, जिससे बचाव के लिए जगह बचती है। कुछ कानूनी विद्वानों ने तर्क दिया है कि कानून का निजी कार्रवाई का अधिकार बहुत संकीर्ण है, क्योंकि यह वादी को ऑडिट की पद्धति को चुनौती देने की अनुमति नहीं देता है। अंत में, कानून को ऑडिट को मशीन-पठनीय प्रारूप में सार्वजनिक करने की आवश्यकता नहीं है, जिससे शोधकर्ताओं के लिए विश्लेषण करना मुश्किल हो जाता है।
भविष्य के विकास
2025 तक, DCWP ने LL 144 में किसी भी संशोधन की घोषणा नहीं की है, लेकिन यह कहा है कि यह कानून की प्रभावशीलता की निगरानी करेगा। एजेंसी ने ऑडिट के लिए सर्वोत्तम प्रथाओं पर मार्गदर्शन प्रकाशित किया है और सार्वजनिक सुनवाई आयोजित की है। कानून को अन्य प्रकार के स्वचालित निर्णयों, जैसे कि प्रदर्शन निगरानी या समाप्ति को कवर करने के लिए विस्तारित करने के बारे में चल रही बहस है। कुछ अधिवक्ताओं ने कुछ AEDTs पर प्रतिबंध लगाने का आह्वान किया है, जैसे कि गहन शिक्षा का उपयोग करने वाले अपारदर्शी निर्णय लेने के साथ, लेकिन कोई औपचारिक प्रस्ताव पेश नहीं किया गया है।
कानून ने एल्गोरिदमिक ऑडिटिंग पर अकादमिक शोध को भी प्रेरित किया है। MIT CSAIL और स्टैनफोर्ड एआई लैब के शोधकर्ताओं ने पूर्वाग्रह ऑडिटिंग के लिए ओपन-सोर्स उपकरण विकसित किए हैं जो LL 144 की आवश्यकताओं का अनुपालन करते हैं। ये उपकरण विभिन्न जनसांख्यिकीय वितरणों का अनुकरण करने के लिए डेटा संवर्धन और मॉडल प्रूनिंग जैसी तकनीकों का उपयोग करते हैं। एल्गोरिदमिक निष्पक्षता का क्षेत्र, जिसमें सैमी बेंगियो और अनिमा आनंदकुमार जैसे शोधकर्ता शामिल हैं, ने तेजी से व्यावहारिक अनुपालन ढांचे पर ध्यान केंद्रित किया है।
व्यापक संदर्भ में, LL 144 रोजगार में एआई को विनियमित करने की दिशा में एक वैश्विक प्रवृत्ति का हिस्सा है। यूरोपीय संघ का एआई अधिनियम, जिसे 2024 में अपनाया गया था, में उच्च-जोखिम वाली एआई प्रणालियों के लिए समान आवश्यकताएं शामिल हैं, जिनमें भर्ती में उपयोग किए जाने वाले भी शामिल हैं। कानून को अकादमिक पत्रों और उद्योग रिपोर्टों में "ऑडिट-आधारित विनियमन" के एक अग्रणी उदाहरण के रूप में उद्धृत किया गया है। क्या यह पूर्वाग्रह को कम करने में प्रभावी होगा, यह एक खुला प्रश्न है, लेकिन इसने निश्चित रूप से कार्यस्थल में एआई को कैसे शासित किया जाए, इस बारे में बातचीत को बदल दिया है।
निष्कर्ष
NYC स्थानीय कानून 144 रोजगार में स्वचालित निर्णय लेने के विनियमन में एक महत्वपूर्ण कदम का प्रतिनिधित्व करता है। पूर्वाग्रह ऑडिट और पारदर्शिता की आवश्यकता के द्वारा, इसका उद्देश्य एल्गोरिदमिक भेदभाव के जोखिमों को कम करना है जबकि लाभकारी प्रौद्योगिकियों के उपयोग की अनुमति देना है। कानून का कार्यान्वयन चुनौतीपूर्ण रहा है, परिभाषाओं, ऑडिट पद्धति और प्रवर्तन पर बहस के साथ। हालांकि, इसने एक ढांचा स्थापित किया है जिसका पालन अन्य न्यायक्षेत्रों द्वारा किए जाने की संभावना है। जैसे-जैसे एआई विकसित होता रहेगा, LL 144 के सिद्धांत - स्वतंत्र ऑडिट, सार्वजनिक प्रकटीकरण और उम्मीदवार सूचना - दुनिया भर में मानक अभ्यास बन सकते हैं। कानून की अंतिम सफलता इस बात पर निर्भर करेगी कि क्या यह वास्तव में नियोक्ताओं पर अनुचित बोझ डाले बिना या नवाचार को दबाए बिना पूर्वाग्रह को कम करता है।