स्वचालित निर्णयों को चुनौती देना: स्पष्टीकरण, मानवीय समीक्षा और अपील

जब कोई सार्वजनिक निकाय या कंपनी किसी लाभ से इनकार करने, किसी व्यक्ति को जांच के लिए चिह्नित करने या किसी अनुबंध से मना करने के लिए स्वचालित प्रणाली का इस्तेमाल करती है, तो प्रभावित व्यक्ति वास्तव में क्या कर सकता है? कानून तीन अलग-अलग साधन देता है: स्पष्टीकरण का अधिकार (यह जानने के लिए कि ऐसा क्यों हुआ), मानवीय समीक्षा का अधिकार (किसी व्यक्ति से निर्णय पर फिर से विचार करवाने के लिए) और अपील का अधिकार (मामले को किसी स्वतंत्र निकाय के समक्ष ले जाने के लिए)। 2023 और 2026 के बीच इन साधनों में महत्वपूर्ण बदलाव हुए। यूरोपीय संघ के न्यायालय (CJEU) ने SCHUFA (C‑634/21, 2023) में कहा कि क्रेडिट स्कोर स्वयं एक स्वचालित निर्णय हो सकता है और Dun & Bradstreet Austria (C‑203/22, 2025) में कहा कि लोगों को “वास्तव में लागू की गई प्रक्रिया और सिद्धांतों” का स्पष्टीकरण पाने का अधिकार है; EU AI Act ने उच्च-जोखिम प्रणालियों पर आधारित निर्णयों के लिए स्पष्टीकरण का अधिकार जोड़ा; यूरोप परिषद ने पहला बाध्यकारी AI समझौता अपनाया; यूके ने स्वचालित निर्णयों से जुड़े अपने नियमों को नए सिरे से लिखा; और अमेरिका के संघीय तथा राज्य नियमों ने अपील और मानवीय समीक्षा संबंधी दायित्व लागू किए। यह अध्ययन इन अधिकारों का मानचित्रण करता है, उनकी तुलना करता है और पूछता है कि वास्तविक मामलों के प्रमाण बताते हैं कि व्यवहार में लोगों की मदद कौन-से तंत्र करते हैं।

मुख्य निष्कर्ष

• EU में अब स्पष्टीकरण का एक व्यावहारिक मानक है। Dun & Bradstreet Austria में CJEU ने कहा कि नियंत्रकों को वास्तव में लागू की गई प्रक्रिया और सिद्धांतों का वर्णन करना होगा, ताकि लोग समझ सकें कि कौन-से डेटा इस्तेमाल किए गए और कैसे; केवल एल्गोरिदम के बारे में जानकारी देना पर्याप्त नहीं है, और व्यापार-रहस्य से जुड़े एतराज़ों पर संतुलन साधने का काम अदालत या पर्यवेक्षी प्राधिकरण का है।
• “स्वचालित निर्णय” का दायरा बढ़ा है। SCHUFA में कहा गया कि GDPR के अनुच्छेद 22 के तहत कोई स्कोर एक स्वचालित व्यक्तिगत निर्णय है, यदि ग्राहक उसे “निर्णायक भूमिका” देता है।
• AI Act का अनुच्छेद 86 देखने में जितना व्यापक लगता है, उससे संकरा है। यह कानूनी या समान रूप से महत्वपूर्ण प्रभावों वाले, Annex III की उच्च-जोखिम प्रणालियों पर आधारित निर्णयों को कवर करता है; यह केवल वहां लागू होता है जहां संघ का कानून पहले से यह अधिकार नहीं देता; और यह उच्च-जोखिम संबंधी दायित्वों पर निर्भर है, जिन्हें 2026 के Digital Omnibus ने 2 December 2027 तक टाल दिया।
• अधिकार-क्षेत्र एक साझा विकल्प-सूची की ओर बढ़ रहे हैं—सूचना, कारण, मानवीय हस्तक्षेप, चुनौती देने का अधिकार—लेकिन इस बात पर मतभेद है कि क्या केवल स्वचालित निर्णयों पर सैद्धांतिक रूप से रोक है (EU), या सुरक्षा उपायों के साथ उनकी अनुमति है (2025 के बाद यूके, कोलोराडो, अमेरिकी संघीय एजेंसियां)।
• व्यवहार में, व्यक्तिगत अधिकारों ने हानिकारक प्रणालियों को शायद ही कभी रोका है। अच्छी तरह से दर्ज मामले—SyRI, Robodebt, नीदरलैंड का बाल-देखभाल लाभ मॉडल, MiDAS—रणनीतिक मुकदमेबाज़ी, सामूहिक मुकदमों, नियामकों और जांचों के कारण रोके गए; व्यक्तिगत अपीलों से लोगों को मदद मिली, लेकिन धीरे-धीरे।
• मानवीय समीक्षा उतनी ही अच्छी होती है जितनी समीक्षक की जानकारी, समय और अधिकार। नीदरलैंड और सर्बिया के प्रमाण दिखाते हैं कि समीक्षक उन प्रणालियों के निष्कर्षों को मान लेते थे जिनसे वे सवाल-जवाब नहीं कर सकते थे।

शोध प्रश्न और दायरा

यह अध्ययन दो परस्पर जुड़े प्रश्न पूछता है: स्वचालित निर्णयों के अधीन लोगों के लिए स्पष्टीकरण, मानवीय समीक्षा और अपील के कौन-से कानूनी अधिकार अब मौजूद हैं, और इनमें से कौन-से कारगर हैं, यह प्रमाण क्या बताते हैं? इसमें EU का कानून (GDPR, CJEU का न्यायशास्त्र, AI Act), यूरोप परिषद का रूपरेखा अभिसमय, यूके तथा अमेरिका के संघीय और राज्य-स्तरीय उपाय शामिल हैं; जहां OECD इसके नियमों का दस्तावेज़ीकरण करता है, वहां फ्रांस का भी उल्लेख किया गया है। इसका मुख्य ध्यान सार्वजनिक क्षेत्र के निर्णयों पर है, लेकिन इसमें निजी क्रेडिट स्कोरिंग भी शामिल है, क्योंकि CJEU के प्रमुख फैसले इसी से संबंधित हैं और उनका तर्क सार्वजनिक नियंत्रकों पर भी लागू होता है।

पृष्ठभूमि

तीन अधिकार, तीन कार्य

ये तीनों एक-दूसरे पर निर्भर हैं। स्पष्टीकरण के बिना, समीक्षक या अधिकरण से किसी परिणाम के कारण जाने बिना उसकी जाँच करने को कहा जाता है; स्वतंत्र अपील के बिना, मानवीय समीक्षा उसी संगठन के भीतर एक औपचारिकता बन सकती है।

अकादमिक बहस

GDPR को अपनाए जाने के तुरंत बाद, Wachter, Mittelstadt और Floridi (2017) ने तर्क दिया कि विनियम में व्यक्तिगत स्वचालित निर्णयों के लिए कानूनी रूप से बाध्यकारी "स्पष्टीकरण का अधिकार" मौजूद नहीं था; इसमें अधिक-से-अधिक प्रणाली की कार्यप्रणाली के बारे में सूचित किए जाने का अधिकार दिया गया था। Edwards और Veale (2017) ने तर्क दिया कि उसका दायरा चाहे जो हो, स्पष्टीकरण का अधिकार "संभवतः वह उपाय नहीं है जिसकी आप तलाश कर रहे हैं", क्योंकि इससे व्यक्तियों पर बोझ पड़ता है और जटिल मॉडलों के सार्थक स्पष्टीकरण देना कठिन है; उन्होंने प्रभाव आकलन जैसे अन्य साधनों की ओर संकेत किया। Wachter, Mittelstadt और Russell (2018) ने प्रतितथ्यात्मक स्पष्टीकरण प्रस्तावित किए — यानी ऐसे कथन कि अलग परिणाम के लिए क्या-क्या अलग होना आवश्यक था — ताकि मॉडल को खोले बिना लोगों को जानकारी दी जा सके। CJEU के 2025 के निर्णय को इस विचार का एक रूप अपनाने के रूप में पढ़ा जा सकता है।

पद्धति और स्रोत

यह अध्ययन प्राथमिक कानूनी ग्रंथों (GDPR, UK Data (Use and Access) Act 2025, यथा संशोधित AI Act, Council of Europe Convention, OMB Memorandum M‑25‑21, कोलोराडो के क़ानून, कैलिफ़ोर्निया के विनियम), SCHUFA और Dun & Bradstreet Austria पर CJEU की आधिकारिक प्रेस विज्ञप्तियों और समकक्ष-समीक्षित शोध पर आधारित है। व्यवहार से जुड़े साक्ष्य Polity Atlas के स्वचालित कल्याण-लाभ प्रवर्तन के तुलनात्मक अध्ययन तथा डच बाल-देखभाल लाभ घोटाले और Robodebt पर उसके अध्ययनों से लिए गए हैं।

सीमाएँ। CJEU के निर्णयों का सारांश न्यायालय की अपनी प्रेस विज्ञप्तियों से लिया गया है, जिन्हें न्यायालय अनौपचारिक बताता है; विस्तृत जानकारी के लिए पूर्ण पाठ देखे जाने चाहिए। कई व्यवस्थाएँ हाल ही में लागू हुई हैं या अभी पूरी तरह लागू नहीं हुई हैं, इसलिए उनके प्रभावों के साक्ष्य बहुत कम हैं। इस अध्ययन की जाँच के समय Council of Europe की वेबसाइटों तक पहुँच नहीं हो सकी, इसलिए Convention के अनुच्छेदों को डच सरकार के संधि डेटाबेस में प्रकाशित प्रामाणिक अंग्रेज़ी पाठ से पढ़ा गया है, और इसकी वर्तमान अनुसमर्थन स्थिति यहाँ नहीं बताई गई है।

निष्कर्ष 1: SCHUFA और Dun & Bradstreet के बाद EU का डेटा संरक्षण कानून

आधाररेखा: GDPR के अनुच्छेद 22 और 15

GDPR का अनुच्छेद 22(1) किसी व्यक्ति को "ऐसे निर्णय के अधीन न किए जाने का अधिकार देता है जो केवल स्वचालित प्रसंस्करण, जिसमें प्रोफाइलिंग भी शामिल है, पर आधारित हो और जिसका उस पर कानूनी प्रभाव पड़ता हो या जो उसे इसी प्रकार उल्लेखनीय रूप से प्रभावित करता हो"। अनुबंधों, स्पष्ट सहमति और ऐसे निर्णयों के लिए अपवाद हैं जिन्हें संघ या सदस्य राज्य का ऐसा कानून अधिकृत करता है जो उपयुक्त सुरक्षा उपाय निर्धारित करता हो। जहाँ अनुबंध या सहमति संबंधी अपवाद लागू होते हैं, वहाँ अनुच्छेद 22(3) "कम-से-कम नियंत्रक की ओर से मानवीय हस्तक्षेप प्राप्त करने, अपना दृष्टिकोण व्यक्त करने और निर्णय को चुनौती देने का अधिकार" आवश्यक करता है। अनुच्छेद 15(1)(h) ऐसे निर्णयों में "शामिल तर्क के बारे में सार्थक जानकारी" तक पहुँच का अधिकार देता है।

SCHUFA (C‑634/21), 7 दिसंबर 2023

जर्मन क्रेडिट एजेंसी SCHUFA ऐसे स्कोर तैयार करती थी जिनका उपयोग बैंक करते थे। न्यायालय ने माना कि स्कोरिंग को "GDPR द्वारा सैद्धांतिक रूप से निषिद्ध 'स्वचालित व्यक्तिगत निर्णय' माना जाना चाहिए, जहाँ तक SCHUFA के ग्राहक, जैसे बैंक, ऋण देने में उसे निर्णायक भूमिका देते हैं"। इसका महत्व संरचनात्मक है: अधिकार उस निकाय पर लागू होता है जो निर्णायक स्कोर तैयार करता है, केवल उस निकाय पर नहीं जो औपचारिक रूप से निर्णय लेता है। सार्वजनिक क्षेत्र के लिए, इससे संकेत मिलता है कि व्यवहार में यह निर्धारित करने वाला जोखिम स्कोर कि किसी दावे की जाँच होगी या उसे अस्वीकार किया जाएगा, स्वयं अनुच्छेद 22 के दायरे में आ सकता है, भले ही परिणाम पर कोई अधिकारी हस्ताक्षर करे।

Dun & Bradstreet Austria (C‑203/22), 27 फरवरी 2025

Dun & Bradstreet द्वारा किए गए स्वचालित क्रेडिट आकलन के कारण एक मोबाइल ऑपरेटर ने एक ग्राहक को €10 के मासिक भुगतान वाले अनुबंध से इनकार कर दिया। ऑस्ट्रियाई न्यायालय पहले ही यह निष्कर्ष दे चुका था कि कंपनी "शामिल तर्क के बारे में सार्थक जानकारी" देने में विफल रही। प्रवर्तन के बारे में भेजे गए एक संदर्भ पर न्यायालय ने यह निर्णय दिया:

• नियंत्रक को "वास्तव में लागू की गई प्रक्रिया और सिद्धांतों का इस प्रकार वर्णन करना चाहिए कि डेटा विषय समझ सके कि उसके कौन-से व्यक्तिगत डेटा उपयोग किए गए हैं और उनका उपयोग कैसे किया गया है";
• "विशेष रूप से, डेटा विषय को यह बताना उचित हो सकता है कि ध्यान में लिए गए व्यक्तिगत डेटा में बदलाव से किस हद तक अलग परिणाम सामने आता" — यह प्रतितथ्यात्मक शैली का स्पष्टीकरण है;
• "केवल एल्गोरिदम का संप्रेषण पर्याप्त रूप से संक्षिप्त और बोधगम्य स्पष्टीकरण नहीं है";
• जहाँ नियंत्रक का दावा हो कि जानकारी में तीसरे पक्ष का डेटा या व्यापार रहस्य शामिल हैं, वहाँ उसे यह जानकारी सक्षम पर्यवेक्षी प्राधिकरण या न्यायालय को देनी होगी, जो हितों का संतुलन करेगा; ऐसा राष्ट्रीय नियम, जो व्यापार रहस्य शामिल होने पर हर स्थिति में पहुँच को वर्जित करता हो, स्वीकार्य नहीं है।

न्यायालय की अपनी मुख्य घोषणा थी कि "दिए गए स्पष्टीकरण से डेटा विषय को स्वचालित निर्णय समझने और उसे चुनौती देने में सक्षम होना चाहिए"। इस प्रकार, स्पष्टीकरण को चुनौती देने की प्रक्रिया में उसके कार्य के आधार पर परिभाषित किया गया है।

निष्कर्ष 2: EU AI Act

अनुच्छेद 86: उच्च-जोखिम वाले निर्णयों के लिए स्पष्टीकरण का अधिकार

AI अधिनियम का अनुच्छेद 86(1) "किसी भी ऐसे प्रभावित व्यक्ति को, जो किसी ऐसे निर्णय के अधीन है जिसे परिनियोजक ने अनुलग्नक III में सूचीबद्ध उच्च-जोखिम AI प्रणाली के आउटपुट के आधार पर लिया है", इस अनुलग्नक के बिंदु 2 के अंतर्गत आने वाली प्रणालियों (महत्वपूर्ण अवसंरचना) को छोड़कर, और जिसका उस व्यक्ति पर कानूनी प्रभाव पड़ता है या जो उसे इसी तरह उल्लेखनीय रूप से प्रभावित करता है, ऐसे तरीके से जिसे वह अपने स्वास्थ्य, सुरक्षा या मौलिक अधिकारों के लिए प्रतिकूल मानता है, "निर्णय-निर्धारण प्रक्रिया में AI प्रणाली की भूमिका और लिए गए निर्णय के मुख्य तत्वों के स्पष्ट और सार्थक स्पष्टीकरण प्राप्त करने" का अधिकार देता है। अनुच्छेद 86(3) कहता है कि यह अनुच्छेद "केवल उसी सीमा तक लागू होता है जहाँ अनुच्छेद 1 में उल्लिखित अधिकार का प्रावधान अन्यथा संघ कानून के अंतर्गत नहीं किया गया है"—इसलिए जहाँ GDPR पहले से ही स्पष्टीकरण का प्रावधान करता है, वहाँ GDPR लागू होता है।

डिजिटल ओम्निबस के बाद समय-सीमा

AI अधिनियम की सामान्य आवेदन-तिथि 2 अगस्त 2026 है। हालाँकि, विनियमन (EU) 2026/1744 (AI पर डिजिटल ओम्निबस) ने अनुच्छेद 113 में संशोधन किया, ताकि अध्याय III, खंड 1–3—उच्च-जोखिम प्रणालियों के लिए मुख्य दायित्व—अनुलग्नक III की प्रणालियों के लिए 2 दिसंबर 2027 से और अनुलग्नक I के अंतर्गत आने वाली प्रणालियों के लिए 2 अगस्त 2028 से लागू हों। चूँकि अनुच्छेद 86 को अनुलग्नक III की उच्च-जोखिम प्रणालियों के संदर्भ में परिभाषित किया गया है, इसलिए उच्च-जोखिम व्यवस्था लागू होने से पहले इसका व्यावहारिक प्रभाव अनिश्चित है; अंतरिम अवधि के साथ प्राधिकारी और अदालतें कैसा व्यवहार करेंगी, यह एक खुला प्रश्न है।

AI अधिनियम के अन्य रास्ते

यह अधिनियम किसी भी व्यक्ति को बाज़ार निगरानी प्राधिकरण के समक्ष शिकायत दर्ज कराने की अनुमति भी देता है, उच्च-जोखिम प्रणालियों के परिनियोजकों से अपेक्षा करता है कि वे उनका उपयोग मानवीय निगरानी के साथ करें, और कुछ अनुलग्नक III प्रणालियों के सार्वजनिक-कानून परिनियोजकों से मौलिक-अधिकार प्रभाव आकलन करने की अपेक्षा करता है। ये अधिकतर अग्रिम दायित्व हैं; अनुच्छेद 86 मुख्य व्यक्तिगत उपचार है।

निष्कर्ष 3: यूरोप परिषद का रूपरेखा अभिसमय

कृत्रिम बुद्धिमत्ता और मानवाधिकार, लोकतंत्र तथा विधि के शासन पर रूपरेखा अभिसमय (CETS No. 225) पर 5 सितंबर 2024 को विल्नियस में हस्ताक्षर के लिए खोला गया। अध्याय IV उपचारों से संबंधित है। अनुच्छेद 14 प्रत्येक पक्ष से अपेक्षा करता है कि वह, "उस सीमा तक जहाँ उसके अंतरराष्ट्रीय दायित्वों के अनुसार उपचार आवश्यक हों और उसकी घरेलू विधिक प्रणाली के अनुरूप हों", AI प्रणालियों से उत्पन्न मानवाधिकार उल्लंघनों के लिए "सुगम और प्रभावी उपचार" सुनिश्चित करे। इसमें ऐसी प्रणालियों के बारे में प्रासंगिक जानकारी का दस्तावेज़ीकरण करने के उपाय शामिल हैं, जो मानवाधिकारों को उल्लेखनीय रूप से प्रभावित कर सकती हैं, और जहाँ उपयुक्त हो, उसे प्रभावित व्यक्तियों के लिए उपलब्ध कराना; यह सुनिश्चित करना कि यह जानकारी "प्रभावित व्यक्तियों के लिए प्रणाली द्वारा लिए गए या पर्याप्त रूप से प्रभावित निर्णय(यों) को चुनौती देने हेतु पर्याप्त हो"; और "संबंधित व्यक्तियों के लिए सक्षम प्राधिकारियों के समक्ष शिकायत दर्ज कराने की प्रभावी संभावना"। अनुच्छेद 15 वहाँ प्रभावी प्रक्रियात्मक गारंटियों की अपेक्षा करता है जहाँ कोई AI प्रणाली "मानवाधिकारों के उपभोग को उल्लेखनीय रूप से प्रभावित करती है", और पक्षों से "यह सुनिश्चित करने का प्रयास करने" को कहता है कि लोगों को सूचित किया जाए कि वे AI प्रणाली के साथ संवाद कर रहे हैं। दायित्व सामान्य रूप में निर्धारित हैं, जिससे कार्यान्वयन के संबंध में पक्षों को विवेकाधिकार मिलता है, और वे केवल पक्षों पर बाध्यकारी हैं: अनुच्छेद 30(3) के अंतर्गत, अभिसमय पाँच हस्ताक्षरकर्ताओं—जिनमें यूरोप परिषद के कम-से-कम तीन सदस्य देश शामिल हों—द्वारा इसका अनुसमर्थन किए जाने के तीन महीने बाद लागू होता है।

निष्कर्ष 4: 2025 के बाद यूनाइटेड किंगडम

डेटा (उपयोग और पहुँच) अधिनियम 2025, जिसे 19 जून 2025 को शाही स्वीकृति मिली, ने UK GDPR के अनुच्छेद 22 को नए अनुच्छेद 22A–22D से प्रतिस्थापित किया। दृष्टिकोण में यह बदलाव महत्वपूर्ण है:

• कोई निर्णय "केवल स्वचालित प्रसंस्करण पर आधारित" तब होता है जब "निर्णय लेने में कोई सार्थक मानवीय भागीदारी न हो", और वह "महत्त्वपूर्ण" तब होता है जब उसका कानूनी या इसी प्रकार का महत्त्वपूर्ण प्रभाव पड़ता है;
• केवल स्वचालित रूप से लिए गए महत्त्वपूर्ण निर्णयों पर मुख्यतः तब प्रतिबंध हैं, जब वे विशेष श्रेणी के डेटा पर निर्भर हों—ऐसे निर्णय केवल स्पष्ट सहमति के साथ, या तब अनुमत हैं जब निर्णय किसी अनुबंध के लिए आवश्यक हो अथवा कानून द्वारा अपेक्षित या अधिकृत हो और अनुच्छेद 9(2)(g) की महत्त्वपूर्ण लोक-हित संबंधी शर्त लागू होती हो—या नए "मान्यताप्राप्त वैध हितों" के आधार पर; सिद्धांततः ऐसे निर्णय निषिद्ध नहीं हैं;
• ऐसे निर्णय लिए जाने पर, नियंत्रकों को ऐसे सुरक्षा उपाय देने होंगे जो "डेटा विषय को निर्णयों के बारे में जानकारी प्रदान करें", "डेटा विषय को अपनी बात रखने में सक्षम बनाएँ", "डेटा विषय को मानवीय हस्तक्षेप प्राप्त करने में सक्षम बनाएँ" और "डेटा विषय को ऐसे निर्णयों को चुनौती देने में सक्षम बनाएँ";
• राज्य सचिव विनियमों के माध्यम से यह परिभाषित कर सकते हैं कि सार्थक मानवीय भागीदारी और इसी प्रकार के महत्त्वपूर्ण प्रभाव किसे माना जाएगा।

इस प्रकार, यूके ने चार मूल सुरक्षा उपायों को बरकरार रखते हुए, अपवादों सहित निषेध के मॉडल से सुरक्षा उपायों सहित अनुमति के मॉडल की ओर कदम बढ़ाया है।

निष्कर्ष 5: संयुक्त राज्य अमेरिका

स्वचालित निर्णयों की व्याख्या या अपील का कोई सामान्य संघीय अधिकार नहीं है; इसके बजाय, नियमों का एक बिखरा हुआ समूह है:

• संघीय एजेंसियाँ। OMB ज्ञापन M‑25‑21 (3 अप्रैल 2025), जिसने M‑24‑10 को रद्द कर उसका स्थान लिया, एजेंसियों से 365 दिनों के भीतर "उच्च-प्रभाव वाले AI" पर न्यूनतम जोखिम-प्रबंधन पद्धतियाँ लागू करने की अपेक्षा करता है। इनमें यह "सुनिश्चित करना कि AI-सक्षम निर्णयों से प्रभावित व्यक्तियों को समय पर मानवीय समीक्षा और, जहाँ उपयुक्त हो, किसी भी नकारात्मक प्रभाव के विरुद्ध अपील का अवसर मिले" शामिल है। एजेंसियों के मुख्य AI अधिकारी न्यूनतम पद्धतियों से छूट दे सकते हैं; ऐसी छूटों का अभिलेख रखा जाता है, उनकी रिपोर्ट दी जाती है और उनका सार्वजनिक सारांश प्रस्तुत किया जाता है।
• कोलोराडो। 17 मई 2024 को स्वीकृत SB24‑205 के तहत, उच्च-जोखिम वाले AI सिस्टम तैनात करने वाले, जो महत्त्वपूर्ण निर्णय लेते हैं या उन पर पर्याप्त प्रभाव डालते हैं, उपभोक्ताओं को सूचना दें, गलत व्यक्तिगत डेटा को सुधारने का अवसर दें और "प्रतिकूल महत्त्वपूर्ण निर्णय के विरुद्ध, तकनीकी रूप से व्यवहार्य होने पर मानवीय समीक्षा के माध्यम से, अपील का अवसर" दें। 28 अगस्त 2025 को हस्ताक्षरित SB25B‑004 ने इन आवश्यकताओं की प्रभावी तिथि बढ़ाकर 30 जून 2026 कर दी। मई 2026 में विधायिका ने दिशा बदली: 14 मई 2026 को हस्ताक्षरित SB26‑189, 2024 के प्रावधानों को निरस्त कर पुनः अधिनियमित करता है। यह उन "स्वचालित निर्णय-निर्माण तकनीकों" पर लागू कानून है जिनका उपयोग महत्त्वपूर्ण निर्णयों को भौतिक रूप से प्रभावित करने के लिए किया जाता है; दायित्व 1 जनवरी 2027 से शुरू होंगे। तैनातकर्ताओं को संवाद के बिंदु पर सूचना देनी होगी और प्रतिकूल परिणाम आने के 30 दिनों के भीतर तकनीक की भूमिका का सरल भाषा में विवरण देना होगा; उपभोक्ता अपने डेटा, तथ्यात्मक रूप से गलत डेटा के सुधार और "सार्थक मानवीय समीक्षा एवं पुनर्विचार" का अनुरोध कर सकते हैं; प्रवर्तन अटॉर्नी जनरल के अधीन होगा और कोई नया निजी वाद-अधिकार नहीं होगा।
• कैलिफ़ोर्निया। कैलिफ़ोर्निया गोपनीयता संरक्षण एजेंसी के विनियम, 22 सितंबर 2025 को स्वीकृत और चरणबद्ध अनुपालन तिथियों के साथ 1 जनवरी 2026 से प्रभावी, स्वचालित निर्णय-निर्माण तकनीक के व्यावसायिक उपयोग के बारे में जानकारी प्राप्त करने और ऐसे उपयोग से बाहर निकलने के उपभोक्ताओं के अधिकार लागू करते हैं।
• न्यूयॉर्क शहर। 2021 का स्थानीय कानून 144 नियोक्ताओं को स्वचालित रोजगार निर्णय उपकरणों का उपयोग करने से रोकता है, जब तक कि पिछले एक वर्ष के भीतर उनका पक्षपात ऑडिट न हुआ हो, ऑडिट के परिणाम सार्वजनिक न हों और उम्मीदवारों को सूचना न दी गई हो—यह व्यक्तिगत अपील के अधिकार के बिना ऑडिट और सूचना का मॉडल है।

तुलना

निष्कर्ष 6: व्यवहार में क्या कारगर है

व्यवस्थागत उपाय व्यक्तिगत उपायों से अधिक प्रभावी हैं

सर्वाधिक अच्छी तरह प्रलेखित मामलों में निर्णायक हस्तक्षेप सामूहिक या संस्थागत थे:

• रणनीतिक मुकदमेबाज़ी। SyRI मामले में, नागरिक-समाज संगठनों के एक गठबंधन ने ऐसा निर्णय प्राप्त किया जिसमें कहा गया कि कानून ने ECHR के अनुच्छेद 8 का उल्लंघन किया। अदालत ने तर्क दिया कि जोखिम मॉडल की जानकारी के बिना, “यह समझना कठिन है कि डेटा का कोई व्यक्ति अपना बचाव कैसे कर पाएगा”—इस तरह पारदर्शिता को व्यक्तिगत रूप से चुनौती देने की पूर्वशर्त माना।
• सामूहिक मुकदमे। Robodebt के सामूहिक मुकदमे से कम-से-कम $1.8 billion (2021) और $548.5 million (2026 में स्वीकृत) के समझौते हुए।
• नियामक। डच डेटा-सुरक्षा प्राधिकरण ने राष्ट्रीयता-आधारित जोखिम संकेतकों को गैरकानूनी पाया और कर प्रशासन पर जुर्माना लगाया।
• जाँचें। डच संसदीय जाँच और ऑस्ट्रेलिया के रॉयल कमीशन ने राजनीतिक जवाबदेही सुनिश्चित की।

व्यक्तिगत अपीलें मुख्यतः संकेत के रूप में महत्वपूर्ण थीं। मिशिगन में, वकीलों ने सफल धोखाधड़ी-संबंधी अपीलों में वृद्धि देखी; बाद में उन्हें पता चला कि MiDAS ने मानवीय समीक्षा के बिना निष्कर्ष जारी किए थे। सर्बिया में, एमनेस्टी ने एक ऐसी महिला का मामला दर्ज किया जिसने निःशुल्क कानूनी सहायता के साथ अपनी दूसरी अपील पर बहाली हासिल की—महीनों तक आय के बिना रहने के बाद।

सूचना, समय और अधिकार के बिना मानवीय समीक्षा विफल होती है

डच बाल-देखभाल लाभ की समीक्षकों को यह नहीं बताया गया कि किसी आवेदन को उच्च-जोखिम वाला क्यों आँका गया था। सर्बियाई सामाजिक कार्यकर्ताओं ने दावेदारों से कहा कि “बेलग्रेड की नई प्रणाली” ने निर्णय लिया था। नीदरलैंड के प्रायोगिक साक्ष्य (Alon-Barkat and Busuioc, 2023) में स्वचालन-पक्षपात का कोई सामान्य प्रमाण नहीं मिला, लेकिन समूह-संबंधी रूढ़ियों से मेल खाने वाली सलाह का अनुसरण करने की प्रवृत्ति मिली; बाल-देखभाल घोटाले के तुरंत बाद जिन लोक सेवकों की जाँच की गई, उनमें यह प्रवृत्ति नहीं थी। Ben Green (2022) का तर्क है कि मानवीय निरीक्षण की आवश्यकताएँ झूठा आश्वासन दे सकती हैं और दोषपूर्ण प्रणालियों को वैधता प्रदान कर सकती हैं; उनका प्रस्ताव है कि एजेंसियाँ इसके बजाय एल्गोरिदम के उपयोग को उचित ठहराएँ और उन्हें संस्थागत निरीक्षण के अधीन करें।

स्पष्टीकरण तब कारगर होते हैं जब उनसे कार्रवाई संभव हो

CJEU का Dun & Bradstreet मानक — कौन-सा डेटा इस्तेमाल हुआ, कैसे हुआ और किस बदलाव से नतीजा बदल जाता — ऐसा स्पष्टीकरण है जिससे कोई व्यक्ति डेटा में सुधार कर सकता है (जैसा कि सर्बिया के मामलों में गलत दर्ज की गई आय या कबाड़ में बेची गई कारों के मामले में) या किसी पद्धति को चुनौती दे सकता है (जैसा कि Robodebt में औसत निकालने की पद्धति के मामले में)। “एल्गोरिदम” के सामान्य विवरण ऐसा नहीं करते।

साक्ष्य क्या नहीं दिखाते

• नई व्यवस्थाओं के प्रभावों के बारे में अभी बहुत कम साक्ष्य हैं। अनुच्छेद 86, UK के अनुच्छेद 22A–22D और कोलोराडो का मानवीय समीक्षा का अधिकार इतने नए हैं कि उनके परिणामों के आँकड़े उपलब्ध नहीं हैं।
• यह नहीं दिखता कि व्यक्तिगत अधिकार बेकार हैं। प्रणालीगत उपचारों के लिए वे आवश्यक आधार हैं; मुकदमेबाज़ी गठबंधन और नियामक अक्सर व्यक्तिगत शिकायतों पर आगे काम करते हैं।
• यह नहीं दिखता कि स्पष्टीकरण हमेशा दिए जा सकते हैं। कुछ जटिल मॉडलों के लिए व्यक्तिगत परिणामों के विश्वसनीय स्पष्टीकरण तकनीकी रूप से अब भी विवादित हैं; CJEU का मानक वास्तव में इस्तेमाल किए गए डेटा और सिद्धांतों पर ध्यान केंद्रित करके इस समस्या से बचता है।
• यह स्थापित नहीं होता कि समीक्षक कितनी बार प्रणालियों के निर्णय पलटते हैं। कुछ ही सार्वजनिक निकाय स्वचालित निर्णयों के लिए निर्णय पलटने की दर या अपीलों में सफलता की दर प्रकाशित करते हैं।

संस्थागत डिज़ाइन के निहितार्थ

किसी एक अधिकार की तुलना में, साक्ष्य से समर्थित एक बहुस्तरीय डिज़ाइन बेहतर है:

1. निर्णय के समय सूचना दी जाए कि स्वचालित प्रणाली का इस्तेमाल किया गया था।
2. कार्रवाई योग्य कारण: इस्तेमाल किया गया डेटा, उसका उपयोग कैसे हुआ और किस बदलाव से परिणाम बदलेगा — Dun & Bradstreet मानक — तथा व्यापार-गोपनीयता से जुड़े विवादों का निपटारा नियंत्रक के बजाय किसी स्वतंत्र प्राधिकरण द्वारा किया जाए।
3. वास्तविक मानवीय समीक्षा: समीक्षकों को प्रणाली के कारणों तक पहुँच हो, जाँच के लिए समय मिले और निर्णय पलटने का स्पष्ट अधिकार हो; निर्णय पलटने की दरें प्रकाशित की जाएँ।
4. स्वतंत्र अपील, जिसके लंबित रहने के दौरान वसूली या दंड स्थगित रहे और कम आय वाले दावेदारों को कानूनी सहायता मिले।
5. प्रणालीगत सक्रियण-व्यवस्थाएँ: अपील के समेकित आँकड़े किसी नियामक या लोकपाल को रिपोर्ट किए जाएँ, प्रणाली को निलंबित करने का अधिकार हो और सामूहिक उपचार तक पहुँच हो।
6. रजिस्टर और तैनाती-पूर्व कानूनी अनुमोदन, ताकि किसी पद्धति की वैधता की जाँच उसे हज़ारों लोगों पर लागू करने से पहले हो।

अनुत्तरित प्रश्न

• राष्ट्रीय अदालतें सार्वजनिक क्षेत्र के जोखिम स्कोरों पर SCHUFA की "निर्धारक भूमिका" कसौटी कैसे लागू करेंगी, जबकि औपचारिक रूप से वे केवल समीक्षा के लिए मामलों का चयन करते हैं?
• क्या पर्यवेक्षी प्राधिकरण व्यापार रहस्यों और पहुँच के अधिकारों के बीच संतुलन बनाने के लिए व्यावहारिक प्रक्रियाएँ विकसित करेंगे, जैसा कि Dun & Bradstreet अपेक्षित करता है?
• दिसंबर 2027 से पहले अनुच्छेद 86 कैसे लागू होगा, और क्या आयोग का मार्गदर्शन GDPR के साथ इसके संबंध को स्पष्ट करेगा?
• क्या यूके का अनुमति-सहित-सुरक्षा-उपायों वाले मॉडल की ओर बदलाव पूरी तरह स्वचालित निर्णयों में वृद्धि करेगा, और क्या "सार्थक मानवीय भागीदारी" को सख्ती से परिभाषित किया जाएगा?
• क्या न्यूनतम प्रथाओं से अमेरिकी संघीय छूटों का उपयोग विरले ही होगा या नियमित रूप से, और क्या राज्य कोलोराडो के मानवीय समीक्षा मॉडल के साथ सामंजस्य स्थापित करेंगे?

स्रोत

1. यूरोपीय संसद और परिषद (2016). Regulation (EU) 2016/679 (General Data Protection Regulation), अनुच्छेद 15 और 22।
2. यूरोपीय संघ का न्यायालय (2023). Press release No 186/23: SCHUFA Holding (Scoring), C‑634/21, 7 दिसंबर 2023।
3. यूरोपीय संघ का न्यायालय (2025). Press release No 22/25: Dun & Bradstreet Austria, C‑203/22, 27 फरवरी 2025।
4. यूरोपीय संसद और परिषद (2024). Regulation (EU) 2024/1689 (Artificial Intelligence Act), अनुच्छेद 86।
5. यूरोपीय संसद और परिषद (2026). Regulation (EU) 2026/1744 (Digital Omnibus on AI).
6. यूरोप की परिषद (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225).
7. यूके संसद (2025). Data (Use and Access) Act 2025, section 80.
8. प्रबंधन एवं बजट कार्यालय (2025). Memorandum M‑25‑21: Accelerating Federal Use of AI through Innovation, Governance, and Public Trust.
9. कोलोराडो महासभा (2024). SB24‑205, Consumer Protections for Artificial Intelligence.
10. कोलोराडो महासभा (2025). SB25B‑004, Increase Transparency for Algorithmic Systems.
11. कैलिफ़ोर्निया गोपनीयता संरक्षण एजेंसी (2025). CCPA Updates, Cybersecurity Audits, Risk Assessments, ADMT and Insurance Regulations.
12. NYC उपभोक्ता और कामगार संरक्षण विभाग। Automated Employment Decision Tools (Local Law 144 of 2021).
13. OECD (2026). Digital Government Outlook 2026, बॉक्स 4.7।
14. Wachter, S., Mittelstadt, B. और Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law 7(2): 76–99.
15. Edwards, L. और Veale, M. (2017). Slave to the Algorithm? Why a 'Right to an Explanation' Is Probably Not the Remedy You Are Looking For. Duke Law & Technology Review 16(1): 18–84.
16. Wachter, S., Mittelstadt, B. और Russell, C. (2018). Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR. Harvard Journal of Law & Technology 31(2).
17. Rechtbank Den Haag (2020). SyRI judgment, ECLI:NL:RBDHA:2020:1878.
18. Alon-Barkat, S. और Busuioc, M. (2023). Human–AI Interactions in Public Sector Decision Making. JPART 33(1): 153–169.
19. Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review 45.
20. एमनेस्टी इंटरनेशनल (2023). Trapped by automation, EUR 70/7443/2023।
21. Charette, R. N. (2018). Michigan's MiDAS Unemployment System. IEEE Spectrum।
22. कोलोराडो महासभा (2026). SB26‑189, Automated Decision-Making Technology.
23. यूरोप की परिषद (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law — authentic English text, जैसा कि डच सरकार की संधि डेटाबेस में प्रकाशित है।