एल्गोक्रेसी

एल्गोक्रेसी (एल्गोरिदम द्वारा शासन) उन व्यवस्थाओं का वर्णन करती है जिनमें पदानुक्रमित आदेश या मनुष्यों द्वारा लागू लिखित नियमों के बजाय सॉफ़्टवेयर व्यवहार को व्यवस्थित और सीमित करता है। नियम अब ऐसी चीज़ नहीं रह जाता जिसकी व्याख्या कोई अधिकारी करता हो; वह कोड में अंतर्निहित होता है, जो तय करता है कि कौन-से विकल्प उपलब्ध हैं, कौन-सा डेटा एकत्र किया जाता है और उसका परिणाम क्या होता है।

यह शब्द समाजशास्त्री A. Aneesh ने यह बताने के लिए गढ़ा था कि वैश्विक स्तर पर वितरित सॉफ़्टवेयर कार्य को नौकरशाही निगरानी के बजाय प्रोग्रामिंग प्लेटफ़ॉर्म के माध्यम से कैसे नियंत्रित किया जाता था। बाद में दार्शनिकों और विधि-विद्वानों ने इसका उपयोग सार्वजनिक निर्णय-निर्माण के लिए किया: कल्याणकारी योजनाओं की पात्रता, धोखाधड़ी का पता लगाना, पुलिसिंग, आव्रजन, कर-प्रवर्तन और सार्वजनिक सेवाओं का आवंटन।

एल्गोक्रेसी, टेक्नोक्रेसी से भिन्न है। टेक्नोक्रेसी मानव विशेषज्ञों का शासन है; एल्गोक्रेसी उन प्रणालियों के माध्यम से शासन है जिनकी कार्यप्रणाली उन्हें लागू करने वालों के लिए भी अपारदर्शी हो सकती है। यह ज़ोर के मामले में सरकार में AI के उपयोग से भी भिन्न है: चिंता प्रौद्योगिकी मात्र को लेकर नहीं, बल्कि इस बदलाव को लेकर है कि सत्ता का प्रयोग और उस पर विवाद कैसे किया जाता है।

Aneesh: नौकरशाही से कोड तक

Aneesh ने संगठन के तीन तरीकों की तुलना की: नौकरशाही (नियम और पदानुक्रम), पैनॉप्टिक (दृश्यता और निगरानी) और एल्गोक्रेटिक (क्रमादेशित परिवेश जो सीधे कार्रवाई को आकार देते हैं)। एल्गोक्रेटिक व्यवस्था में कोई कर्मचारी या नागरिक किसी नियम का पालन नहीं करता; वह बस ऐसा कुछ नहीं कर सकता जिसकी अनुमति व्यवस्था न दे। नियंत्रण संरचना में ही अंतर्निहित होता है।

Danaher: एल्गोक्रेसी का ख़तरा

John Danaher ने तर्क दिया कि एल्गोरिदम-आधारित निर्णय प्रणालियाँ सार्वजनिक निर्णयों की वैधता के लिए ख़तरा हैं। कई मतों के अनुसार, वैध प्रक्रियाओं के लिए आवश्यक है कि निर्णयों से प्रभावित लोग उनके पीछे के तर्क को समझ सकें और उसमें भाग ले सकें। यदि एल्गोरिदम मनुष्यों से अधिक सटीक, लेकिन कम समझने योग्य हो जाएँ, तो समाजों के सामने दुविधा होती है: अपारदर्शी लेकिन बेहतर निर्णय स्वीकार करें, या समझने योग्य लेकिन बदतर निर्णयों पर ज़ोर दें। Danaher ने मानव निगरानी और मानवीय समझ को बढ़ाने सहित प्रतिरोध और अनुकूलन की रणनीतियों की पड़ताल की, और संदेह जताया कि इनमें से कोई भी समस्या का पूरी तरह समाधान कर सकती है।

एल्गोरिदमिक विनियमन

Karen Yeung ने एल्गोरिदमिक विनियमन को ऐसी निर्णय-निर्माण प्रणालियों के रूप में परिभाषित किया जो जोखिम प्रबंधित करने या व्यवहार बदलने के लिए लगातार डेटा तैयार करके और उसकी खोज करके किसी गतिविधि-क्षेत्र का विनियमन करती हैं। उन्होंने प्रतिक्रियाशील और पूर्व-निवारक प्रणालियों में अंतर किया और दिखाया कि ये विनियमन को नियमों से हटाकर वास्तविक समय की प्रतिपुष्टि की ओर ले जाती हैं, अक्सर प्रशासनिक कानून के प्रक्रियात्मक सुरक्षा उपायों के बिना।

कोड ही कानून है

Lawrence Lessig का यह तर्क कि सॉफ़्टवेयर की संरचना कानून जितना ही विनियमन करती है, इसका एक पूर्वगामी विचार है: यदि साइबरस्पेस का “कोड” तय करता है कि क्या संभव है, तो इसे लिखने वाले शासन के एक रूप का प्रयोग करते हैं। ब्लॉकचेन परियोजनाएँ स्मार्ट कॉन्ट्रैक्ट को स्व-निष्पादित नियम मानकर इस विचार को और आगे ले जाती हैं।

• नीदरलैंड, SyRI: डच सरकार के सिस्टम रिस्क इंडिकेशन ने कल्याणकारी सहायता में धोखाधड़ी की जाँच के लिए लोगों को चिह्नित करने हेतु डेटाबेसों को आपस में जोड़ा। 5 February 2020 को हेग के जिला न्यायालय ने माना कि इसे अधिकृत करने वाला कानून मानवाधिकारों पर यूरोपीय अभिसमय के अनुच्छेद 8 (निजी जीवन के सम्मान) का उल्लंघन करता है; न्यायालय ने पारदर्शिता और सुरक्षा-उपायों को अपर्याप्त बताया।
• नीदरलैंड, बाल-देखभाल लाभ: संसदीय जाँच रिपोर्ट, Ongekend onrecht ("Unprecedented injustice", December 2020) में पाया गया कि कर प्रशासन ने हज़ारों अभिभावकों को गलत ढंग से धोखेबाज़ माना था और जोखिम आकलन में राष्ट्रीयता का उपयोग किया गया था; तीसरे रुट्टे मंत्रिमंडल ने January 2021 में इस्तीफ़ा दे दिया।
• ऑस्ट्रेलिया, Robodebt: लगभग July 2015 से November 2019 तक एक स्वचालित योजना ने कल्याणकारी सहायता के ऋण निर्धारित करने के लिए वार्षिक कर आँकड़ों का औसत निकाला। एक सामूहिक मुकदमे में राष्ट्रमंडल ने स्वीकार किया कि केवल आय के औसत पर आधारित ऋणों का कोई उचित कानूनी आधार नहीं था, और संघीय न्यायालय ने 11 June 2021 को $112 million के समझौते को मंज़ूरी दी (Prygodicz v Commonwealth (No 2) [2021] FCA 634)। एक रॉयल कमीशन ने 7 July 2023 को योजना के अभिकल्प और प्रशासन पर गंभीर निष्कर्षों वाली अपनी रिपोर्ट पेश की।
• संयुक्त राज्य अमेरिका: वर्जीनिया यूबैंक्स ने इंडियाना, लॉस एंजिलिस और एलेगेनी काउंटी में स्वचालित पात्रता और बाल-कल्याण जोखिम प्रणालियों का दस्तावेज़ीकरण किया और तर्क दिया कि ये गरीबों पर निगरानी को केंद्रित करती हैं।
• अल्बानिया: सरकार ने 2025 में सार्वजनिक खरीद के लिए Diella नामक AI प्रणाली को एक "मंत्री" के रूप में प्रस्तुत किया; यह प्रतीकात्मक दावा दिखाता है कि एल्गोरिद्मिक प्राधिकार को अब राजनीतिक रूप से किस तरह प्रस्तुत किया जाता है।
• विनियमन: EU Artificial Intelligence Act (Regulation (EU) 2024/1689) सार्वजनिक लाभों और सेवाओं के लिए पात्रता का आकलन करने में प्रयुक्त AI प्रणालियों को उच्च-जोखिम वाली प्रणालियों के रूप में वर्गीकृत करता है और जोखिम प्रबंधन, मानवीय निगरानी तथा दस्तावेज़ीकरण अनिवार्य करता है।

• नवीनता का अतिशयोक्तिपूर्ण दावा: नौकरशाहियों ने हमेशा प्रपत्रों, अंकों और जाँच-सूचियों का उपयोग किया है; आलोचकों का तर्क है कि एल्गोक्रेसी कोई नई व्यवस्था नहीं, बल्कि नियम-आधारित प्रशासन का तीव्र रूप है।
• सटीकता का अर्थ तटस्थता नहीं: प्रशिक्षण आँकड़े अतीत के निर्णयों को समाहित करते हैं, इसलिए प्रणालियाँ संरक्षित विशेषताओं को इनपुट के रूप में उपयोग किए बिना भी भेदभाव को दोहरा सकती हैं।
• स्वचालन पक्षपात: मानव समीक्षक मशीन के निष्कर्षों को मान लेने की प्रवृत्ति रखते हैं, इसलिए "मानव की निगरानी में" सुरक्षा-उपाय केवल नाममात्र के हो सकते हैं।
• बड़े पैमाने पर त्रुटि: स्वचालित रूप से लागू किया गया त्रुटिपूर्ण नियम किसी के ध्यान में आने से पहले व्यापक गलतियाँ पैदा करता है, जैसा Robodebt ने दिखाया।
• चुनौती देने की क्षमता: प्रभावित लोग अक्सर अपने विरुद्ध इस्तेमाल किए गए आँकड़े या तर्क नहीं देख पाते, जिससे अपील के अधिकार कमज़ोर होते हैं।
• आशावादी पक्ष: समर्थकों का तर्क है कि पारदर्शी और लेखा-परीक्षित एल्गोरिदम विवेकाधिकार का उपयोग करने वाले अधिकारियों से अधिक सुसंगत और कम पक्षपाती हो सकते हैं; साथ ही, सही तुलना त्रुटिपूर्ण मानवीय निर्णयों से है, किसी आदर्श से नहीं।

कल्याणकारी सहायता और कर प्रशासन के साक्ष्य दिखाते हैं कि अपारदर्शी तर्क, कमज़ोर कानूनी सुरक्षा और धोखाधड़ी की पूर्वधारणा के मेल से एल्गोक्रेटिक प्रणालियाँ बड़े पैमाने पर हानि पहुँचा सकती हैं। न्यायालयों और विधायिकाओं ने स्पष्टीकरण और मानवीय समीक्षा के अधिकारों, प्रभाव आकलनों तथा जोखिम-आधारित विनियमन के माध्यम से जवाब देना शुरू किया है। एल्गोक्रेसी को वैध बनाया जा सकता है या नहीं, यह तकनीकी नहीं, बल्कि राजनीतिक अभिकल्प-निर्णयों पर निर्भर करता है: क्या स्वचालित किया जाता है, कौन इसकी लेखा-परीक्षा कर सकता है, त्रुटियों को कैसे सुधारा जाता है और गलतियों की कीमत कौन चुकाता है।

• John Danaher, "The Threat of Algocracy" (2016)
• A. Aneesh, "Global Labor: Algocratic Modes of Organization" (2009)
• Karen Yeung, "Algorithmic regulation: A critical interrogation" (2018)
• EU Artificial Intelligence Act, Regulation (EU) 2024/1689
• Virginia Eubanks, Automating Inequality (St. Martin's Press, 2018)
• Report of the Royal Commission into the Robodebt Scheme (2023)
• [Prygodicz v Commonwealth (No 2) [2021] FCA 634](https://www.judgments.fedcourt.gov.au/judgments/Judgments/fca/single/2021/2021fca0634)