विचार-विमर्श में सहायक के रूप में AI: Polis से Habermas Machine तक के साक्ष्य

विचार-विमर्शात्मक लोकतंत्र के सामने हमेशा से एक पैमाने की समस्या रही है: सावधानीपूर्वक चर्चा कुछ दर्जन लोगों के समूह में कारगर होती है, जबकि राजनीतिक समुदायों की आबादी लाखों में होती है। सॉफ़्टवेयर और, 2022 से, बड़े भाषा मॉडल (LLM) मत-अभिमतों को समूहबद्ध करके, चर्चाओं का मॉडरेशन करके, तर्कों का सारांश बनाकर और ऐसे वक्तव्य तैयार करके इस बाधा को कम करने का वादा करते हैं जिन्हें बहुत-से लोग स्वीकार कर सकें। यह अध्ययन वास्तविक दुनिया में किए गए मुख्य प्रयोगों और नियंत्रित प्रयोगों की समीक्षा करता है: Polis मंच और ताइवान की vTaiwan प्रक्रिया; Collective Intelligence Project द्वारा संचालित Alignment Assemblies, जिनमें Anthropic के साथ Collective Constitutional AI भी शामिल है; Stanford का Online Deliberation Platform और उसका स्वचालित मॉडरेटर; तथा Google DeepMind की “Habermas Machine”, जिसकी रिपोर्ट 2024 में Science में प्रकाशित हुई थी। इसके बाद यह जोखिमों से जुड़े प्रायोगिक साक्ष्यों की तुलना करता है: AI मतों को प्रभावित करता है, लोगों की तुलना में अधिक प्रभावी ढंग से मनाता है और विचारों की सीमा को संकुचित करता है। समग्र तस्वीर ऐसे उपकरणों की है जो लोगों को साझा आधार खोजने और व्यक्त करने में मापने योग्य सहायता देते हैं; अब तक इनका उपयोग मुख्यतः परामर्शात्मक संदर्भों में हुआ है, जबकि इस बात के ठोस साक्ष्य हैं कि इन्हीं क्षमताओं का उपयोग सहायता देने के साथ-साथ दिशा देने के लिए भी किया जा सकता है। इसलिए डिज़ाइन का प्रश्न यह नहीं है कि AI विचार-विमर्श में सहायता कर सकता है या नहीं, बल्कि यह है कि उपकरण को कौन नियंत्रित करता है, उसे क्या करने की अनुमति है और उसके प्रभाव का ऑडिट कैसे किया जाता है।

मुख्य निष्कर्ष

• एआई ऐसे वक्तव्य तैयार कर सकता है जिन्हें समूह प्राथमिकता देते हैं। 5,734 प्रतिभागियों के साथ किए गए प्रयोगों में, एआई मध्यस्थ द्वारा तैयार किए गए वक्तव्यों को मानव मध्यस्थों द्वारा लिखे गए वक्तव्यों से अधिक पसंद किया गया और उन्हें अधिक सूचनाप्रद, स्पष्ट तथा निष्पक्ष माना गया; प्रतिभागियों ने अक्सर अपने विचारों को साझा स्थिति की ओर बदला, और यह परिणाम ब्रिटेन के जनसांख्यिकीय रूप से प्रतिनिधिक नमूने से गठित आभासी नागरिक सभा में भी दोहराया गया (Tessler and colleagues, 2024)।
• राय-मानचित्रण के साधनों ने वास्तविक नीतियों को आकार दिया है, मुख्यतः परामर्श के रूप में। 2014 से ताइवान की vTaiwan प्रक्रिया में इस्तेमाल होने वाला Polis, प्रतिभागियों को छोटे वक्तव्यों पर उनके मतदान के आधार पर समूहों में बाँटता है और उन वक्तव्यों को सामने लाता है जिन्हें विभिन्न समूहों में समर्थन मिलता है। इसने कानून और विनियमन को सूचित किया है, विशेष रूप से UberX मामले में, लेकिन इसके निष्कर्ष परामर्शात्मक ही रहते हैं।
• सार्वजनिक इनपुट क्षमता को नुकसान पहुँचाए बिना मॉडल के व्यवहार को बदल सकता है। लगभग 1,000 अमेरिकियों ने Anthropic के एक मॉडल के लिए "सार्वजनिक संविधान" में 1,127 वक्तव्य और 38,252 मत दिए; परिणामी मॉडल ने Anthropic के अपने संविधान पर प्रशिक्षित मॉडल की तुलना में नौ सामाजिक आयामों पर कम पूर्वाग्रह दिखाया, जबकि क्षमता मानकों पर उसका प्रदर्शन समान रहा (Huang and colleagues, 2024)।
• स्वचालित मॉडरेशन का इस्तेमाल पहले से बड़े पैमाने पर हो रहा है। Stanford का Online Deliberation Platform वक्ताओं की कतारों, समयबद्ध कार्यसूचियों और अभद्रता का प्रबंधन करता है, और 40 से अधिक देशों में 50,000 से अधिक विशिष्ट उपयोगकर्ताओं की रिपोर्ट देता है; इसने अन्य आयोजनों के साथ, Meta के 2023 Community Forum (चार देशों में 1,545 प्रतिभागी) और एआई तथा सूचना की सत्यनिष्ठा पर 2024 के ताइवान विचार-विमर्श (447 प्रतिभागी) की मेज़बानी की।
• इन्हीं साधनों से लोगों की राय को दिशा भी दी जा सकती है। विचारधारा-युक्त भाषा मॉडल के साथ लिखने से प्रतिभागियों के अपने विचार बदल गए (N=1,506); व्यक्तिगत रूप से अनुकूलित GPT-4 वाद-विवादकर्ता, बराबरी पर समाप्त न होने वाले मामलों में, 64.4% बार मानव वाद-विवादकर्ताओं से अधिक प्रेरक थे (N=900); और एआई के विचारों तक पहुँच ने रचनात्मक कार्य को व्यक्तिगत रूप से बेहतर, लेकिन सामूहिक रूप से अधिक समान बना दिया।
• वैधता के प्रमाण सीमित हैं। लगभग सभी अध्ययन प्रयोगों या एकबारगी परामर्शों में प्रतिभागियों की रेटिंग और मनोवृत्ति में बदलाव मापते हैं। इस बात के बहुत कम प्रमाण हैं कि एआई-सहायित प्रक्रियाओं को गैर-प्रतिभागी वैध मानते हैं या नहीं, अथवा वास्तविक निर्णयों पर उनका क्या प्रभाव पड़ता है।

शोध प्रश्न और दायरा

अध्ययन पूछता है: लोकतांत्रिक विचार-विमर्श में सहायक के रूप में एआई साधनों के बारे में प्रमाण क्या दर्शाते हैं, और वे किन जोखिमों की पहचान करते हैं? "विचार-विमर्श सहायता" में चार कार्य शामिल हैं: (1) बड़ी आबादी में मतों का मानचित्रण (Polis); (2) चर्चा को सुगम बनाना (स्वचालित मॉडरेशन); (3) विचारों को सारांशों या समूह-वक्तव्यों में संश्लेषित करना (LLM सारांशीकरण, Habermas Machine); और (4) एआई प्रणालियों के लिए नियम बनाने में सार्वजनिक इनपुट को एकत्रित करना (Collective Constitutional AI, Alignment Assemblies)। नागरिकों की ओर से निर्णय लेने के लिए इस्तेमाल होने वाला एआई, एआई उम्मीदवार और चुनाव प्रशासन में एआई इस दायरे से बाहर हैं।

पृष्ठभूमि

Jürgen Habermas के संचारात्मक क्रिया के विवरण से लेकर James Fishkin के विचार-विमर्शात्मक मतदान तक, विचार-विमर्श के सिद्धांत के अनुसार सामूहिक निर्णयों की वैधता उनसे पहले होने वाले तर्क-विचार की गुणवत्ता पर निर्भर करती है: समावेशन, समान रूप से अपनी बात रखने का अवसर, शक्ति के बजाय तर्क, और पुनर्विचार के लिए खुलापन। इसके संस्थागत रूप (नागरिक सभाएँ, जूरी और विचार-विमर्शात्मक मतदान) यादृच्छिक चयन तथा प्रशिक्षित मानव सहायक-संचालकों पर निर्भर करते हैं, और प्रति प्रतिभागी महँगे होते हैं। इसके विपरीत, ऑनलाइन परामर्श सस्ता है, लेकिन उसमें सबसे मुखर लोगों को अक्सर अधिक लाभ मिलता है और ट्रोलिंग करने वाले आकर्षित होते हैं।

संगणकीय उपकरणों ने इस कमी को चरणों में भरा। Polis, 2010 के शुरुआती दशक में विकसित एक ओपन-सोर्स "विकीसर्वे", ने थ्रेड के रूप में उत्तर देने की व्यवस्था पूरी तरह छोड़ दी: प्रतिभागी छोटे वक्तव्य देते हैं और दूसरों के वक्तव्यों पर सहमति, असहमति या पास का मत देते हैं; सॉफ़्टवेयर आयामीयता-न्यूनन और क्लस्टरिंग का उपयोग करके मतों की संरचना दिखाता है। ताइवान के नागरिक-प्रौद्योगिकी समुदाय ने इसे vTaiwan के लिए अपनाया, जो सरकार से जुड़ी एक परामर्श प्रक्रिया है। 2022 से, एलएलएम ने बड़े पैमाने पर प्राकृतिक भाषा को पढ़ने और लिखने की क्षमता जोड़ी है, जिससे सारांश बनाना, पाठ के माध्यम से मॉडरेशन करना और संभावित सहमति-वक्तव्य तैयार करना संभव हुआ है।

पद्धति और स्रोत

यह समकक्ष-समीक्षित प्रयोगों, प्रीप्रिंट और प्रक्रियाएँ संचालित करने वाले संगठनों के प्राथमिक दस्तावेज़ों की एक संरचित समीक्षा है। मुख्य स्रोत हैं: Polis पर Small और उनके सहलेखकों का काम (2021) तथा Polis में एलएलएम पर उनका काम (2023); vTaiwan पर Hsiao और उनके सहलेखकों का काम (2018); Collective Intelligence Project का 2023 Alignment Assemblies का विवरण; Collective Constitutional AI पर Huang और उनके सहलेखकों का काम (FAccT 2024) और साथ में प्रकाशित Anthropic रिपोर्ट; Online Deliberation Platform पर Stanford का Deliberative Democracy Lab और Human-Centered AI Institute; Science (2024) में Tessler और उनके सहलेखक; PNAS (2023) में Argyle और उनके सहलेखक; तथा जोखिमों पर Jakesch और उनके सहलेखक (CHI 2023), Costello, Pennycook और Rand (Science 2024), Hackenburg और Margetts (PNAS 2024), Salvi और उनके सहलेखक (Nature Human Behaviour 2025), और Doshi और Hauser (Science Advances 2024)। जहाँ किसी प्रक्रिया को संचालित करने वाले संगठन ही उसका मूल्यांकन भी करते हैं, वहाँ पाठ में इसका उल्लेख किया गया है।

निष्कर्ष

मतों का मानचित्रण: Polis और vTaiwan

Small और उनके सहलेखक Polis को एक ओपन-सोर्स वेब अनुप्रयोग बताते हैं, जो "लोगों से प्रतिक्रिया को बड़े पैमाने पर और वितरित तरीके से एकत्र और संश्लेषित करने में सक्षम" है। वे बताते हैं कि पत्रकारिता, अकादमिक शोध और स्थानीय तथा राष्ट्रीय स्तर के निर्णयकारी निकायों में इसने साझा समझ विकसित की, ट्रोलिंग को हतोत्साहित किया और सहमति के बिंदुओं को सामने लाया है। सबसे महत्वपूर्ण डिज़ाइन विकल्प उत्तर देने की व्यवस्था का न होना है: प्रतिभागी एक-दूसरे पर सीधे हमला नहीं कर सकते, और सॉफ़्टवेयर उन वक्तव्यों को पुरस्कृत करता है जिन्हें किसी एक मत-समूह के भीतर के बजाय अलग-अलग मत-समूहों में सहमति मिलती है।

2014 में शुरू हुए vTaiwan ने Polis को खुली बैठकों, लाइवस्ट्रीम किए गए परामर्शों और अधिकारियों की भागीदारी के साथ जोड़ा। Hsiao, Lin, Tang, Narayanan और Sarahe ने प्रस्ताव और राय-संग्रह से लेकर विचार-विमर्श और फिर कानून-निर्माण तक की इसकी प्रक्रिया का दस्तावेज़ीकरण किया, और 2015 के UberX परामर्श को एक ऐसे केस अध्ययन के रूप में इस्तेमाल किया जिसमें चालकों, टैक्सी संचालकों, यात्रियों और अधिकारियों के बीच बनी "अस्थायी सहमति" ने विनियमन को दिशा दी। vTaiwan की प्रतिभागी और बाद में ताइवान की डिजिटल मंत्री बनीं Audrey Tang इस दृष्टिकोण की सबसे प्रसिद्ध समर्थक बनीं।

vTaiwan पर उपलब्ध साहित्य में दो सीमाएँ अच्छी तरह दर्ज हैं। इसके परिणाम इस बात पर निर्भर थे कि मंत्रालय भाग लेने और कार्रवाई करने का चुनाव करते हैं या नहीं; इस प्रक्रिया का कोई बाध्यकारी बल नहीं था। और इसमें भागीदारी स्व-चयनित थी: यह किसी के लिए भी खुली थी, जो सभी का प्रतिनिधित्व करने से अलग बात है।

चर्चा को सुगम बनाना: स्वचालित मॉडरेशन

Stanford के Deliberative Democracy Lab और Crowdsourced Democracy Team ने छोटे समूहों में वीडियो चर्चाओं के लिए Online Deliberation Platform बनाया। 2020 में Stanford HAI द्वारा वर्णित इसके अनुसार, स्वचालित मॉडरेटर उन प्रतिभागियों की बारी का प्रबंधन करता है जो बोलना चाहते हैं, प्रत्येक वक्ता की बारी को 45 सेकंड तक सीमित रखता है, समयबद्ध कार्यसूची चलाता है और समूह से पूछता है कि आगे बढ़ना है या अगले विषय पर जाना है, शांत प्रतिभागियों को बोलने के लिए प्रेरित करता है, और भाषण को लिप्यंतरित करके Google की Perspective API से उसकी विषाक्तता का स्कोर निर्धारित करता है; यदि कोई वक्ता एक निर्धारित सीमा पार करता है, तो अन्य प्रतिभागियों से मत लिया जाता है, और यदि बहुमत सहमत हो, तो वक्ता को कुछ मिनटों के लिए म्यूट कर दिया जाता है। डेवलपर्स ने स्वीकार किया कि यह शारीरिक हाव-भाव नहीं पढ़ सकता और न ही संवेदनशील विषयों को वैसे पहचान सकता है जैसे कोई मानव मॉडरेटर कर सकता है।

प्लेटफ़ॉर्म के अपने पृष्ठ ने 2026 में बताया कि यह 40 से अधिक भाषाओं में काम करता है और 40 से अधिक देशों में इस्तेमाल किया जा चुका है, जहाँ इसके 50,000 से अधिक विशिष्ट उपयोगकर्ता और 100,000 से अधिक घंटे का विचार-विमर्श हुआ है। उदाहरणों में शामिल हैं:

• जनरेटिव एआई पर Meta Community Forum, 28-29 October 2023: ब्राज़ील, जर्मनी, स्पेन और संयुक्त राज्य अमेरिका के वैज्ञानिक नमूना-विधि से चुने गए समूहों के 1,545 प्रतिभागियों ने जनरेटिव एआई पर विचार-विमर्श किया; अक्टूबर 2024 में हुए एक अन्य फ़ोरम में एआई एजेंटों पर चर्चा की गई।
• सूचना की अखंडता बढ़ाने के लिए एआई के उपयोग पर ताइवान का विचार-विमर्शी सर्वेक्षण, 23 March 2024: डिजिटल मामलों के मंत्रालय, Stanford के Deliberative Democracy Lab और National Yang Ming Chiao Tung University द्वारा आयोजित इस चर्चा में 447 ताइवानी नागरिकों ने प्लेटफ़ॉर्मों के स्व-विनियमन बनाम सरकारी निगरानी तथा इस बात पर चर्चा की कि बड़े प्लेटफ़ॉर्मों को ग़लत सूचना और डीपफ़ेक के विरुद्ध एआई का उपयोग कैसे करना चाहिए।

प्लेटफ़ॉर्म के डेवलपर्स ने एक मूल्यांकन प्रकाशित किया है। Gelauff और उनके सहलेखकों ने प्लेटफ़ॉर्म पर आयोजित जापानी विचार-विमर्शी सर्वेक्षण के सर्वेक्षणों और भागीदारी-संबंधी मापदंडों का विश्लेषण किया और बताया कि यह बहुत मिलते-जुलते विषय पर पहले हुए आमने-सामने के, मानव-मॉडरेटर द्वारा संचालित विचार-विमर्श के बराबर प्रदर्शन करता था; साथ ही, प्रारंभिक साक्ष्य से लिंग के आधार पर अधिक समान भागीदारी और आय तथा शिक्षा के आधार पर समान समता का संकेत मिला। यह तुलना दो अलग-अलग आयोजनों के बीच है, न कि यादृच्छिक नियंत्रित परीक्षण, और इसे उस टीम ने किया जिसने उपकरण बनाया था।

Argyle और उनके सहलेखकों के एक संबंधित प्रयोग में, विभाजनकारी विषय पर ऑनलाइन बातचीत के दौरान संदेशों को वास्तविक समय में नए ढंग से व्यक्त करने के सुझाव देने के लिए एक एलएलएम का इस्तेमाल किया गया, ताकि बातचीत में शामिल दूसरा व्यक्ति यह महसूस करे कि उसे समझा गया है। इन हस्तक्षेपों से बातचीत की बताई गई गुणवत्ता और "लोकतांत्रिक पारस्परिकता" में सुधार हुआ और बातचीत का लहजा बेहतर हुआ, "बिना बातचीत की विषयवस्तु को व्यवस्थित रूप से बदले या लोगों के नीतिगत रुख को प्रभावित किए"। यह मॉडरेटर की तुलना में सीमित सहायता है, लेकिन इससे पता चलता है कि हल्के हस्तक्षेप वाले एआई उपाय लोगों के सोचने के तरीके को बदले बिना उनके बातचीत करने के तरीके को बदल सकते हैं।

विचारों का संश्लेषण: Habermas Machine

Google DeepMind में टेस्लर और उनके सहयोगियों ने एक LLM-आधारित प्रणाली को प्रशिक्षित किया, जिसे उन्होंने हैबरमास मशीन नाम दिया, ताकि वह यूनाइटेड किंगडम में समूह-विचार-विमर्श में मध्यस्थता कर सके। प्रतिभागियों ने किसी सामाजिक या राजनीतिक प्रश्न पर अपनी राय लिखी; AI ने समूह का एक वक्तव्य तैयार किया; प्रतिभागियों ने उसकी समीक्षा की; AI ने संशोधित वक्तव्य प्रस्तुत किए; और प्रतिभागियों ने परिणामों की रैंकिंग की। 5,734 प्रतिभागियों के साथ किए गए प्रयोगों में लोगों ने मानव मध्यस्थों द्वारा लिखे गए वक्तव्यों के बजाय AI-जनित वक्तव्यों को प्राथमिकता दी और उन्हें अधिक सूचनाप्रद, स्पष्ट तथा निष्पक्ष माना। विचार-विमर्श करने वालों ने अक्सर विचार-विमर्श के बाद अपनी राय बदली और एक साझा दृष्टिकोण पर पहुँचे। पाठ एम्बेडिंग के विश्लेषण से पता चला कि सफल वक्तव्यों में असहमति रखने वाले पक्षों की आवाज़ों को शामिल किया गया, साथ ही बहुमत के रुख का सम्मान भी किया गया। निष्कर्षों को यूके की आबादी का जनसांख्यिकीय रूप से प्रतिनिधि नमूना लेकर आयोजित एक आभासी नागरिक सभा में भी दोहराया गया।

यह अध्ययन इस बात का सबसे मज़बूत नियंत्रित साक्ष्य है कि AI एक सुविधादाता का "साझा आधार" वाला कार्य कर सकता है। इसकी सीमाएँ भी महत्त्वपूर्ण हैं। यह प्रक्रिया बोलकर नहीं, बल्कि लिखित रूप में संचालित होती है; प्रतिभागियों ने एक-दूसरे के साथ सीधे विचार-विमर्श नहीं किया; प्रणाली को ऐसे वक्तव्य तैयार करने के लिए अनुकूलित किया गया था जिनका समूह समर्थन करे—जो सत्य या विवेकपूर्ण वक्तव्यों के समान नहीं है; और इससे उत्पन्न होने वाला अभिसरण, अन्य लोगों के हाथों में, सहमति गढ़ने का उपकरण बन सकता है।

स्वयं AI के लिए सुझावों का एकत्रीकरण: अलाइनमेंट सभाएँ और सामूहिक संवैधानिक AI

कलेक्टिव इंटेलिजेंस प्रोजेक्ट (CIP) ने AI से जुड़े निर्णयों में जनसुझाव शामिल करने के लिए 2023 में "अलाइनमेंट सभाओं" की एक शृंखला आयोजित की: समिट फ़ॉर डेमोक्रेसी के इर्द-गिर्द एक प्रायोगिक पहल (मार्च 2023); OpenAI के साथ जोखिम-रैंकिंग का अभ्यास (जून 2023); ताइवान के डिजिटल मामलों के मंत्रालय के साथ एक प्रक्रिया, जिसमें जनरेटिव AI पर सरकारी नीति की प्रतिक्रिया जानने के लिए vTaiwan को अनुकूलित किया गया और कॉपीराइट, मुआवज़ा, पूर्वाग्रह तथा सार्वजनिक सेवाओं सहित विषयों पर सवाल पूछे गए (जुलाई 2023); Anthropic के साथ सामूहिक संवैधानिक AI (अक्टूबर 2023); और AI प्रशिक्षण में लाइसेंस प्राप्त कृतियों के उपयोग पर Creative Commons के लिए एक परामर्श।

सामूहिक संवैधानिक AI का दस्तावेज़ीकरण सबसे बेहतर है। आयु, लिंग, आय और भौगोलिक क्षेत्र के आधार पर आबादी का प्रतिनिधित्व करने के लिए चुने गए और AI की बुनियादी जानकारी की जाँच से गुज़रे लगभग 1,000 अमेरिकी वयस्कों ने AI सहायक के लिए सिद्धांत प्रस्तुत करने और उन पर मतदान करने हेतु Polis का उपयोग किया। उन्होंने 1,127 वक्तव्य और 38,252 मत दिए। Polis द्वारा पहचाने गए दोनों मत-समूहों में जिन वक्तव्यों पर आम सहमति थी, उन्हें रखा गया; CIP ने घृणास्पद, दोहराए गए या अप्रासंगिक वक्तव्यों को हटाया, जिससे 275 वक्तव्य बचे, जिन्हें मिलाकर और नए शब्दों में ढालकर Anthropic के संवैधानिक AI प्रशिक्षण में प्रयुक्त प्रारूप में रखा गया। सार्वजनिक संविधान की अवधारणाएँ और मूल्य लगभग आधे हिस्से में Anthropic के अपने संविधान से मेल खाते थे। इसमें वस्तुनिष्ठता और सुलभता को अधिक महत्त्व दिया गया था, और अवांछित व्यवहार को प्रतिबंधित करने के बजाय वांछित व्यवहार को बढ़ावा देने की प्रवृत्ति थी।

स्रोत: हुआंग और सहयोगी (2024) तथा Anthropic/CIP की रिपोर्ट (अक्टूबर 2023).

लेखक स्वयं इसकी सावधानियाँ गिनाते हैं: केवल अमेरिका तक सीमित छोटा नमूना; वक्तव्यों को सिद्धांतों में बदलते समय व्यक्तिपरक निर्णय; सीमित और प्रारंभिक मूल्यांकन; तथा अपेक्षा से अधिक जटिल साबित हुआ प्रशिक्षण। यह प्रक्रिया एक सशक्त अर्थ में परामर्शात्मक भी थी: कंपनी ने इसे आयोजित करने का निर्णय लिया, प्रश्न चुना, वक्तव्यों का संचालन किया और तय किया कि परिणाम के साथ क्या करना है।

इन प्रयोगों में क्या समान है

इनमें से कोई भी प्रक्रिया किसी विधायिका या कंपनी के लिए बाध्यकारी नहीं थी। इसलिए साक्ष्य इस बारे में हैं कि क्या AI विचार-विमर्श के अनुभव और उसके परिणामों की गुणवत्ता को बेहतर बनाता है—इस बारे में नहीं कि क्या इससे सत्ता के इस्तेमाल का तरीका बदलता है।

जोखिम: दिशा-निर्धारण, अनुनय और समरूपीकरण

जो क्षमताएँ AI को विचार-विमर्श में उपयोगी बनाती हैं, वही उसे इसके लिए संभावित रूप से ख़तरनाक भी बनाती हैं।

• अव्यक्त अनुनयन। जेकश और सहकर्मियों ने 1,506 प्रतिभागियों से इस विषय पर एक पोस्ट लिखने को कहा कि क्या सोशल मीडिया समाज के लिए अच्छा है; उनमें से कुछ को एक ऐसे AI लेखन-सहायक का उपयोग करने दिया गया जिसे किसी एक पक्ष के पक्ष में तर्क देने के लिए विन्यस्त किया गया था। पक्षधर सहायक का उपयोग करने से लेखन में व्यक्त विचारों और बाद के सर्वेक्षण में प्रतिभागियों के दृष्टिकोण—दोनों में बदलाव आया। अंतर्निहित पक्षपात वाला सुविधादाता या सारांशकार किसी समूह को इस तरह प्रभावित कर सकता है कि किसी को इसका पता भी न चले।
• अनुनय-शक्ति। कॉस्टेलो, पेनीकुक और रैंड ने षड्यंत्र सिद्धांतों में विश्वास करने वाले 2,190 लोगों के साथ GPT-4 Turbo के माध्यम से व्यक्तिगत, साक्ष्य-आधारित संवाद किए; विश्वास में लगभग 20% की गिरावट आई और यह प्रभाव कम-से-कम दो महीने तक बना रहा। साल्वी और सहकर्मियों ने पाया कि प्रतिपक्षी के बारे में बुनियादी सामाजिक-जनसांख्यिकीय जानकारी रखने वाले GPT-4 बहसकर्ताओं ने उन 64.4% मामलों में मानव बहसकर्ताओं से अधिक प्रभावशाली ढंग से तर्क दिया, जिनमें दोनों समान रूप से प्रभावशाली नहीं थे (N=900)। हैकेनबर्ग और मार्गेट्स ने 8,587 प्रतिभागियों के साथ पूर्व-पंजीकृत प्रयोग में पाया कि GPT-4 के संदेश राजनीतिक मुद्दों पर व्यापक रूप से प्रभावशाली थे, लेकिन सूक्ष्म-लक्षित संदेशों से सांख्यिकीय रूप से महत्त्वपूर्ण लाभ नहीं हुआ। इन नतीजों के दोनों पहलू हैं: AI झूठी मान्यताओं को सुधार सकता है और सही मान्यताओं को भी बदल सकता है।
• समरूपीकरण। दोशी और हॉसर ने पाया कि LLM से कहानी के विचार पाने वाले लेखकों ने ऐसी कहानियाँ लिखीं जिन्हें अधिक रचनात्मक और बेहतर लिखा हुआ आँका गया, लेकिन वे AI के बिना लिखी गई कहानियों की तुलना में एक-दूसरे से अधिक मिलती-जुलती थीं। विचार-विमर्श में इसका अनुरूप जोखिम यह है कि AI द्वारा तैयार किए गए वक्तव्य एक नीरस मध्यबिंदु की ओर अभिसरित हों और अल्पसंख्यक दृष्टिकोणों को पीछे धकेल दें—भले ही हर प्रतिभागी को लगे कि उसका बेहतर प्रतिनिधित्व हुआ है।
• अपारदर्शिता और नियंत्रण। पोलिस में LLM के साथ स्मॉल और सहकर्मियों के प्रायोगिक अध्ययन से पता चला कि सारांश-निर्माण और मॉडरेशन बातचीत को अधिक कुशल बना सकते हैं, लेकिन मॉडल जितना सीमित पाठ संसाधित कर सकता था, उसने परिणामों की गहराई और गुणवत्ता को "महत्त्वपूर्ण रूप से" प्रभावित किया; साथ ही, उन्होंने ऐसे जोखिमों की पहचान की जिनके लिए उन्हें परिभाषित करने और कम करने के सिद्धांतों की आवश्यकता थी। मॉडल, उसके निर्देशों और उसके प्रशिक्षण-डेटा का चयन करने वाला व्यक्ति ही उसके आउटपुट को आकार देता है।

साक्ष्य क्या नहीं दर्शाते

• निर्णयों पर प्रभाव। यहाँ समीक्षा किया गया कोई भी अध्ययन यह नहीं मापता कि गैर-AI प्रक्रिया की तुलना में AI-सहायित विचार-विमर्श से बेहतर नीति बनी या सरकार अथवा कंपनी के कामकाज में बदलाव आया।
• गैर-प्रतिभागियों के लिए वैधता। हैबरमास मशीन और कलेक्टिव कॉन्स्टिट्यूशनल AI ने प्रतिभागियों की प्राथमिकताओं को मापा। क्या व्यापक जनता किसी वक्तव्य को इसलिए स्वीकार करेगी कि उसे तैयार करने में AI ने मदद की थी—यह अपरीक्षित है; जनता के दृष्टिकोण पर किए गए सर्वेक्षण सरकारी निर्णयकर्ता के रूप में AI को लेकर संदेह दर्शाते हैं।
• स्वचालित बनाम मानव मॉडरेशन। स्टैनफोर्ड के स्वचालित मॉडरेटर की मानव मॉडरेशन से तुलना करने वाला एकमात्र प्रकाशित अध्ययन, जिसे उसके विकासकर्ताओं ने किया, एक ऑनलाइन विचार-विमर्श सर्वेक्षण की तुलना पहले हुए आमने-सामने के आयोजन से करता है; यादृच्छिकीकृत तुलनाएँ प्रकाशित नहीं हुई हैं।
• स्थायित्व। दृष्टिकोणों में बदलाव को कुछ घंटों या अधिक-से-अधिक कुछ हफ्तों तक मापा गया; यह अज्ञात है कि अभिसरण बना रहता है या नहीं।
• विभिन्न संस्कृतियों में सामान्यीकरण। अधिकांश प्रयोग संयुक्त राज्य अमेरिका और यूनाइटेड किंगडम में, अंग्रेज़ी भाषा में और ऑनलाइन नमूनों के साथ किए गए।

संस्थागत रूपरेखा के लिए निहितार्थ

1. AI को सुविधादाता की भूमिका में रखें, निर्णयकर्ता की भूमिका में नहीं। विचारों का मानचित्रण, मॉडरेशन और मसौदा तैयार करना सहायक कार्य हैं; समर्थन प्रतिभागियों का और निर्णय जवाबदेह निकायों का ही होना चाहिए।
2. उपकरण के स्वामी को मुद्दे के हितधारकों से अलग रखें। अपनी ही उत्पादन-वस्तु पर विचार-विमर्श चलाने वाली कंपनी या अपनी ही नीति पर विचार-विमर्श चलाने वाली सरकार को आम सहमति का मसौदा तैयार करने वाले मॉडल पर भी नियंत्रण नहीं रखना चाहिए।
3. विन्यास प्रकाशित करें। निर्देश, मॉडल का संस्करण, मॉडरेशन के नियम और मूल वक्तव्यों को आउटपुट में बदलने की प्रक्रिया खुली और लेखा-परीक्षण योग्य होनी चाहिए—जैसे पोलिस का मुक्त-स्रोत कोड और CIP का दस्तावेज़ीकरण आंशिक रूप से हैं।
4. अल्पसंख्यक दृष्टिकोणों की रक्षा करें। यह अनिवार्य करें कि संश्लेषित आउटपुट में असहमति वाले मत और उन्हें रखने वाले समूहों का आकार दिखाया जाए, न कि केवल "साझा आधार" का एक वक्तव्य।
5. प्रभाव डालने की जाँच करें। AI-सहायित प्रक्रियाओं की यादृच्छिकीकृत नियंत्रण प्रक्रियाओं (मानव-सुविधायन, सारांश-निर्माण नहीं) से तुलना करें और केवल संतुष्टि ही नहीं, दृष्टिकोणों में बदलाव भी मापें।
6. यादृच्छिक चयन के साथ जोड़ें। AI प्रति प्रतिभागी लागत घटाता है; यादृच्छिक चयन प्रतिनिधित्व सुनिश्चित करता है। 2023 का मेटा मंच और 2024 का ताइवान विचार-विमर्श सर्वेक्षण दिखाते हैं कि दोनों को जोड़ा जा सकता है।

अनुत्तरित प्रश्न

• क्या बाध्यकारी अधिकारों वाली नागरिक सभा AI मसौदा-निर्माण उपकरण का उपयोग करेगी, और उसके सदस्य यह कैसे जाँचेंगे कि उपकरण ने क्या किया है?
• क्या समूहों के बीच सहमति को पुरस्कृत करने वाले "सेतु-निर्माण" एल्गोरिदम को समन्वित समूहों द्वारा उसी तरह खेला जा सकता है, जैसे अन्य रैंकिंग प्रणालियों को?
• क्या AI-सहायित विचार-विमर्श के आउटपुट के साथ उपयोग का खुलासा होना चाहिए, और क्या खुलासे से उनकी स्वीकार्यता बदलती है?
• विचार-विमर्श के किसी मॉडल को तटस्थ प्रमाणित करने का अधिकार किसे होना चाहिए, और किस मानक के आधार पर?
• यदि AI संवाद के माध्यम से झूठी मान्यताएँ घटा सकता है, तो क्या सार्वजनिक संस्थाओं को इसे लागू करना चाहिए, और पक्ष-समर्थन के लिए इसके उपयोग से बचाव के कौन-से उपाय होने चाहिए?

स्रोत

1. Small, C., Bjorkegren, M., Erkkilä, T., Shaw, L. और Megill, C. (2021). Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces. Recerca. Revista de Pensament i Anàlisi 26(2).
2. Hsiao, Y. T., Lin, S.-Y., Tang, A., Narayanan, D. और Sarahe, C. (2018). vTaiwan: An Empirical Study of Open Consultation Process in Taiwan. SocArXiv.
3. Small, C. T., Vendrov, I., Durmus, E., Homaei, H., Barry, E., Cornebise, J., Suzman, T., Ganguli, D. और Megill, C. (2023). Opportunities and Risks of LLMs for Scalable Deliberation with Polis. arXiv:2306.11932.
4. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R. और सहलेखक (2024). AI can help humans find common ground in democratic deliberation. Science 386(6719), eadq2852.
5. Huang, S., Siddarth, D., Lovitt, L., Liao, T. I., Durmus, E., Tamkin, A. और Ganguli, D. (2024). Collective Constitutional AI: Aligning a Language Model with Public Input. Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency में, पृ. 1395-1417.
6. एंथ्रोपिक और कलेक्टिव इंटेलिजेंस प्रोजेक्ट (2023). Collective Constitutional AI: Aligning a Language Model with Public Input, 17 अक्टूबर 2023.
7. कलेक्टिव इंटेलिजेंस प्रोजेक्ट. Alignment Assemblies.
8. स्टैनफोर्ड डिलिबरेटिव डेमोक्रेसी लैब. Online Deliberation Platform.
9. स्टैनफोर्ड HAI (2020). A Moderator ChatBot for Civic Discourse, 6 फ़रवरी 2020.
10. स्टैनफोर्ड डिलिबरेटिव डेमोक्रेसी लैब. Meta Community Forum on Generative AI: results (अक्टूबर 2023 का मंच).
11. स्टैनफोर्ड डिलिबरेटिव डेमोक्रेसी लैब. Taiwan Deliberative Poll on Utilizing AI to Enhance Information Integrity (23 मार्च 2024).
12. Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., Sorensen, T. और Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. PNAS 120(41), e2311627120.
13. Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. और Naaman, M. (2023). Co-Writing with Opinionated Language Models Affects Users' Views. Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems में.
14. Costello, T. H., Pennycook, G. और Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814.
15. Hackenburg, K. और Margetts, H. (2024). Evaluating the persuasive influence of political microtargeting with large language models. PNAS 121(24), e2403116121.
16. Salvi, F., Horta Ribeiro, M., Gallotti, R. और West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9(8), 1645-1653.
17. Doshi, A. R. और Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances 10(28), eadn5290.
18. Gelauff, L., Nikolenko, L., Sakshuwong, S., Fishkin, J., Goel, A., Munagala, K. और Siu, A. (2023). Achieving parity with human moderators: A self-moderating platform for online deliberation. The Routledge Handbook of Collective Intelligence for Democracy and Governance में. Routledge.