एक प्रयोग जिसमें लगभग 1,000 प्रतिनिधि अमेरिकियों ने AI चैटबॉट के लिए सिद्धांतों का मसौदा तैयार करने हेतु Polis मंच का उपयोग किया। Anthropic ने परिणामी सार्वजनिक संविधान पर एक मॉडल को प्रशिक्षित किया और उसकी तुलना अपने संविधान पर प्रशिक्षित मॉडल से की; सार्वजनिक मॉडल एक मानक बेंचमार्क पर कम पक्षपाती था और उसकी क्षमता समान थी।
संवैधानिक AI, बड़े भाषा मॉडलों को प्रशिक्षित करने की Anthropic द्वारा विकसित एक विधि है: अलग-अलग उत्तरों की केवल मानवीय रेटिंग पर निर्भर रहने के बजाय, मॉडल को सिद्धांतों की एक लिखित सूची (एक “संविधान”) दी जाती है और वह इसका उपयोग अपने आउटपुट की आलोचना तथा संशोधन करने और आगे के प्रशिक्षण के लिए वरीयता-निर्णय तैयार करने में करता है। यह विधि उन मूल्यों को अधिक स्पष्ट बनाती है जिन पर किसी मॉडल को प्रशिक्षित किया जाता है, लेकिन यह भी उजागर करती है कि उन्हें कौन लिखता है। Anthropic के शब्दों में, “हमने संविधान स्वयं लिखा”।
2023 में Anthropic और Collective Intelligence Project (CIP) ने, CIP के Alignment Assemblies कार्यक्रम के अंतर्गत, जनता के सदस्यों से ऐसा संविधान लिखवाने के लिए एक प्रयोग किया। इसके परिणाम 17 October 2023 को और, एक सहकर्मी-समीक्षित शोधपत्र के रूप में, 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT) में प्रकाशित हुए।
संयुक्त राज्य अमेरिका के लगभग 1,000 वयस्कों ने Polis के माध्यम से भाग लिया। उन्हें सर्वेक्षण कंपनी PureSpectrum ने आयु, लिंग, आय और भौगोलिक क्षेत्र के लिहाज़ से प्रतिनिधि बनाने के लिए भर्ती किया था। Polis एक ऑनलाइन मंच है, जहाँ प्रतिभागी छोटे वक्तव्य प्रस्तुत करते हैं और दूसरों द्वारा लिखे वक्तव्यों से सहमत, असहमत या उन पर मतदान से विरत होने का विकल्प चुनते हैं। उनसे AI चैटबॉट के लिए नियम चुनने में मदद करने को कहा गया था। प्रतिभागियों ने 1,127 वक्तव्य प्रस्तुत किए और 38,252 मत डाले—औसतन 34 प्रति व्यक्ति। Polis ने मतों के दो मुख्य समूहों की पहचान की।
इसके बाद शोधकर्ताओं ने जनता के इनपुट को संविधान में रूपांतरित किया। उन्होंने समूहों के बीच सर्वसम्मति की एक सीमा से नीचे रहने वाले वक्तव्यों को हटा दिया, समान वक्तव्यों से दोहराव हटाकर उन्हें संयोजित किया, और शेष 275 वक्तव्यों को प्रशिक्षण में उपयोग किए जाने वाले प्रारूप के सिद्धांतों में वर्गीकृत किया। यह Anthropic के अपने संविधान के 58 सिद्धांतों के तुलनीय था। लगभग आधी अवधारणाएँ परस्पर मेल खाती थीं। सार्वजनिक सिद्धांतों में वस्तुनिष्ठता, निष्पक्षता और सुगम्यता को अधिक महत्व दिया गया, और वे अवांछित व्यवहार को रोकने के बजाय वांछित व्यवहार को प्रोत्साहित करने की ओर अधिक झुके थे।
इस परियोजना को दोनों संगठनों ने वित्तपोषित किया; प्रतिभागियों को भर्ती करने वाली कंपनी ने भुगतान किया। सार्वजनिक वस्तुओं में कार्यप्रणाली, प्रकाशित सार्वजनिक संविधान और मूल्यांकन के परिणाम शामिल हैं, जिनका अन्य समूह पुनः उपयोग कर सकते हैं।
शोधकर्ताओं ने स्वयं इसकी सीमाओं पर ज़ोर दिया। नमूना छोटा था और वैश्विक स्तर पर प्रतिनिधि नहीं था। वक्तव्यों का संचालन, दोहराव हटाने और उन्हें प्रशिक्षण सिद्धांतों में रूपांतरित करने में शोधकर्ताओं ने कई व्यक्तिपरक निर्णय लिए; इसलिए अंतिम संविधान के सह-लेखक आयोजक भी थे। दोनों मॉडलों को संकेतों के एक ही डेटाबेस पर प्रशिक्षित किया गया, जबकि सार्वजनिक संविधान में ऐसे सिद्धांत थे जिन्हें वे संकेत शायद व्यवहार में न लाएँ। प्रशिक्षण अपेक्षा से अधिक कठिन साबित हुआ; शुरुआती संस्करणों को “कष्टप्रद” माना गया, क्योंकि अहानिकरता और सहायकता संबंधी डेटा के बीच असंतुलन था। सहभागी AI के आलोचक यह भी कहते हैं कि एक बार का सर्वेक्षण निरंतर जवाबदेही सुनिश्चित नहीं कर सकता और परिणामों में से किसी का उपयोग करना है या नहीं, इसका निर्णय कंपनी के पास ही रहता है।
Anthropic ने Claude Instant के आकार के दो मॉडल प्रशिक्षित किए: सार्वजनिक संविधान पर “Public” मॉडल और Anthropic के अपने संविधान पर “Standard” मॉडल। भाषा-समझ और गणित के मानक बेंचमार्कों तथा सहायकता और अहानिकरता की रेटिंग में उनका प्रदर्शन समतुल्य था। BBQ बेंचमार्क पर नौ सामाजिक आयामों में Public मॉडल ने Standard मॉडल की तुलना में कम पक्षपात दिखाया; यह अंतर दिव्यांगता की स्थिति और शारीरिक रूप-रंग के मामले में सबसे स्पष्ट था। दोनों मॉडलों में राजनीतिक झुकाव समान थे। ये मॉडल शोध-कलाकृतियाँ थे; लेख में यह नहीं बताया गया है कि Public मॉडल को उपयोग में लाया गया था। इस प्रयोग का व्यापक उल्लेख उन पहले मामलों में से एक के रूप में किया जाता है जिनमें एक प्रतिनिधि जनता ने बड़े भाषा मॉडल के प्रशिक्षण नियमों को सीधे आकार दिया।
1,127 वक्तव्यों और 38,252 मतों से सिद्धांतों का एक सार्वजनिक संविधान तैयार हुआ, जो Anthropic के संविधान से लगभग 50% मेल खाता था। इस पर प्रशिक्षित मॉडल ने क्षमता, सहायकता और अहानिकरता के परीक्षणों में मानक मॉडल के बराबर प्रदर्शन किया और BBQ के नौ आयामों पर कम पूर्वाग्रह दिखाया। अक्टूबर 2023 में और FAccT 2024 में प्रकाशित।
एक स्थायी संस्था के बजाय एक बार का अनुसंधान पायलट। वक्तव्यों को प्रशिक्षण सिद्धांतों में बदलने के दौरान आयोजकों ने कई निर्णय स्वयं लिए; नमूना केवल US का था और छोटा था, और ऐसा कोई तंत्र नहीं था जो विकासकर्ता को परिणाम अपनाने के लिए बाध्य करता। प्रकाशन के बाद यह योजना के अनुसार समाप्त हुआ।
PureSpectrum द्वारा भर्ती किए गए लगभग 1,000 अमेरिकी वयस्कों ने Polis पर 1,127 वक्तव्य प्रस्तुत किए और 38,252 मत डाले; मॉडरेशन के बाद 275 वक्तव्य बचे, जिनकी अवधारणाएँ Anthropic के 58-सिद्धांत वाले संविधान से लगभग 50% तक मेल खाती थीं।[1]
सार्वजनिक संविधान पर प्रशिक्षित मॉडल ने MMLU, GSM8K तथा सहायकता और अहानिकारकता की रेटिंग में मानक मॉडल के समतुल्य प्रदर्शन किया, और BBQ बेंचमार्क के नौ सामाजिक आयामों में कम पूर्वाग्रह दिखाया।[1][2]
आयोजक स्वीकार करते हैं कि सार्वजनिक वक्तव्यों को मॉडरेट करने और उन्हें प्रशिक्षण सिद्धांतों में अनूदित करने के दौरान किए गए कई व्यक्तिपरक निर्णयों ने अंतिम सार्वजनिक संविधान को आकार दिया।[1]