Polity Atlas
वेब पृष्ठप्राथमिक स्रोत

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

प्रकाशक का पृष्ठ खोलें ↗
प्रकार
वेब पृष्ठ
देखा गया
2026-09-01

इस स्रोत को उद्धृत करने वाले दावे

3 दावे
स्थापितPureSpectrum द्वारा भर्ती किए गए लगभग 1,000 अमेरिकी वयस्कों ने Polis पर 1,127 वक्तव्य प्रस्तुत किए और 38,252 मत डाले; मॉडरेशन के बाद 275 वक्तव्य बचे, जिनकी अवधारणाएँ Anthropic के 58-सिद्धांत वाले संविधान से लगभग 50% तक मेल खाती थीं।स्थापितसार्वजनिक संविधान पर प्रशिक्षित मॉडल ने MMLU, GSM8K तथा सहायकता और अहानिकारकता की रेटिंग में मानक मॉडल के समतुल्य प्रदर्शन किया, और BBQ बेंचमार्क के नौ सामाजिक आयामों में कम पूर्वाग्रह दिखाया।स्थापितआयोजक स्वीकार करते हैं कि सार्वजनिक वक्तव्यों को मॉडरेट करने और उन्हें प्रशिक्षण सिद्धांतों में अनूदित करने के दौरान किए गए कई व्यक्तिपरक निर्णयों ने अंतिम सार्वजनिक संविधान को आकार दिया।