راسخCLM-0538 · روجع في 2026-10-27
قدّم نحو 1,000 بالغ أمريكي جندتهم PureSpectrum عددًا قدره 1,127 بيانًا، وأدلوا بـ38,252 صوتًا على منصة Polis؛ وبعد الإشراف، بقي 275 بيانًا، تداخلت مفاهيمها بنحو 50% مع دستور Anthropic ذي المبادئ الـ58.[1]
منتهية / فاشلةتشاركي
الذكاء الاصطناعي الدستوري الجماعي (أنثروبيك وCIP، 2023)
تجربة استخدم فيها نحو 1,000 أمريكي جرى اختيارهم لتمثيل السكان منصة Polis لصياغة مبادئ لروبوت دردشة يعمل بالذكاء الاصطناعي. درّبت أنثروبيك نموذجًا على الدستور العام الناتج، وقارنته بنموذج درّبته الشركة بنفسها؛ وكان النموذج العام أقل تحيزًا وفق معيار قياسي، ومكافئًا له في القدرة.
الولايات المتحدة (عينة عبر الإنترنت), United States
- الموقع
- الولايات المتحدة (عينة عبر الإنترنت), United States
- قيد التشغيل منذ
- 2023
- الحوكمة
- تشاركي
- الوضع القانوني
- لا ينطبق
- الاقتصاد
- لا ينطبق
- مستوى الاستقلالية
- برنامج داخل دولة قائمة
- يستخدم الذكاء الاصطناعي في الحوكمة
- نعم
الخلفية
الذكاء الاصطناعي الدستوري هو منهج طوّرته Anthropic لتدريب نماذج اللغة الكبيرة: فبدلاً من الاعتماد فقط على التقييمات البشرية للإجابات الفردية، يُزوَّد النموذج بقائمة مكتوبة من المبادئ («دستور») ويستخدمها لنقد مخرجاته ومراجعتها، ولإنتاج أحكام تفضيلية لمزيد من التدريب. يجعل هذا المنهج القيم التي يُدرَّب عليها النموذج أكثر وضوحاً، لكنه يسلّط الضوء أيضاً على من يكتبها. وبكلمات Anthropic، «كتبنا الدستور بأنفسنا».
في عام 2023، أجرت Anthropic ومشروع الذكاء الجماعي (CIP)، ضمن برنامج جمعيات المواءمة التابع لـCIP، تجربةً لإتاحة كتابة مثل هذا الدستور لأفراد من الجمهور. نُشرت النتائج في 17 October 2023، ثم في ورقة خضعت لمراجعة الأقران ضمن مؤتمر ACM لعام 2024 حول الإنصاف والمساءلة والشفافية (FAccT).
آليات الحوكمة
شارك نحو 1,000 بالغ في الولايات المتحدة، استقطبتهم شركة الاستطلاعات PureSpectrum لتمثيل الفئات بحسب العمر والجنس والدخل والمنطقة الجغرافية، عبر منصة Polis الإلكترونية، التي يقدّم المشاركون فيها عبارات قصيرة ويصوّتون بالموافقة أو الرفض أو الامتناع على العبارات التي يكتبها الآخرون. طلب منهم الاستبيان المساعدة في اختيار قواعد لروبوت محادثة يعمل بالذكاء الاصطناعي. قدّم المشاركون 1,127 عبارة وأدلوا بـ38,252 صوتاً، بمتوسط 34 صوتاً لكل منهم. وحددت Polis مجموعتين رئيسيتين للآراء.
ثم حوّل الباحثون المدخلات العامة إلى دستور. حذفوا العبارات التي لم تبلغ عتبة الإجماع بين المجموعات، وأزالوا التكرارات ودمجوا العبارات المتشابهة، ثم صاغوا المبادئ المتبقية، وعددها 275 عبارة، بالشكل المستخدم في التدريب، بما يماثل المبادئ الـ58 في دستور Anthropic الخاص. وتداخل نحو نصف المفاهيم. وأعطت المبادئ العامة وزناً أكبر للموضوعية والحياد وإمكانية الوصول، ومالت إلى التشجيع على السلوك المرغوب بدلاً من حظر السلوك غير المرغوب.
الاقتصاد والمنافع العامة
موّلت المنظمتان المشروع؛ ودفعت شركة الاستقطاب للمشاركين. وتشمل المنافع العامة المنهجية والدستور العام المنشور ونتائج التقييم، التي يمكن لمجموعات أخرى إعادة استخدامها.
النزاعات والخلافات
أكد الباحثون بأنفسهم حدود التجربة. كانت العينة صغيرة وغير ممثلة للعالم. واتخذ الباحثون أحكاماً تقديرية ذاتية كثيرة عند تنقيح العبارات وإزالة التكرارات وتحويل العبارات إلى مبادئ تدريبية، ولذلك شارك المنظمون في صياغة الدستور النهائي. ودُرّب النموذجان على قاعدة البيانات نفسها من المطالبات، رغم أن الدستور العام تضمن مبادئ قد لا تختبرها تلك المطالبات. وثبت أن التدريب أصعب مما كان متوقعاً؛ إذ وُصفت النسخ المبكرة بأنها «مزعجة» بسبب اختلال التوازن بين بيانات عدم الإضرار وبيانات المساعدة. ويضيف منتقدو الذكاء الاصطناعي التشاركي أن استطلاعاً لمرة واحدة لا يمكن أن يوفر مساءلة مستمرة، وأن الشركة تحتفظ بقرار استخدام أي من النتائج.
النتائج
درّبت Anthropic نموذجين بحجم Claude Instant: نموذج «عام» استند إلى الدستور العام، ونموذج «قياسي» استند إلى دستور Anthropic الخاص. وأدّيا أداءً متكافئاً في المعايير القياسية لفهم اللغة والرياضيات، وفي تقييمات المساعدة وعدم الإضرار. وأظهر النموذج العام تحيزاً أقل من النموذج القياسي عبر تسعة أبعاد اجتماعية في معيار BBQ، وكان الفرق الأوضح في حالة الإعاقة والمظهر الجسدي، كما أظهر النموذجان ميولاً سياسية متشابهة. وكان النموذجان نتاجين بحثيين؛ ولا يفيد المنشور بأن النموذج العام قد نُشر للاستخدام. ويُستشهد بالتجربة على نطاق واسع بوصفها إحدى أولى الحالات التي أثّر فيها جمهور ممثَّل مباشرة في قواعد تدريب نموذج لغة كبير.
دروس في تصميم المؤسسات
- اجعل القواعد واضحة أولاً. تتيح الدساتير المكتوبة للذكاء الاصطناعي موضوعاً طبيعياً للمداولة العامة والتعديل.
- الترجمة مصدر للسلطة. تتطلب الخطوة من العبارات العامة إلى مبادئ التدريب قواعد شفافة، ومن الأفضل أن تتبعها جولة ثانية من المراجعة العامة.
- تؤثر مرشحات الإجماع في النتائج. إن الاقتصار على العبارات التي تحظى باتفاق بين المجموعات يرجّح المبادئ المشتركة على نطاق واسع، والتي غالباً ما تكون معتدلة.
- لا تؤسس التجارب لمرة واحدة للمساءلة. يتطلب استمرار المدخلات العامة هيئات دائمة وتجديداً منتظماً والتزامات من المطورين بالاستجابة.
- قِس الآثار، لا العملية وحدها. تمنح مقارنة النماذج على معايير التحيز والقدرات المشاركين أدلةً على ما غيّرته مدخلاتهم.
لمزيد من القراءة
الجدول الزمني
- ديسمبر 2022تنشر Anthropic بحث «الذكاء الاصطناعي الدستوري»، الذي يدرّب النماذج على اتباع قائمة مكتوبة من المبادئ باستخدام ملاحظات الذكاء الاصطناعي.راسخ
- أكتوبر 2023تنشر Anthropic وCIP النتائج في 17 أكتوبر، وتقارن بين نموذجي «Public» و«Standard». [S2]راسخ
- 2023يسهم نحو 1,000 بالغ أمريكي بـ1,127 تصريحًا و38,252 صوتًا على منصة Polis بشأن قواعد روبوت محادثة يعمل بالذكاء الاصطناعي. [S1]راسخ
- يونيو 2024تُنشر الورقة المحكمة في مؤتمر ACM FAccT في يونيو. [S1]راسخ
النتائج والخلافات
أنتجت 1,127 عبارة و38,252 تصويتاً دستوراً عاماً للمبادئ يتداخل بنحو 50% مع دستور Anthropic. وطابق نموذج دُرّب عليه النموذجَ القياسي في اختبارات القدرات والمساعدة وعدم الإضرار، وأظهر تحيزاً أقل في تسعة أبعاد BBQ. نُشر في أكتوبر 2023، وقُدّم في FAccT 2024.
التحليل اللاحق
مشروع بحثي تجريبي لمرة واحدة، لا مؤسسة دائمة. اتخذ المنظمون قرارات تقديرية كثيرة عند تحويل العبارات إلى مبادئ تدريبية، وكانت العينة أمريكية حصراً وصغيرة، ولم توجد آلية تلزم المطوّر باعتماد النتائج. وانتهى المشروع وفق الخطة بعد النشر.
الادعاءات
راسخCLM-0539 · روجع في 2026-10-27
أدى النموذج المدرَّب على الدستور العام أداءً مكافئًا للنموذج القياسي في اختبارات MMLU وGSM8K وتقييمات الإفادة وعدم الإضرار، وأظهر تحيزًا أقل عبر تسعة أبعاد اجتماعية في معيار BBQ.[1][2]
راسخCLM-0540 · روجع في 2026-10-27
يقرّ المنظّمون بأن العديد من الأحكام التقديرية في الإشراف على البيانات العامة وترجمتها إلى مبادئ تدريب قد شكّلت الدستور العام النهائي.[1]