Polity Atlas
Page webSource primaire

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

Ouvrir la page de l’éditeur ↗
Type
Page web
Consulté le
2026-09-01

Affirmations citant cette source

3 affirmations
ÉtabliEnviron 1,000 adultes américains recrutés par PureSpectrum ont soumis 1,127 déclarations et exprimé 38,252 votes sur Polis ; après modération, 275 déclarations ont été conservées, présentant un chevauchement conceptuel d’environ 50 % avec les 58 principes de la constitution d’Anthropic.ÉtabliLe modèle entraîné sur la constitution publique a obtenu des résultats équivalents à ceux du modèle standard sur MMLU, GSM8K et les évaluations d’utilité et d’innocuité, et a présenté un biais plus faible dans neuf dimensions sociales du benchmark BBQ.ÉtabliLes organisateurs reconnaissent que de nombreux jugements subjectifs portés lors de la modération et de la traduction des déclarations publiques en principes d’entraînement ont façonné la constitution publique définitive.