Polity Atlas
ウェブページ一次資料

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

発行元のページを開く ↗
種類
ウェブページ
閲覧日
2026-09-01

この出典を引用する主張

3 件の主張
確立PureSpectrumが募集した米国の成人約1,000人が、Polisに1,127件の意見を提出し、38,252票を投じた。モデレーション後に残った意見は275件で、その概念はAnthropicの58原則から成る憲章と約50%重なっていた。確立公開憲章を用いて訓練されたモデルは、MMLU、GSM8K、および有用性・無害性の評価において標準モデルと同等の性能を示し、BBQベンチマークの9つの社会的側面全体でバイアスが小さかった。確立主催者は、公開された意見をモデレーションし、訓練原則へと翻訳する際の多くの主観的な判断が、最終的な公開憲章の形成に影響したことを認めている。