確立CLM-0538 · 2026-10-27 確認
PureSpectrumが募集した米国の成人約1,000人が、Polisに1,127件の意見を提出し、38,252票を投じた。モデレーション後に残った意見は275件で、その概念はAnthropicの58原則から成る憲章と約50%重なっていた。[1]
終了 / 失敗参加型
Collective Constitutional AI（AnthropicおよびCIP、2023年）
約1,000人の代表性を備えた米国人がPolisプラットフォームを使い、AIチャットボットの原則を起草した実験。Anthropicはその結果得られた市民憲章を用いてモデルを訓練し、自社独自の憲章で訓練したモデルと比較した。市民モデルは、標準的なベンチマークにおいて偏りが少なく、能力は同等だった。
United States (online sample), United States
- 場所
- United States (online sample), United States
- 運用開始
- 2023
- ガバナンス
- 参加型
- 法的地位
- 該当なし
- 経済
- 該当なし
- 自治の水準
- 既存の国家内のプログラム
- ガバナンスに AI を使用
- はい
背景
憲法型AIは、大規模言語モデルを訓練するためにAnthropicが開発した手法である。個々の回答に対する人間の評価だけに頼るのではなく、モデルに原則の文書リスト（「憲法」）を与え、それを用いて自らの出力を批評・修正し、さらなる訓練のための選好判断を生成させる。この手法により、モデルの訓練に用いられる価値観がより明確になる一方、それを誰が書くのかも浮き彫りになる。Anthropicの言葉を借りれば、「憲法は私たち自身が書いた」。
2023年、AnthropicとCollective Intelligence Project（CIP）は、CIPのAlignment Assembliesプログラムの一環として、一般市民にこうした憲法を書いてもらう実験を実施した。結果は2023年10月17日に公表され、査読付き論文としては、2024年のACM Conference on Fairness, Accountability, and Transparency（FAccT）で発表された。
ガバナンスの仕組み
米国の成人約1,000人が、年齢、性別、所得、地域について代表性を持つよう調査会社PureSpectrumによって募集され、Polisを通じて参加した。Polisは、参加者が短い意見文を投稿し、他の参加者が書いた意見文に「賛成」「反対」または「パス」の投票をするオンライン・プラットフォームである。AIチャットボットの規則選びを手伝うよう求める質問が提示された。参加者は1,127件の意見文を投稿し、計38,252票を投じた。1人当たり平均34票だった。Polisは主な意見グループを2つ特定した。
その後、研究者たちは市民からの意見を憲法にまとめた。グループ間の合意がコンセンサスの基準を下回った意見文を除外し、重複を削除して類似した意見文を統合したうえで、残った275件を訓練に用いる形式の原則に整理した。これはAnthropic独自の憲法にある58の原則と比較できる形式である。概念のおよそ半数は重複していた。市民が作成した原則は、客観性、公平性、アクセシビリティをより重視し、望ましくない行動を禁止するよりも、望ましい行動を促す傾向があった。
経済と公共財
このプロジェクトは両組織から資金提供を受け、参加者には募集会社から謝礼が支払われた。公共財となる成果は、方法論、公表された市民憲法、評価結果であり、他のグループも再利用できる。
対立と論争
研究者たちは自ら、この取り組みの限界を強調した。サンプルは小規模で、世界全体を代表するものではなかった。意見文のモデレーション、重複削除、訓練原則への変換にあたって、研究者は多くの主観的判断を行ったため、最終的な憲法は主催者との共著となった。市民憲法には、訓練プロンプトが必ずしも試すとは限らない原則が含まれていたにもかかわらず、両モデルは同じプロンプトのデータベースで訓練された。訓練は予想以上に困難であり、無害性と有用性に関するデータの不均衡が原因で、初期版は「うっとうしい」と評価された。参加型AIへの批判者はさらに、一度限りの調査では継続的な説明責任を確保できず、結果を利用するかどうかの判断権は企業に残ると指摘する。
成果
Anthropicは、Claude Instantと同規模のモデルを2つ訓練した。1つは市民憲法を用いた「Public」モデル、もう1つはAnthropic独自の憲法を用いた「Standard」モデルである。両モデルは、標準的な言語理解・数学ベンチマークと、有用性・無害性の評価で同等の成績を示した。BBQベンチマークの9つの社会的次元において、PublicモデルはStandardモデルよりバイアスが低く、とりわけ障害の有無と外見で差が明確だった。一方、両モデルの政治的傾向は類似していた。これらのモデルは研究上の成果物であり、記事はPublicモデルが実際に導入されたとは報告していない。この実験は、代表性のある市民が大規模言語モデルの訓練規則を直接形作った最初期の事例の一つとして広く引用されている。
制度設計への教訓
- まず規則を明確にする。 AIのための憲法を書面化することで、公共の熟議や改正の対象となる自然な土台が生まれる。
- 翻訳には権力が伴う。 市民の意見文を訓練原則へ変換する過程には透明な規則が必要であり、できれば市民による第二段階の検討も行うべきである。
- コンセンサスによる選別は結果を左右する。 グループ間で合意された意見文だけを残すと、広く共有されている、往々にして穏当な原則が優先される。
- 一度限りの試行では説明責任は生まれない。 持続的な市民参加には、常設機関、定期的な更新、開発者が応答するという約束が必要となる。
- 過程だけでなく効果を測定する。 バイアスと能力のベンチマークでモデルを比較すれば、市民は自らの意見が何を変えたのかを示す証拠を得られる。
参考文献
年表
成果と論争
1,127件の意見と38,252件の投票から、Anthropicのものと約50%重複する原則の公開憲法が作成された。それに基づいて訓練されたモデルは、能力、有用性、無害性のテストで標準モデルに匹敵し、BBQの9つの次元でバイアスが低かった。2023年10月に発表され、FAccT 2024で公表された。
事後検証
常設機関ではなく、一度限りの研究パイロットであった。主催者は意見を訓練原則に変換する際に多くの判断を下し、サンプルは米国のみを対象とする小規模なもので、開発者に結果の採用を義務づける仕組みもなかった。公表後、予定どおり終了した。
主張
確立CLM-0539 · 2026-10-27 確認
公開憲章を用いて訓練されたモデルは、MMLU、GSM8K、および有用性・無害性の評価において標準モデルと同等の性能を示し、BBQベンチマークの9つの社会的側面全体でバイアスが小さかった。[1][2]
確立CLM-0540 · 2026-10-27 確認
主催者は、公開された意見をモデレーションし、訓練原則へと翻訳する際の多くの主観的な判断が、最終的な公開憲章の形成に影響したことを認めている。[1]