熟議を支援するAI：Polisからハーバーマス・マシンまでのエビデンス

熟議民主主義は、規模の問題に常に直面してきた。数十人規模の部屋では丁寧な議論が可能だが、政治共同体の人口は数百万人にのぼる。ソフトウェアは、さらに2022年以降は大規模言語モデル（LLM）は、意見の分類、議論のモデレーション、論点の要約、多くの人が受け入れられる声明の作成によって、この制約を緩和すると期待されている。本研究では、主要な実社会での導入事例と管理された実験を検討する。すなわち、Polisプラットフォームと台湾のvTaiwanプロセス、Collective Intelligence Projectが実施するAlignment Assemblies（AnthropicとのCollective Constitutional AIを含む）、スタンフォード大学のOnline Deliberation Platformとその自動モデレーター、そしてGoogle DeepMindの「ハーバーマス・マシン」（2024年に『Science』誌で報告）である。次に、AIが意見を変化させ、人間より効果的に説得し、アイデアの幅を狭めるというリスクについて、実験的エビデンスを照合する。全体として、これらのツールは人々が共通点を見いだし、それを表明するうえで測定可能な助けとなっており、これまでのところ主に諮問的な場で使われている一方、同じ能力が支援だけでなく誘導にも利用されうることを示す強いエビデンスがある。したがって設計上の問いは、AIが熟議を支援できるかどうかではなく、誰がツールを管理するのか、何をさせるのか、そしてその影響をどのように監査するのかである。

主な知見

• AIは、集団が望む声明文を起草できる。 5,734人の参加者を対象とした実験では、AIの調停者が作成した声明文は、人間の調停者が作成したものより好まれ、情報量が多く、明快で、偏りが少ないと評価された。参加者は共有された立場に向けて自らの見解を更新することが多く、この結果は、人口統計上の代表性を備えた英国のサンプルから集めた参加者による仮想市民会議でも再現された（Tesslerほか、2024年）。
• 意見を可視化するツールは、主に協議の形で、実際の政策に影響を与えてきた。 2014年以降、台湾のvTaiwanプロセスで用いられているPolisは、短い声明文への投票傾向に基づいて参加者をクラスター化し、複数のクラスターにまたがって支持を得た声明文を示す。UberXをめぐる事例などで、法律や規制に影響を与えてきたが、その出力はあくまで助言的なものである。
• 市民の意見を取り入れても、能力を損なわずにモデルの振る舞いを変えられる。 約1,000人の米国人が、Anthropicのモデル向け「公共憲法」に1,127件の声明文と38,252票を提供した。この憲法で訓練されたモデルは、Anthropic独自の憲法で訓練されたモデルと比べ、9つの社会的側面でバイアスが低く、能力ベンチマークでは同等の性能を示した（Huangほか、2024年）。
• 自動モデレーションはすでに大規模に使われている。 スタンフォード大学のOnline Deliberation Platformは、発言順の管理、時間制限付きの議題進行、非礼な言動への対応を行い、40か国以上で5万人超のユニークユーザーがいると報告している。開催した催しには、Metaの2023年コミュニティフォーラム（4か国から1,545人が参加）や、AIと情報の完全性をテーマとした2024年の台湾での熟議（447人が参加）などがある。
• 同じツールは、議論を誘導することもある。 特定の見解を持つ言語モデルと文章を作成すると、参加者自身の見解が変化した（N=1,506）。パーソナライズされたGPT-4の討論者は、引き分けでない事例の64.4%で人間の討論者より説得力があった（N=900）。また、AIが生成したアイデアに触れると、個人の創作物の質は向上したが、集団全体では類似性が高まった。
• 正統性に関するエビデンスは乏しい。 ほぼすべての研究は、実験や一度限りの協議における参加者の評価と態度の変化を測定している。AIを活用したプロセスが非参加者から正統なものと見なされるか、また実際の意思決定にどのような影響を与えるかについてのエビデンスはほとんどない。

研究課題と範囲

本研究は、次の問いを立てる。民主的熟議を支援するツールとしてのAIについて、エビデンスは何を示し、どのようなリスクを明らかにしているのか。 「熟議支援」は4つの機能を指す。(1) 大規模な集団の意見を可視化する（Polis）。(2) 議論を進行する（自動モデレーション）。(3) 意見を要約や集団声明文に統合する（LLMによる要約、Habermas Machine）。(4) AIシステム自体のルールに市民の意見を集約する（Collective Constitutional AI、Alignment Assemblies）。市民に代わって意思決定を行うAI、AI候補者、選挙管理におけるAIは対象外である。

背景

コミュニケーション的行為に関するユルゲン・ハーバーマスの議論から、ジェームズ・フィシュキンの熟議型世論調査に至るまで、熟議民主主義の理論は、集団的決定の正統性は、その前提となる推論の質に左右されるとする。そこでは、包摂性、対等な発言機会、権力ではなく理由に基づく議論、そして見解を修正できる開放性が重視される。その制度的形態である市民会議、市民陪審、熟議型世論調査は、無作為抽出と訓練を受けた人間の進行役に依拠し、参加者一人当たりの費用が高い。これに対し、オンライン協議は低コストだが、声の大きい人々が有利になりやすく、荒らしを引き寄せる傾向がある。

計算ツールは、この空白を段階的に埋めていった。2010年代初頭に開発されたオープンソースの「ウィキサーベイ」であるPolisは、スレッド形式の返信を完全に避けた。参加者は短い意見を投稿し、他者の意見に賛成、反対、または棄権の票を投じる。ソフトウェアは次元削減とクラスタリングを用いて、意見の構造を可視化する。台湾の市民テクノロジー・コミュニティは、政府と連携した協議プロセスであるvTaiwanにPolisを採用した。2022年以降、大規模言語モデル（LLM）は自然言語を大規模に読み書きする能力を加え、要約、テキストによるモデレーション、合意候補となる声明の草案作成を可能にした。

方法と情報源

本稿は、査読済みの実験、プレプリント、および各プロセスを運営する組織による一次資料を対象とした、体系的なレビューである。主な情報源は、Polisに関するSmallら（2021年）およびPolisにおけるLLMに関するSmallら（2023年）、vTaiwanに関するHsiaoら（2018年）、Collective Intelligence Projectによる2023年のAlignment Assembliesの説明、Collective Constitutional AIに関するHuangら（FAccT 2024）と付随するAnthropicの報告書、スタンフォード大学のDeliberative Democracy LabとHuman-Centered AI InstituteによるOnline Deliberation Platformに関する資料、Science（2024年）のTesslerら、PNAS（2023年）のArgyleら、そしてリスクに関するJakeschら（CHI 2023）、Costello、Pennycook、Rand（Science 2024）、HackenburgとMargetts（PNAS 2024）、Salviら（Nature Human Behaviour 2025）、DoshiとHauser（Science Advances 2024）である。プロセスを運営する組織が同時に評価者でもある場合、その点を本文で明記する。

主な知見

意見の可視化：PolisとvTaiwan

SmallらはPolisを、「人々からスケーラブルかつ分散的な方法でフィードバックを収集し、統合できる」オープンソースのウェブアプリケーションと説明し、報道、学術研究、地方および国レベルの意思決定機関において、共通理解の形成、荒らし行為の抑制、合意点の顕在化に役立ってきたと報告している。最も重要な設計上の選択は、返信機能がないことである。参加者は互いを直接攻撃できず、ソフトウェアは、特定の意見グループ内だけでなく、異なる意見グループ間でも賛同を集める意見を評価する。

2014年に開始されたvTaiwanは、Polisを公開会合、ライブ配信による協議、政府職員の参加と組み合わせた。Hsiao、Lin、Tang、Narayanan、Saraheは、提案と意見収集から、熟考を経て立法に至るまでのプロセスを記録し、2015年のUberXに関する協議を事例研究として取り上げた。この事例では、ドライバー、タクシー事業者、乗客、政府職員の間の「大まかな合意」が規制に反映された。vTaiwanの参加者で、後に台湾のデジタル担当大臣となった唐鳳（オードリー・タン）は、このアプローチの最もよく知られた提唱者となった。

vTaiwanに関する文献では、2つの限界が十分に記録されている。第一に、成果は各省庁が参加し、行動することを選ぶかどうかに左右され、プロセスに拘束力はなかった。第二に、参加は自己選択によるものであり、誰でも参加できたが、それは全員を代表していたということとは異なる。

議論の促進：自動モデレーション

スタンフォード大学のDeliberative Democracy LabとCrowdsourced Democracy Teamは、少人数グループでのビデオ討論を目的とするOnline Deliberation Platformを構築した。2020年にスタンフォード大学のHAIが説明したところによると、自動モデレーターは、発言を希望する参加者の順番待ちを管理し、各発言を45秒に制限し、時間を定めた議題を進行させ、グループに続行するか次に進むかを尋ね、発言の少ない参加者に発言を促す。また、発言を書き起こし、GoogleのPerspective APIを使って有害性を評価する。発言者がしきい値を超えると、他の参加者に投票を求め、過半数が賛成した場合、その発言者は数分間ミュートされる。開発者らは、人間のモデレーターのようにボディーランゲージを読み取ったり、デリケートな話題を察知したりすることはできないと認めている。

プラットフォームの公式ページは2026年時点で、40を超える言語で運用され、40を超える国で利用されており、ユニークユーザー数は50,000人超、熟議時間は100,000時間超に達したと報告している。例として、以下が挙げられる。

• 生成AIに関するMeta Community Forum、2023年10月28～29日：ブラジル、ドイツ、スペイン、米国で科学的に抽出された集団から集まった1,545人の参加者が生成AIについて熟議した。2024年10月には、AIエージェントを扱うフォーラムも開催された。
• 情報の完全性を高めるためのAI活用に関する台湾の熟議型世論調査、2024年3月23日：デジタル発展部、スタンフォード大学のDeliberative Democracy Lab、国立陽明交通大学が主催し、台湾市民447人が、プラットフォームによる自主規制と政府による監督のどちらを採用すべきか、また、大規模プラットフォームが虚偽情報やディープフェイクに対処するためにAIをどう活用すべきかを議論した。

プラットフォームの開発者は、評価研究を1件発表している。Gelauffらは、同プラットフォーム上で実施された日本の熟議型世論調査のアンケートと参加状況の指標を分析し、非常によく似たテーマを扱った、以前の対面・人間モデレーターによる熟議と同等の成果を上げたと報告している。また、性別による参加の平等性がより高く、所得および教育に関する公平性も同程度であったことを示す予備的な証拠が得られた。比較対象は無作為化試験ではなく、別々に実施された2つのイベントであり、評価はこのツールを構築したチームが行った。

Argyleらによる関連実験では、LLMを使い、意見の対立する話題をめぐるオンライン会話の最中に、相手が理解されたと感じるようメッセージの言い換えをリアルタイムで提案した。この介入により、報告された会話の質と「民主的互恵性」が向上し、会話の調子も改善した一方、「会話の内容を体系的に変えたり、人々の政策に対する態度を動かしたりすることはなかった」。これはモデレーターより限定的な支援だが、軽微なAI介入によって、人々の考えを変えずに話し方を変えられることを示している。

見解の統合：Habermas Machine

Google DeepMindのテスラーらは、英国での集団討議を仲介するため、LLMベースのシステムを訓練し、「ハーバーマス・マシン」と名付けた。参加者は社会的または政治的な問いについて自分の意見を書き、AIが集団声明の草案を作成し、参加者がそれを批評し、AIが修正版を作成した後、参加者が結果を順位付けした。5,734人の参加者を対象とした実験では、人々は人間の仲介者が書いた声明よりAIが生成した声明を好み、より有益で、明確で、偏りが少ないと評価した。討議者は討議の後にしばしば見解を更新し、共通の見方へと収束した。テキスト埋め込みの分析から、成功した声明は多数派の立場を尊重しつつ、異論を唱える声を取り入れていることが示された。この知見は、英国人口を人口統計学的に代表するサンプルによる仮想市民会議でも再現された。

この研究は、AIがファシリテーターの「共通基盤」を作る機能を果たせることを示す、最も強力な統制された証拠である。その限界も重要だ。プロセスは口頭ではなく書面で仲介され、参加者同士が直接討議したわけではない。また、このシステムは集団が支持する声明を作るよう最適化されていたが、それは真実または賢明な声明を作ることと同じではない。さらに、このシステムが生み出す収束は、別の使い手の手にかかれば、合意を作り出すための道具になりうる。

AI自体への意見の集約：アラインメント・アセンブリーと集団的憲法AI

Collective Intelligence Project（CIP）は2023年に、AIに関する意思決定に市民の意見を反映させるため、一連の「アラインメント・アセンブリー」を実施した。具体的には、民主主義サミットに合わせたパイロット（2023年3月）、OpenAIと行ったリスク順位付けの演習（2023年6月）、台湾デジタル発展部とのプロセス（vTaiwanを応用し、著作権、報酬、バイアス、公共サービスなどのテーマを含む生成AIに政府の政策がどう対応すべきかを問うもの、2023年7月）、Anthropicとの集団的憲法AI（2023年10月）、そしてAIの学習におけるライセンス作品の利用に関するCreative Commons向けの協議である。

集団的憲法AIは、最も詳細に記録されている。年齢、性別、所得、地理的分布に基づいて人口を反映するよう募集され、AIに関する基本的な知識についてスクリーニングされた米国の成人約1,000人が、Polisを使ってAIアシスタントの原則を提出し、投票した。参加者は1,127件の声明を寄せ、38,252票を投じた。Polisが特定した2つの意見グループの双方で合意が得られた声明を残し、CIPが憎悪的、重複、または無関係な声明を取り除いた結果、275件が残った。これらを統合し、Anthropicの憲法AIの学習で用いられる形式に言い換えた。公開憲法は、概念と価値観の点でAnthropic独自の憲法とおよそ半分重なっており、客観性とアクセシビリティをより重視し、望ましくない行動を禁じるよりも、望ましい行動を促す傾向があった。

出典：Huangら（2024年）およびAnthropic/CIP報告書（2023年10月）。

著者ら自身が留保点を列挙している。米国のみを対象とした小規模なサンプル、声明を原則に変換する際の主観的な判断、限定的かつ予備的な評価、そして予想以上に複雑であることが判明した訓練である。また、このプロセスは強い意味で諮問的なものでもあった。実施を決めたのは企業であり、問いを選び、声明を調整し、結果をどう扱うかを決めた。

各導入事例に共通する点

これらのプロセスはいずれも、議会や企業を拘束するものではなかった。したがって、ここで得られている証拠が示すのは、AIが熟議の経験や成果物の質を向上させるかどうかであり、権力の行使のあり方を変えるかどうかではない。

リスク：誘導、説得、均質化

AIを熟議に役立てる能力は、熟議にとって危険なものにもなりうる。

• 潜在的な説得。 Jakeschらは1,506人の参加者に、ソーシャルメディアが社会にとって有益かどうかについて投稿を書くよう求め、その一部には一方の立場を論じるよう設定されたAIライティングアシスタントを使用させた。意見を主張するアシスタントを使うと、文章で表明された意見と、その後の調査での参加者の態度の両方が変化した。偏りを組み込まれたファシリテーターや要約者は、誰にも気づかれないまま集団の意見を動かす可能性がある。
• 説得力。 Costello、Pennycook、Randは、陰謀論を信じる2,190人を対象に、GPT-4 Turboとの個別化された証拠に基づく対話を実施し、信念は約20%低下し、その効果は少なくとも2か月続いた。Salviらは、相手についての基本的な社会人口統計情報を与えられたGPT-4の討論者が、両者の説得力が同等でなかった事例の64.4%で、人間の討論者より説得力が高かったと報告した（N=900）。HackenburgとMargettsは、8,587人の参加者を対象とした事前登録実験で、GPT-4のメッセージは政治的争点について概ね説得力があったものの、マイクロターゲティングによる統計的に有意な優位性は認められなかったと報告した。これらの結果は両面を持つ。AIは誤った信念を正すことも、正しい信念を変えることもできる。
• 均質化。 DoshiとHauserは、LLMから物語のアイデアを与えられた執筆者は、AIなしで書いた物語よりも創造的で文章の質が高いと評価される物語を作った一方、物語同士の類似性は高かったと報告した。熟議における同様のリスクは、AIが起草した意見表明が無難な中道へと収斂し、各参加者は自分の意見がよりよく反映されたと感じている一方で、少数派の枠組みを押しのけることである。
• 不透明性と統制。 PolisでLLMを用いたSmallらのパイロット研究では、要約とモデレーションによって議論の効率を高められる一方、モデルが処理できるテキスト量の少なさが結果の深さと質に「重大な」影響を及ぼすことが示され、リスクを特定し、それらを特徴づけて緩和するための原則が必要とされた。モデル、その指示、学習データを選ぶ者が、出力を左右する。

証拠が示していないこと

• 意思決定への影響。 ここで検討した研究のうち、AIを利用した熟議が、AIを利用しないプロセスと比べて、より良い政策につながったか、あるいは政府や企業の行動を変えたかを測定したものはない。
• 非参加者にとっての正統性。 Habermas MachineとCollective Constitutional AIが測定したのは参加者の選好である。AIが起草を支援したという理由で、より広い公衆が声明を受け入れるかどうかは検証されていない。公衆の態度に関する調査は、政府の意思決定者としてのAIに対する懐疑を示唆している。
• 自動モデレーションと人間によるモデレーション。 Stanfordの自動モデレーターと人間によるモデレーションを比較した公刊研究は、開発者によるものが唯一であり、オンラインでの1回のDeliberative Pollを、それ以前に対面で実施されたイベントと比較している。無作為化比較は公刊されていない。
• 持続性。 態度の変化が測定されたのは数時間、または長くても数週間にわたってであり、収斂が持続するかは不明である。
• 文化を超えた一般化可能性。 実験の大半は、オンラインのサンプルを用いて、米国と英国で英語により実施された。

制度設計への示唆

1. AIは意思決定者ではなく、ファシリテーターの役割にとどめる。 意見の整理、モデレーション、起草は補助手段である。承認は参加者が、意思決定は説明責任を負う機関が担うべきである。
2. ツールの所有者と、争点の利害関係者を分ける。 自社製品について熟議を運営する企業や、自らの政策について熟議を行う政府は、合意を起草するモデルも支配すべきではない。
3. 設定を公開する。 指示、モデルのバージョン、モデレーション規則、生の意見表明から出力を作成する手順は、PolisのオープンソースコードやCIPの文書が一部そうであるように、公開され監査可能であるべきである。
4. 少数派の枠組みを保護する。 単一の「共通基盤」の声明ではなく、統合結果に反対意見と、それを持つ集団の規模を示すよう求める。
5. 誘導がないか検証する。 AIを利用したプロセスを無作為化された対照条件（人間によるファシリテーション、要約なし）と比較し、満足度だけでなく態度の変化も測定する。
6. 抽選制と組み合わせる。 AIは参加者1人当たりの費用を下げ、無作為抽出は代表性をもたらす。2023年のMetaフォーラムと2024年の台湾の熟議型世論調査は、両者を組み合わせられることを示している。

未解決の問い

• 拘束力のある市民会議はAI起草ツールを使うだろうか。また、会議の参加者はツールが行ったことをどのように確認するだろうか。
• 集団間の合意を報いる「橋渡し」アルゴリズムは、他のランキングシステムと同様に、連携した集団によって攻略される可能性があるだろうか。
• AIを利用した熟議の成果には利用の開示を付すべきだろうか。また、開示によって受け止められ方は変わるだろうか。
• 熟議モデルの中立性を認証するのは誰であるべきか。また、どのような基準に基づくべきか。
• AIが対話を通じて誤った信念を減らせるなら、公的機関はそれを導入すべきだろうか。また、主張の推進に利用されることを防ぐために、どのような安全策が必要だろうか。

出典

1. Small, C., Bjorkegren, M., Erkkilä, T., Shaw, L. and Megill, C. (2021). Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces. Recerca. Revista de Pensament i Anàlisi 26(2).
2. Hsiao, Y. T., Lin, S.-Y., Tang, A., Narayanan, D. and Sarahe, C. (2018). vTaiwan: An Empirical Study of Open Consultation Process in Taiwan. SocArXiv.
3. Small, C. T., Vendrov, I., Durmus, E., Homaei, H., Barry, E., Cornebise, J., Suzman, T., Ganguli, D. and Megill, C. (2023). Opportunities and Risks of LLMs for Scalable Deliberation with Polis. arXiv:2306.11932.
4. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R. and colleagues (2024). AI can help humans find common ground in democratic deliberation. Science 386(6719), eadq2852.
5. Huang, S., Siddarth, D., Lovitt, L., Liao, T. I., Durmus, E., Tamkin, A. and Ganguli, D. (2024). Collective Constitutional AI: Aligning a Language Model with Public Input. 所収: Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency, pp. 1395-1417.
6. Anthropic and Collective Intelligence Project (2023). Collective Constitutional AI: Aligning a Language Model with Public Input, 17 October 2023.
7. Collective Intelligence Project. Alignment Assemblies.
8. Stanford Deliberative Democracy Lab. Online Deliberation Platform.
9. Stanford HAI (2020). A Moderator ChatBot for Civic Discourse, 6 February 2020.
10. Stanford Deliberative Democracy Lab. Meta Community Forum on Generative AI: results（2023年10月のフォーラム）。
11. Stanford Deliberative Democracy Lab. Taiwan Deliberative Poll on Utilizing AI to Enhance Information Integrity（23 March 2024）。
12. Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., Sorensen, T. and Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. PNAS 120(41), e2311627120.
13. Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. and Naaman, M. (2023). Co-Writing with Opinionated Language Models Affects Users' Views. 所収: Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems.
14. Costello, T. H., Pennycook, G. and Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814.
15. Hackenburg, K. and Margetts, H. (2024). Evaluating the persuasive influence of political microtargeting with large language models. PNAS 121(24), e2403116121.
16. Salvi, F., Horta Ribeiro, M., Gallotti, R. and West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9(8), 1645-1653.
17. Doshi, A. R. and Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances 10(28), eadn5290.
18. Gelauff, L., Nikolenko, L., Sakshuwong, S., Fishkin, J., Goel, A., Munagala, K. and Siu, A. (2023). Achieving parity with human moderators: A self-moderating platform for online deliberation. 所収: The Routledge Handbook of Collective Intelligence for Democracy and Governance. Routledge.