作为审议辅助工具的AI：从Polis到哈贝马斯机器的证据

审议式民主始终面临规模问题：几十人的小型讨论室适合进行细致讨论，而政治共同体的人口却以百万计。软件，以及自2022年以来的大语言模型（LLM），有望通过聚类意见、调解讨论、总结论据和起草多数人能够接受的声明，缓解这一限制。本研究回顾了主要的现实应用和受控实验：Polis平台和台湾的vTaiwan进程；集体智能项目（Collective Intelligence Project）开展的对齐议会（Alignment Assemblies），包括与Anthropic合作的集体宪制AI（Collective Constitutional AI）；斯坦福在线审议平台及其自动化调解员；以及Google DeepMind的“哈贝马斯机器”（Habermas Machine），该项目于2024年发表于《科学》。随后，本文将这些项目与有关风险的实验性证据进行对照：AI会改变观点、比人类更有效地说服他人，并缩小思想范围。总体而言，现有工具能够以可衡量的方式帮助人们找到并表达共同点；迄今它们主要用于咨询场景，同时有有力证据表明，同样的能力既可用于引导，也可用于辅助。因而，设计上的问题不在于AI能否支持审议，而在于谁控制工具、允许它做什么，以及如何审计其影响。

主要发现

• AI 可以起草群体更青睐的陈述。 在涉及 5,734 名参与者的实验中，AI 调解员生成的陈述比人类调解员撰写的陈述更受青睐，并被评为信息量更大、更清晰且偏见更少；参与者往往会调整自己的观点，趋向共同立场；这一结果也在一场虚拟公民大会中得到重复验证，该大会的参与者来自英国一个在人口统计特征上具有代表性的样本（Tessler 及其同事，2024）。
• 观点映射工具已影响现实政策，主要用于征询意见。 Polis 自 2014 年起用于台湾的 vTaiwan 流程，它根据参与者对简短陈述的投票方式将其分组，并突出显示在不同组别中均获得支持的陈述。该工具为立法和监管提供了参考，尤其是在 UberX 案例中，但其产出仍仅具咨询性质。
• 公众意见可以改变模型行为，而不损害其能力。 约 1,000 名美国人提交了 1,127 条陈述并投出 38,252 票，共同制定了一份供 Anthropic 模型使用的“公众宪章”；与使用 Anthropic 自行制定的宪章训练的模型相比，由此产生的模型在九个社会维度上表现出更低的偏见，同时在能力基准测试中的表现相当（Huang 及其同事，2024）。
• 自动化调解已大规模应用。 斯坦福大学在线审议平台负责管理发言队列、定时议程和不文明言论，并报告称其在 40 多个国家拥有超过 50,000 名独立用户；该平台曾举办多场活动，其中包括 Meta 的 2023 年社区论坛（来自四个国家的 1,545 名参与者）以及 2024 年台湾关于 AI 与信息完整性的审议活动（447 名参与者）。
• 同样的工具也可能影响参与者。 使用带有立场的语言模型写作会改变参与者自身的观点（N=1,506）；在非平局案例中，个性化 GPT-4 辩手在 64.4% 的情况下比人类辩手更有说服力（N=900）；接触 AI 生成的想法会提升个人创作水平，却使群体作品趋于相似。
• 关于合法性的证据有限。 几乎所有研究都在实验或一次性咨询中测量参与者的评价和态度变化。关于非参与者是否认为 AI 辅助流程具有合法性，或此类流程对实际决策有何影响，证据寥寥。

研究问题与范围

本研究提出的问题是：关于作为民主审议辅助工具的 AI，现有证据表明了什么，又指出了哪些风险？“审议辅助工具”涵盖四种功能：（1）在人口规模较大的群体中绘制观点分布图（Polis）；（2）促进讨论（自动化调解）；（3）将观点综合成摘要或群体陈述（LLM 摘要生成、哈贝马斯机器）；以及（4）将公众意见汇总成 AI 系统自身所遵循的规则（集体宪法式 AI、对齐大会）。本研究范围不包括代替公民作出决策的 AI、AI 候选人以及选举管理中的 AI。

背景

从尤尔根·哈贝马斯关于交往行为的论述到詹姆斯·菲什金的审议式民意调查，审议理论认为，集体决策的合法性取决于决策前推理过程的质量：包容性、平等发言权、依据理由而非权力，以及愿意修正观点。其制度形式（公民大会、陪审团和审议式民意调查）依靠随机抽选和受过培训的人类引导员，且人均成本高。相比之下，在线咨询成本低廉，但往往更有利于声音最大的人，也容易吸引网络捣乱者。

计算工具分阶段填补了这一空白。Polis 是一款于2010年代初开发的开源“维基调查”工具，它完全避免了串联式回复：参与者提交简短陈述，并对他人的陈述投赞成票、反对票或弃权；软件则利用降维和聚类来呈现意见结构。台湾的公民科技社群将其用于 vTaiwan，这是一个与政府相关联的咨询流程。自2022年以来，大型语言模型（LLM）增加了大规模读写自然语言的能力，从而可以进行摘要、基于文本的调解，以及起草可能达成共识的陈述。

方法与来源

本文对同行评审实验、预印本以及负责运行这些流程的组织所发布的原始文档进行了结构化综述。主要来源包括：Small 等人关于 Polis 的研究（2021）及关于 Polis 中 LLM 的研究（2023）；Hsiao 等人关于 vTaiwan 的研究（2018）；集体智能项目对其2023年 Alignment Assemblies 的说明；Huang 等人关于 Collective Constitutional AI（《集体宪制人工智能》）的研究（FAccT 2024）及配套的 Anthropic 报告；斯坦福大学审议式民主实验室和以人为本人工智能研究院关于在线审议平台的研究；Tessler 等人在 Science 上发表的研究（2024）；Argyle 等人在 PNAS 上发表的研究（2023）；以及关于风险的研究，包括 Jakesch 等人（CHI 2023）、Costello、Pennycook 和 Rand（Science 2024）、Hackenburg 和 Margetts（PNAS 2024）、Salvi 等人（Nature Human Behaviour 2025）以及 Doshi 和 Hauser（Science Advances 2024）。如果某一流程的运营组织同时也是其评估者，本文会注明这一点。

研究发现

绘制意见图谱：Polis 和 vTaiwan

Small 等人将 Polis 描述为一款开源网络应用，“能够以可扩展、分布式的方式收集和综合人们的反馈”，并报告称，它在新闻报道、学术研究以及地方和国家层面的决策机构中促进了共同理解、抑制了恶意捣乱，并呈现出共识点。最重要的设计选择是取消回复功能：参与者无法直接攻击彼此，而软件会优先呈现那些能跨越不同意见群体获得认同，而非只在单一群体内部获得认同的陈述。

vTaiwan 于2014年启动，将 Polis 与开放会议、直播咨询以及官员参与结合起来。Hsiao、Lin、Tang、Narayanan 和 Sarahe 记录了这一流程，从提案和意见收集，经由反思，直至立法；他们还以2015年的 UberX 咨询为案例研究，其中司机、出租车运营者、乘客和官员之间形成的“粗略共识”促成了相关监管。曾参与 vTaiwan、后来担任台湾数位部长的 Audrey Tang，成为这一方法最知名的倡导者。

关于 vTaiwan，文献中充分记录了两项局限。其成果取决于各部会是否选择参与并采取行动；该流程不具约束力。参与也由参与者自行选择：任何人都可以参与，但这不同于代表所有人。

促进讨论：自动化调解

斯坦福大学审议式民主实验室和众包民主团队为小组视频讨论开发了在线审议平台。根据斯坦福大学以人为本人工智能研究院（HAI）在2020年的介绍，该平台的自动化主持人会管理希望发言者的排队顺序，将每次发言限制在45秒内，按计时议程推进，并询问小组是继续还是进入下一项；它还会鼓励较少发言的参与者发言，并转录发言内容，使用 Google 的 Perspective API 对其毒性评分；如果某位发言者超过阈值，系统会征询其他参与者的意见，如果多数人同意，该发言者就会被禁言几分钟。开发者承认，该平台无法像人类主持人那样解读肢体语言或察觉敏感话题。

该平台的自有页面在2026年报告称，平台支持40多种语言，已在40多个国家使用，拥有超过50,000名独立用户，审议时长超过100,000小时。案例包括：

• Meta 生成式人工智能社区论坛，2023年10月28-29日：来自巴西、德国、西班牙和美国、通过科学抽样选出的群体中共有1,545名参与者，就生成式人工智能展开审议；2024年10月还举办了另一场论坛，讨论人工智能代理。
• 台湾关于利用人工智能提升信息完整性的审议式民意调查，2024年3月23日：447名台湾民众在数位发展部、斯坦福大学审议式民主实验室和国立阳明交通大学的组织下，讨论平台自我监管与政府监督孰优，以及大型平台应如何利用人工智能打击虚假信息和深度伪造内容。

平台开发者发表过一项评估。Gelauff 等人分析了在该平台上进行的一场日本审议式民意调查中的问卷调查和参与指标，并报告称，该平台的表现与此前一次由人工主持、主题非常相近的线下审议相当；初步证据还表明，性别方面的参与更加平等，收入和教育方面的公平程度则相近。这一比较针对的是两场不同活动，而非随机对照试验；评估也是由开发该工具的团队开展的。

Argyle 等人进行的一项相关实验使用大型语言模型，实时建议如何改写有关分歧性话题的在线对话消息，目的是让对话伙伴感到自己得到了理解。干预措施提升了参与者报告的对话质量和“民主互惠性”，也改善了对话语气，“但并未系统性地改变对话内容或改变人们的政策态度”。这种辅助方式比主持人的作用范围更窄，但它表明，轻度介入的人工智能措施可以改变人们交谈的方式，而不改变他们的想法。

综合观点：哈贝马斯机器

Google DeepMind的Tessler及其同事训练了一个基于大语言模型的系统，并将其称为“哈贝马斯机器”，用于调解英国的群体协商。参与者就社会或政治问题写下自己的意见；AI起草群体声明；参与者对其提出批评；AI据此修订声明；参与者再对结果进行排序。在一项有5,734名参与者的实验中，人们更偏好AI生成的声明，而非由人类调解员撰写的声明，认为前者信息更丰富、更清晰，也更公正。参与者在协商后往往会调整自己的观点，并逐渐形成共同立场。对文本嵌入的分析显示，成功的声明既纳入了持不同意见者的声音，又尊重了多数立场。这些发现还在一场虚拟公民大会中得到了重复验证，参与者样本在人口统计特征上能够代表英国人口。

这项研究是最有力的受控证据，表明AI能够发挥引导者的“寻求共同基础”功能。其局限同样重要。整个过程通过书面而非口头方式进行；参与者并未直接彼此协商；系统的优化目标是生成群体愿意认同的声明，而这与声明是否真实或明智并非一回事；此外，在其他人手中，它促成共识的能力可能会变成制造同意的工具。

为AI本身汇集意见：AI对齐大会与集体宪法式AI

集体智能项目（CIP）于2023年举办了一系列“AI对齐大会”，旨在将公众意见纳入有关AI的决策：一项围绕民主峰会的试点（2023年3月）；与OpenAI开展的一项风险排序活动（2023年6月）；与台湾数位发展部合作开展的一项进程，该进程改造vTaiwan，询问政府政策应如何应对生成式AI，涉及版权、补偿、偏见和公共服务等议题（2023年7月）；与Anthropic合作开展的“集体宪法式AI”（2023年10月）；以及为知识共享组织就AI训练中使用授权作品一事开展的咨询。

“集体宪法式AI”是相关项目中记录最详尽的。约1,000名美国成年人参与其中，他们按年龄、性别、收入和地理区域招募，以反映人口构成，并经过筛选以确保对AI具备基本了解。他们使用Polis提交并投票表决AI助手应遵循的原则。他们共提交1,127条陈述并投出38,252票。Polis识别出的两个意见群体都达成共识的陈述得以保留；CIP删除了带有仇恨内容、重复或无关的陈述，最终留下275条，并将其合并、改写为Anthropic“宪法式AI”训练所用的格式。公众制定的宪法在概念和价值观上与Anthropic自己的宪法约有一半重合，同时更加重视客观性和可及性，并倾向于提倡理想行为，而非禁止不理想行为。

来源：Huang及其同事（2024）以及Anthropic/CIP报告（2023年10月）。

作者自行列出了这些注意事项：样本规模较小且仅来自美国；将陈述转化为原则时存在主观判断；评估有限且初步；训练过程也比预期复杂。这个过程在很大程度上也是一种咨询：是否开展该项目由公司决定，问题由公司选择，陈述由公司主持处理，结果如何处置也由公司决定。

各项部署的共同点

这些过程没有一项对立法机关或公司具有约束力。因此，现有证据考察的是AI能否改善协商体验和产出质量，而不是AI是否改变了权力的行使方式。

风险：引导、说服与同质化

使AI在协商中发挥作用的能力，也可能使它对协商构成潜在危险。

• 潜在说服。 Jakesch及其同事邀请1,506名参与者撰写一篇关于社交媒体是否有益于社会的帖子，其中一些人使用了配置为支持某一方观点的AI写作助手。使用带有倾向性的助手，既改变了写作中表达的观点，也改变了参与者在随后调查中的态度。带有内置倾向的主持人或摘要工具，可能在无人察觉的情况下影响整个群体。
• 说服力。 Costello、Pennycook和Rand让2,190名相信阴谋论的人与GPT-4 Turbo进行个性化、以证据为基础的对话；他们的信念减弱了约20%，且这一效果至少持续了两个月。Salvi及其同事发现，在对手的基本社会人口信息已知的情况下，GPT-4辩手在双方说服力不相上下的案例中，有64.4%的时候比人类辩手更具说服力（N=900）。Hackenburg和Margetts在一项预注册实验中研究了8,587名参与者，发现GPT-4的信息在政治议题上总体具有说服力，但微定向并未带来统计显著的优势。这些结果有两面性：AI既能纠正错误信念，也能改变正确的信念。
• 同质化。 Doshi和Hauser发现，获得LLM提供的故事创意的作者写出的故事被评为更具创意、文笔更好，但彼此之间也比未使用AI写出的故事更加相似。在审议过程中，类似的风险是，AI起草的陈述会趋同于平淡的中间立场，挤压少数群体的表述方式，即便每位参与者都觉得自己的观点得到了更好的代表。
• 不透明与控制。 Small及其同事在Polis中使用LLM开展的试点研究发现，摘要和调节可以提高对话效率，但模型能够处理的文本量有限，这“显著”影响了结果的深度和质量；研究还指出了需要制定原则加以界定和缓解的风险。模型的选择、指令和训练数据由谁决定，谁就会塑造其输出。

证据未能说明什么

• 对决策的影响。 本文回顾的研究没有任何一项衡量：与非AI流程相比，AI辅助审议是否带来了更好的政策，或改变了政府或公司采取的行动。
• 非参与者的认受性。 Habermas Machine和Collective Constitutional AI衡量的是参与者的偏好。公众是否会因为AI帮助起草了一份声明而接受该声明，尚未经过检验；公众态度调查显示，人们对AI作为政府决策者持怀疑态度。
• 自动化调节与人工调节。 关于斯坦福大学自动化主持人与人工主持的唯一已发表比较研究由该系统的开发者开展，比较的是一场线上审议式民意调查与此前一场线下活动；随机对照比较尚未发表。
• 持久性。 对态度变化的测量持续了数小时，至多数周；意见趋同是否会持续，尚不清楚。
• 跨文化推广性。 大多数实验在美国和英国以英语进行，采用线上样本。

对制度设计的启示

1. 让AI担任主持者，而非决策者。 意见梳理、调节和起草都是辅助工作；认可应由参与者作出，决策则应由负有问责责任的机构作出。
2. 将工具的所有者与议题的利益相关方分开。 就自身产品开展审议的公司，或就自身政策开展审议的政府，不应同时控制起草共识的模型。
3. 公开配置。 指令、模型版本、调节规则，以及从原始陈述转换为输出的过程，都应公开并可审计；Polis的开源代码和CIP的文档在一定程度上已做到这一点。
4. 保护少数群体的表述方式。 应要求综合输出呈现异议立场及持有这些立场的群体规模，而不是只给出一份“共同立场”声明。
5. 检验引导效应。 将AI辅助流程与随机分配的对照组（人工主持、不提供摘要）进行比较，并衡量态度变化，而不只衡量满意度。
6. 与随机遴选结合。 AI降低了每位参与者的成本；随机遴选则带来代表性。2023年Meta论坛和2024年台湾审议式民意调查表明，两者可以结合。

尚待解答的问题

• 有约束力的公民议会会使用AI起草工具吗？其成员将如何核查该工具做了什么？
• 奖励跨群体共识的“桥接”算法会否像其他排名系统一样，被协同行动的群体操纵？
• AI辅助的审议成果是否应附带披露说明？披露会改变公众对其接受程度吗？
• 应由谁认证审议模型是中立的？依据什么标准？
• 如果AI能够通过对话减少错误信念，公共机构是否应部署它？又应采取哪些保障措施，防止它被用于倡导宣传？

来源

1. Small, C., Bjorkegren, M., Erkkilä, T., Shaw, L. and Megill, C. (2021). Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces. Recerca. Revista de Pensament i Anàlisi 26(2).
2. Hsiao, Y. T., Lin, S.-Y., Tang, A., Narayanan, D. and Sarahe, C. (2018). vTaiwan: An Empirical Study of Open Consultation Process in Taiwan. SocArXiv.
3. Small, C. T., Vendrov, I., Durmus, E., Homaei, H., Barry, E., Cornebise, J., Suzman, T., Ganguli, D. and Megill, C. (2023). Opportunities and Risks of LLMs for Scalable Deliberation with Polis. arXiv:2306.11932.
4. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R. and colleagues (2024). AI can help humans find common ground in democratic deliberation. Science 386(6719), eadq2852.
5. Huang, S., Siddarth, D., Lovitt, L., Liao, T. I., Durmus, E., Tamkin, A. and Ganguli, D. (2024). Collective Constitutional AI: Aligning a Language Model with Public Input. 载于 Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency，第1395-1417页。
6. Anthropic and Collective Intelligence Project (2023). Collective Constitutional AI: Aligning a Language Model with Public Input，2023年10月17日。
7. Collective Intelligence Project. Alignment Assemblies.
8. Stanford Deliberative Democracy Lab. Online Deliberation Platform.
9. Stanford HAI (2020). A Moderator ChatBot for Civic Discourse，2020年2月6日。
10. Stanford Deliberative Democracy Lab. Meta Community Forum on Generative AI: results（2023年10月论坛）。
11. Stanford Deliberative Democracy Lab. Taiwan Deliberative Poll on Utilizing AI to Enhance Information Integrity（2024年3月23日）。
12. Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., Sorensen, T. and Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. PNAS 120(41), e2311627120.
13. Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. and Naaman, M. (2023). Co-Writing with Opinionated Language Models Affects Users' Views. 载于 Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems。
14. Costello, T. H., Pennycook, G. and Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814.
15. Hackenburg, K. and Margetts, H. (2024). Evaluating the persuasive influence of political microtargeting with large language models. PNAS 121(24), e2403116121.
16. Salvi, F., Horta Ribeiro, M., Gallotti, R. and West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9(8), 1645-1653.
17. Doshi, A. R. and Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances 10(28), eadn5290.
18. Gelauff, L., Nikolenko, L., Sakshuwong, S., Fishkin, J., Goel, A., Munagala, K. and Siu, A. (2023). Achieving parity with human moderators: A self-moderating platform for online deliberation. 载于 The Routledge Handbook of Collective Intelligence for Democracy and Governance。Routledge.