集体宪法式人工智能（Anthropic和CIP，2023）

背景

宪法式人工智能是 Anthropic 开发的一种大型语言模型训练方法：模型不再仅仅依赖人类对单个回答的评分，而是会获得一份书面原则清单（即“宪法”），并用它来评判和修订自己的输出，以及生成偏好判断以供进一步训练。该方法使模型训练所依据的价值观更加清晰可见，但也凸显了这些价值观由谁编写。用 Anthropic 的话说，“宪法是我们自己写的”。

2023年，Anthropic 与集体智能项目（CIP）在 CIP 的“对齐议会”项目框架下开展了一项实验，让公众成员编写这样一部宪法。实验结果于2023年10月17日发布，并以经同行评审论文的形式发表于2024年 ACM 公平性、问责制与透明度会议（FAccT）。

治理方式

约1,000名美国成年人通过调查公司 PureSpectrum 招募参与，样本在年龄、性别、收入和地理分布方面具有代表性。参与者通过在线平台 Polis 参加活动，在该平台上，参与者提交简短陈述，并对他人撰写的陈述投赞成票、反对票或弃权票。提示要求他们帮助为 AI 聊天机器人挑选规则。参与者提交了1,127条陈述，并投出38,252票，平均每人34票。Polis 识别出两个主要意见群体。

研究人员随后将公众意见转化为一部宪法。他们剔除了未达到跨群体共识门槛的陈述，对重复内容进行去重并合并相似陈述，再将剩余的275条陈述归纳为用于训练的格式所采用的原则，与 Anthropic 自己宪法中的58条原则相当。大约一半的概念重合。公众原则更加重视客观性、公正性和可及性，并且倾向于鼓励期望行为，而不是禁止不期望行为。

经济与公共物品

该项目由两个组织资助；参与者由招募公司支付报酬。公共物品包括方法、已发表的公众宪法以及评估结果，其他团体可以重复使用这些成果。

冲突与争议

研究人员强调了实验本身的局限。样本规模较小，也不具有全球代表性。研究人员在审核、去重以及将陈述转化为训练原则的过程中作出了许多主观判断，因此最终宪法是由组织者共同编写的。尽管公众宪法包含了提示可能无法充分检验的原则，但两个模型都使用了同一提示数据库进行训练。训练比预期更困难；由于无害性数据与有用性数据之间不平衡，早期版本被评价为“烦人”。参与式 AI 的批评者还指出，一次性调查无法提供持续问责机制，而且是否采用任何实验结果仍由公司决定。

成果

Anthropic 训练了两个与 Claude Instant 规模相当的模型：“公众版”模型采用公众宪法，“标准版”模型采用 Anthropic 自己的宪法。在标准语言理解和数学基准测试，以及有用性和无害性评分方面，两个模型表现相当。在 BBQ 基准测试的九个社会维度上，公众版模型表现出的偏见低于标准版模型，其中在残障状况和外貌方面最为明显；两个模型表现出相似的政治倾向。这些模型是研究成果；博文没有报告公众版模型已投入部署。该实验被广泛引用为代表性公众直接影响大型语言模型训练规则的首批案例之一。

对制度设计的启示

• 首先让规则清晰可见。 AI 的书面宪法为公众审议和修订提供了一个自然的对象。
• 转化过程关乎权力。 从公众陈述到训练原则的转化步骤需要透明的规则，理想情况下还应有第二轮公众审查。
• 共识筛选会影响结果。 只保留跨群体达成共识的陈述，会偏向广泛共享、往往较温和的原则。
• 一次性试点无法建立问责机制。 要实现持久的公众参与，需要常设机构、定期更新，以及开发者作出回应承诺。
• 衡量效果，而不只是过程。 在偏见和能力基准测试中比较模型，能让参与者了解他们的意见带来了哪些变化。

延伸阅读

• Anthropic: Collective Constitutional AI (2023)
• Huang et al., 'Collective Constitutional AI', FAccT 2024
• CIP: CIP and Anthropic launch Collective Constitutional AI
• Bai et al., 'Constitutional AI: Harmlessness from AI Feedback' (2022)