Polity Atlas
网页一手来源

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

打开出版方页面 ↗
类型
网页
访问日期
2026-09-01

引用此来源的论断

3 项论断
已确立PureSpectrum招募的约1,000名美国成年人在Polis上提交了1,127条陈述并投出38,252票；经审核后，剩下275条陈述，其中约50%的概念与Anthropic的58项原则宪章重叠。已确立基于公共宪章训练的模型在MMLU、GSM8K以及有用性和无害性评级方面与标准模型表现相当，并且在BBQ基准的九个社会维度上表现出较低的偏差。已确立组织者承认，在审核公众陈述并将其转化为训练原则的过程中，许多主观判断影响了最终的公共宪章。