Polity Atlas
Página webFonte primária

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

Abrir página da editora ↗
Tipo
Página web
Acessado em
2026-09-01

Afirmações que citam esta fonte

3 afirmações
EstabelecidoCerca de 1,000 adultos dos EUA recrutados pela PureSpectrum apresentaram 1,127 declarações e votaram 38,252 vezes no Polis; após a moderação, restaram 275 declarações, cujos conceitos se sobrepunham em cerca de 50% aos da constituição de 58 princípios da Anthropic.EstabelecidoO modelo treinado com base na constituição pública teve desempenho equivalente ao do modelo padrão no MMLU, no GSM8K e nas avaliações de utilidade e inocuidade, e apresentou menor viés em nove dimensões sociais do benchmark BBQ.EstabelecidoOs organizadores reconhecem que muitas decisões subjetivas tomadas ao moderar e traduzir declarações públicas em princípios de treinamento influenciaram a constituição pública final.