Polity Atlas
Веб-страницаПервичный источник

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

Страница издателя ↗
Тип
Веб-страница
Дата обращения
2026-09-01

Утверждения, ссылающиеся на источник

Утверждений: 3
УстановленоОколо 1,000 взрослых жителей США, набранных PureSpectrum, представили 1,127 заявлений и отдали 38,252 голоса на платформе Polis; после модерации осталось 275 заявлений, чьи концепции примерно на 50% пересекались с конституцией Anthropic, состоящей из 58 принципов.УстановленоМодель, обученная на публичной конституции, показала результаты, сопоставимые со стандартной моделью, по тестам MMLU и GSM8K, а также по оценкам полезности и безвредности; кроме того, она продемонстрировала меньшую предвзятость по девяти социальным измерениям теста BBQ.УстановленоОрганизаторы признают, что многочисленные субъективные решения при модерации публичных заявлений и их переводе в учебные принципы повлияли на содержание итоговой публичной конституции.