DE

WebseitePrimärquelle

Collective Constitutional AI: Aligning a Language Model with Public Input

Anthropic and the Collective Intelligence Project · 2023

Seite des Herausgebers öffnen ↗

Typ: Webseite
Abgerufen: 2026-09-01

Aussagen, die diese Quelle anführen

3 Aussagen

GesichertEtwa 1,000 von PureSpectrum rekrutierte Erwachsene aus den USA reichten 1,127 Stellungnahmen ein und gaben 38,252 Stimmen auf Polis ab; nach der Moderation blieben 275 Stellungnahmen übrig, deren Konzepte sich zu etwa 50% mit denen der 58 Grundsätze umfassenden Verfassung von Anthropic überschnitten.GesichertDas anhand der öffentlichen Verfassung trainierte Modell schnitt bei MMLU, GSM8K sowie den Bewertungen von Hilfsbereitschaft und Harmlosigkeit gleichwertig mit dem Standardmodell ab und wies über neun soziale Dimensionen des BBQ-Benchmarks hinweg geringere Verzerrungen auf.GesichertDie Organisatoren räumen ein, dass zahlreiche subjektive Ermessensentscheidungen bei der Moderation und der Übertragung öffentlicher Stellungnahmen in Trainingsgrundsätze die endgültige öffentliche Verfassung geprägt haben.