KI als Unterstützung für deliberative Prozesse: Erkenntnisse von Polis bis zur Habermas Machine

Die deliberative Demokratie stand schon immer vor einem Skalierungsproblem: Eine sorgfältige Diskussion funktioniert in Gruppen von einigen Dutzend Personen, während politische Gemeinschaften Millionen umfassen. Software und seit 2022 auch große Sprachmodelle (LLMs) versprechen, diese Einschränkung zu mindern, indem sie Meinungen bündeln, Diskussionen moderieren, Argumente zusammenfassen und Erklärungen entwerfen, denen viele Menschen zustimmen können. Diese Studie untersucht die wichtigsten Anwendungen in der Praxis und kontrollierten Experimente: die Plattform Polis und Taiwans vTaiwan-Prozess; die vom Collective Intelligence Project durchgeführten Alignment Assemblies, einschließlich Collective Constitutional AI mit Anthropic; Stanfords Online Deliberation Platform und ihren automatisierten Moderator; sowie die 2024 in Science vorgestellte „Habermas Machine“ von Google DeepMind. Anschließend werden diese Anwendungen experimentellen Erkenntnissen zu den Risiken gegenübergestellt: dass KI Meinungen beeinflusst, wirksamer als Menschen überzeugt und das Spektrum der Ideen verengt. Insgesamt zeigen sich Instrumente, die Menschen nachweislich dabei helfen, eine gemeinsame Grundlage zu finden und zu formulieren, bislang aber überwiegend in konsultativen Kontexten eingesetzt werden. Zugleich gibt es starke Hinweise darauf, dass dieselben Fähigkeiten sowohl zur Steuerung als auch zur Unterstützung genutzt werden könnten. Die entscheidende Gestaltungsfrage lautet daher nicht, ob KI deliberative Prozesse unterstützen kann, sondern wer das Instrument kontrolliert, was es tun darf und wie sein Einfluss überprüft wird.

Zentrale Erkenntnisse

• KI kann Aussagen verfassen, die Gruppen bevorzugen. In Experimenten mit 5,734 Teilnehmenden wurden von einem KI-Mediator verfasste Aussagen denen menschlicher Mediatoren vorgezogen und als informativer, klarer und unvoreingenommener bewertet; die Teilnehmenden passten ihre Ansichten häufig in Richtung einer gemeinsamen Position an, und das Ergebnis ließ sich in einer virtuellen Bürgerversammlung mit einer demografisch repräsentativen Stichprobe aus dem Vereinigten Königreich replizieren (Tessler und Kollegen, 2024).
• Tools zur Erfassung von Meinungen haben reale politische Maßnahmen beeinflusst, hauptsächlich im Rahmen von Konsultationen. Polis, das seit 2014 im taiwanischen vTaiwan-Prozess eingesetzt wird, gruppiert Teilnehmende danach, wie sie über kurze Aussagen abstimmen, und hebt Aussagen hervor, die über mehrere Gruppen hinweg Unterstützung finden. Das Tool hat Gesetzgebung und Regulierung beeinflusst, insbesondere im Fall UberX, seine Ergebnisse bleiben jedoch beratender Art.
• Öffentliche Beiträge können das Verhalten eines Modells verändern, ohne seine Leistungsfähigkeit zu beeinträchtigen. Rund 1,000 Amerikanerinnen und Amerikaner steuerten 1,127 Aussagen und 38,252 Stimmen zu einer „öffentlichen Verfassung“ für ein Anthropic-Modell bei; das daraus hervorgegangene Modell zeigte bei neun sozialen Dimensionen geringere Verzerrungen als ein Modell, das mit der eigenen Verfassung von Anthropic trainiert worden war, und erzielte gleichwertige Leistungen bei Benchmarks zur Leistungsfähigkeit (Huang und Kollegen, 2024).
• Automatisierte Moderation wird bereits in großem Maßstab eingesetzt. Die Online Deliberation Platform von Stanford verwaltet Redelisten, zeitlich festgelegte Tagesordnungen und unzivilisiertes Verhalten und meldet mehr als 50,000 eindeutige Nutzerinnen und Nutzer in mehr als 40 Ländern; sie richtete unter anderem Metas Community Forum 2023 (1,545 Teilnehmende in vier Ländern) und eine taiwanische Deliberation über KI und die Integrität von Informationen im Jahr 2024 (447 Teilnehmende) aus.
• Dieselben Tools können auch lenken. Das Schreiben mit einem meinungsstarken Sprachmodell verschob die eigenen Ansichten der Teilnehmenden (N=1,506); personalisierte GPT-4-Debattierende waren in 64.4% der Fälle ohne Gleichstand überzeugender als menschliche Debattierende (N=900); und der Zugang zu KI-Ideen verbesserte zwar die kreative Arbeit Einzelner, führte aber kollektiv zu mehr Ähnlichkeit.
• Die Evidenz zur Legitimität ist dünn. Fast alle Studien messen Bewertungen und Einstellungsänderungen der Teilnehmenden in Experimenten oder einmaligen Konsultationen. Es gibt wenig Evidenz dazu, ob KI-gestützte Verfahren von Nichtteilnehmenden als legitim angesehen werden oder welche Auswirkungen sie auf tatsächliche Entscheidungen haben.

Forschungsfrage und Untersuchungsrahmen

Die Studie fragt: Was zeigt die Evidenz über KI-Tools als Unterstützung deliberativer Prozesse in Demokratien, und welche Risiken werden dabei identifiziert? „Unterstützung deliberativer Prozesse“ umfasst vier Funktionen: (1) Erfassung von Meinungen in einer großen Bevölkerung (Polis); (2) Moderation von Diskussionen (automatisierte Moderation); (3) Zusammenführung von Ansichten zu Zusammenfassungen oder Gruppenaussagen (Zusammenfassung durch LLMs, die Habermas Machine); und (4) Aggregation öffentlicher Beiträge zu Regeln für KI-Systeme selbst (Collective Constitutional AI, Alignment Assemblies). KI, die Entscheidungen im Namen von Bürgerinnen und Bürgern trifft, KI-Kandidaten und KI in der Wahlverwaltung liegen außerhalb des Untersuchungsrahmens.

Hintergrund

Die deliberative Theorie, von Jürgen Habermas' Konzept des kommunikativen Handelns bis zu James Fishkins deliberativen Umfragen, geht davon aus, dass die Legitimität kollektiver Entscheidungen von der Qualität der ihnen vorausgehenden Argumentation abhängt: Einbeziehung, gleiche Mitsprache, Gründe statt Macht und Offenheit für Revision. Ihre institutionellen Formen (Bürgerversammlungen, Geschworenengremien und deliberative Umfragen) beruhen auf Zufallsauswahl und geschulten menschlichen Moderierenden und sind pro teilnehmender Person kostspielig. Online-Konsultationen sind dagegen kostengünstig, belohnen aber tendenziell die lautesten Stimmen und ziehen Trolling an.

Rechnergestützte Werkzeuge schlossen diese Lücke schrittweise. Polis, eine Anfang der 2010er-Jahre entwickelte Open-Source-„Wikisurvey“-Anwendung, verzichtete vollständig auf Antworten in verschachtelten Diskussionssträngen: Teilnehmende reichen kurze Aussagen ein und stimmen den Aussagen anderer zu, lehnen sie ab oder enthalten sich. Die Software nutzt Dimensionsreduktion und Clustering, um die Struktur der Meinungen sichtbar zu machen. Taiwans Community für Civic Technology übernahm das Tool für vTaiwan, einen mit der Regierung verbundenen Konsultationsprozess. Seit 2022 haben LLMs die Fähigkeit hinzugefügt, natürliche Sprache in großem Umfang zu lesen und zu verfassen. Dadurch werden Zusammenfassungen, textbasierte Moderation und das Formulieren möglicher Konsensaussagen ermöglicht.

Methode und Quellen

Dies ist eine strukturierte Übersicht über begutachtete Experimente, Preprints und Primärdokumentation der Organisationen, die die Prozesse durchführen. Die wichtigsten Quellen sind: Arbeiten von Small und Kollegen zu Polis (2021) und zu LLMs in Polis (2023); Arbeiten von Hsiao und Kollegen zu vTaiwan (2018); die Beschreibung der Alignment Assemblies von 2023 durch das Collective Intelligence Project; Arbeiten von Huang und Kollegen zu Collective Constitutional AI (FAccT 2024) sowie der dazugehörige Bericht von Anthropic; Arbeiten des Deliberative Democracy Lab und des Human-Centered AI Institute der Stanford University zur Online Deliberation Platform; Tessler und Kollegen in Science (2024); Argyle und Kollegen in PNAS (2023); sowie zu Risiken Arbeiten von Jakesch und Kollegen (CHI 2023), Costello, Pennycook und Rand (Science 2024), Hackenburg und Margetts (PNAS 2024), Salvi und Kollegen (Nature Human Behaviour 2025) sowie Doshi und Hauser (Science Advances 2024). Wo die Organisationen, die einen Prozess durchführen, auch dessen Evaluierung vornehmen, wird dies im Text vermerkt.

Ergebnisse

Meinungen abbilden: Polis und vTaiwan

Small und Kollegen beschreiben Polis als eine Open-Source-Webanwendung, die „in der Lage ist, Rückmeldungen von Menschen skalierbar und verteilt zu sammeln und zusammenzuführen“, und berichten, dass sie in journalistischen Kontexten, der akademischen Forschung sowie in Entscheidungsgremien auf lokaler und nationaler Ebene gemeinsames Verständnis gefördert, Trolling entgegengewirkt und Konsenspunkte sichtbar gemacht hat. Die wichtigste Designentscheidung ist der Verzicht auf Antworten: Teilnehmende können einander nicht direkt angreifen, und die Software bevorzugt Aussagen, die über verschiedene Meinungsgruppen hinweg Zustimmung finden, statt nur innerhalb einer Gruppe.

vTaiwan wurde 2014 gestartet und verband Polis mit offenen Treffen, live übertragenen Konsultationen und der Beteiligung von Amtsträgern. Hsiao, Lin, Tang, Narayanan und Sarahe dokumentierten den Prozess – von Vorschlägen und der Erhebung von Meinungen über die Reflexion bis hin zur Gesetzgebung – und verwendeten die Konsultation zu UberX aus dem Jahr 2015 als Fallstudie. Dabei floss ein „ungefährer Konsens“ zwischen Fahrern, Taxiunternehmen, Fahrgästen und Amtsträgern in die Regulierung ein. Audrey Tang, eine Teilnehmerin bei vTaiwan und später Taiwans Digitalministerin, wurde zur bekanntesten Fürsprecherin dieses Ansatzes.

Zwei Grenzen sind in der Literatur zu vTaiwan gut dokumentiert. Die Ergebnisse hingen davon ab, ob Ministerien sich für eine Teilnahme und anschließende Maßnahmen entschieden; der Prozess war nicht bindend. Zudem war die Teilnahme selbstselektiert: Sie stand allen offen, was nicht bedeutet, dass sie für alle repräsentativ war.

Diskussion moderieren: automatisierte Moderation

Das Deliberative Democracy Lab und das Crowdsourced Democracy Team der Stanford University entwickelten die Online Deliberation Platform für Videodiskussionen in Kleingruppen. Wie Stanford HAI 2020 beschrieb, verwaltet die automatisierte Moderation eine Warteschlange der Teilnehmenden, die sprechen möchten, begrenzt jeden Redebeitrag auf 45 Sekunden, führt durch eine zeitlich festgelegte Tagesordnung und fragt die Gruppe, ob sie fortfahren oder zum nächsten Punkt übergehen möchte, ermuntert zurückhaltende Teilnehmende zur Beteiligung und transkribiert die Rede. Dabei bewertet sie den Grad an Toxizität mithilfe der Perspective API von Google. Überschreitet eine sprechende Person einen Schwellenwert, werden die anderen Teilnehmenden befragt; stimmt die Mehrheit zu, wird die Person für einige Minuten stummgeschaltet. Die Entwickler räumten ein, dass das System Körpersprache nicht lesen und sensible Themen nicht so wahrnehmen kann wie eine menschliche Moderation.

Laut der eigenen Website der Plattform im Jahr 2026 ist sie in mehr als 40 Sprachen verfügbar und wurde in mehr als 40 Ländern eingesetzt; sie verzeichnet mehr als 50,000 einmalige Nutzerinnen und Nutzer sowie mehr als 100,000 Stunden deliberativer Diskussion. Beispiele hierfür sind:

• Meta Community Forum zu generativer KI, 28-29 October 2023: 1,545 Teilnehmende aus wissenschaftlich ausgewählten Gruppen in Brasilien, Deutschland, Spanien und den Vereinigten Staaten diskutierten über generative KI; ein weiteres Forum im Oktober 2024 befasste sich mit KI-Agenten.
• Taiwan Deliberative Poll zur Nutzung von KI zur Verbesserung der Informationsintegrität, 23 March 2024: 447 taiwanische Bürgerinnen und Bürger erörterten, organisiert vom Ministry of Digital Affairs, dem Deliberative Democracy Lab der Stanford University und der National Yang Ming Chiao Tung University, die Selbstregulierung von Plattformen im Vergleich zu staatlicher Aufsicht sowie die Frage, wie große Plattformen KI zur Bekämpfung von Falschinformationen und Deepfakes einsetzen sollten.

Die Entwickler der Plattform haben eine Evaluierung veröffentlicht. Gelauff und Kollegen analysierten Umfragen und Beteiligungskennzahlen einer japanischen Deliberative Poll, die auf der Plattform durchgeführt wurde, und berichten, dass sie ähnlich gut abschnitt wie eine frühere, von Menschen moderierte Präsenzdiskussion zu einem sehr ähnlichen Thema. Es gebe vorläufige Hinweise auf eine gleichmäßigere Beteiligung nach Geschlecht sowie eine ähnliche Chancengleichheit hinsichtlich Einkommen und Bildung. Der Vergleich betrifft zwei getrennte Veranstaltungen und keine randomisierte Studie; durchgeführt wurde er vom Team, das das Tool entwickelt hat.

In einem verwandten Experiment nutzten Argyle und Kollegen ein LLM, um in Echtzeit Umformulierungen von Nachrichten in Online-Gesprächen über ein kontroverses Thema vorzuschlagen, die dem Gegenüber das Gefühl vermitteln sollten, verstanden zu werden. Die Interventionen verbesserten die berichtete Gesprächsqualität und die „demokratische Reziprozität“ sowie den Gesprächston, „ohne den Gesprächsinhalt systematisch zu verändern oder die politischen Einstellungen der Menschen zu beeinflussen“. Dies ist eine engere Unterstützung als die Moderation, zeigt aber, dass zurückhaltende KI-Interventionen verändern können, wie Menschen miteinander sprechen, ohne zu verändern, was sie denken.

Ansichten zusammenführen: die Habermas Machine

Tessler und Kollegen bei Google DeepMind trainierten ein LLM-basiertes System, das sie Habermas Machine nannten, um Gruppendiskussionen im Vereinigten Königreich zu moderieren. Die Teilnehmenden verfassten ihre Meinungen zu einer sozialen oder politischen Frage; die KI entwarf eine gemeinsame Erklärung; die Teilnehmenden kritisierten sie; die KI erstellte überarbeitete Erklärungen; und die Teilnehmenden bewerteten die Ergebnisse. In Experimenten mit 5,734 Teilnehmenden bevorzugten die Menschen die von der KI erzeugten Erklärungen gegenüber jenen, die von menschlichen Moderierenden verfasst worden waren, und bewerteten sie als informativer, klarer und unvoreingenommener. Die Diskutierenden änderten ihre Ansichten nach der Beratung häufig und näherten sich einer gemeinsamen Perspektive an. Eine Analyse von Texte-Embeddings zeigte, dass erfolgreiche Erklärungen abweichende Stimmen einbezogen und zugleich die Position der Mehrheit respektierten. Die Ergebnisse wurden in einer virtuellen Bürgerversammlung mit einer demografisch repräsentativen Stichprobe der Bevölkerung des Vereinigten Königreichs reproduziert.

Die Studie liefert den bislang stärksten kontrollierten Beleg dafür, dass KI die Funktion einer moderierenden Person übernehmen kann, eine „gemeinsame Grundlage“ herzustellen. Auch ihre Grenzen sind wichtig. Der Prozess findet schriftlich statt und nicht mündlich; die Teilnehmenden beraten sich nicht direkt miteinander; das System wurde darauf optimiert, Erklärungen zu formulieren, die Gruppen befürworten würden – was nicht dasselbe ist wie Erklärungen, die wahr oder klug sind; und die von ihm bewirkte Annäherung könnte in anderen Händen zu einem Instrument der Herstellung von Zustimmung werden.

Beiträge für die KI selbst zusammenführen: Alignment Assemblies und Collective Constitutional AI

Das Collective Intelligence Project (CIP) führte 2023 eine Reihe von „Alignment Assemblies“ durch, um öffentliche Beiträge in Entscheidungen über KI einfließen zu lassen: ein Pilotprojekt im Rahmen des Gipfels für Demokratie (März 2023); eine Übung zur Risikoeinstufung mit OpenAI (Juni 2023); ein Verfahren mit Taiwans Ministerium für digitale Angelegenheiten, das vTaiwan anpasste, um zu erfragen, wie die Regierungspolitik auf generative KI reagieren sollte, unter anderem in den Bereichen Urheberrecht, Vergütung, Voreingenommenheit und öffentliche Dienstleistungen (Juli 2023); Collective Constitutional AI mit Anthropic (Oktober 2023); sowie eine Konsultation für Creative Commons zur Verwendung lizenzierter Werke beim Training von KI.

Collective Constitutional AI ist am besten dokumentiert. Rund 1,000 Erwachsene aus den USA, die nach Alter, Geschlecht, Einkommen und geografischer Verteilung so ausgewählt wurden, dass sie die Bevölkerung abbildeten, und deren grundlegende Vertrautheit mit KI überprüft worden war, nutzten Polis, um Grundsätze für einen KI-Assistenten einzureichen und darüber abzustimmen. Sie steuerten 1,127 Erklärungen und 38,252 Stimmen bei. Erklärungen, für die in beiden von Polis ermittelten Meinungsgruppen ein Konsens bestand, wurden beibehalten; CIP entfernte hasserfüllte, doppelte oder irrelevante Erklärungen. Von den verbleibenden 275 wurden einige zusammengeführt und umformuliert, um dem Format zu entsprechen, das beim Training von Anthropics Constitutional AI verwendet wird. Die öffentliche Verfassung überschnitt sich bei Konzepten und Werten ungefähr zur Hälfte mit Anthropics eigener Verfassung und legte mehr Gewicht auf Objektivität und Zugänglichkeit. Außerdem förderte sie tendenziell erwünschtes Verhalten, statt unerwünschtes Verhalten zu untersagen.

Quelle: Huang und Kollegen (2024) sowie der Bericht von Anthropic/CIP (Oktober 2023).

Die Autorinnen und Autoren führen die Vorbehalte selbst auf: eine kleine Stichprobe, die ausschließlich aus den USA stammt; subjektive Ermessensentscheidungen bei der Umwandlung von Erklärungen in Grundsätze; begrenzte und vorläufige Evaluierungen; sowie ein Training, das sich als komplexer erwies als erwartet. Das Verfahren war außerdem in einem ausgeprägten Sinne konsultativ: Das Unternehmen entschied, es durchzuführen, wählte die Frage aus, moderierte die Erklärungen und entschied, was mit dem Ergebnis geschehen sollte.

Was die Einsätze gemeinsam haben

Keines dieser Verfahren war für ein Parlament oder ein Unternehmen verbindlich. Die Evidenz betrifft daher die Frage, ob KI die deliberative Erfahrung und die Qualität der Ergebnisse verbessert, nicht aber, ob sie verändert, wie Macht ausgeübt wird.

Die Risiken: Steuerung, Überzeugung und Vereinheitlichung

Die Fähigkeiten, die KI für Beratungen nützlich machen, können sie zugleich zu einer potenziellen Gefahr für diese machen.

• Unterschwellige Beeinflussung. Jakesch und Kollegen baten 1,506 Teilnehmende, einen Beitrag darüber zu verfassen, ob soziale Medien gut für die Gesellschaft sind; einige nutzten dabei einen KI-Schreibassistenten, der so eingestellt war, dass er für eine Seite argumentierte. Die Nutzung des meinungsstarken Assistenten veränderte sowohl die in den Texten geäußerten Meinungen als auch die Einstellungen der Teilnehmenden in einer späteren Umfrage. Eine moderierende oder zusammenfassende Person mit eingebauter Schlagseite könnte eine Gruppe beeinflussen, ohne dass es jemand bemerkt.
• Überzeugungskraft. Costello, Pennycook und Rand führten mit 2,190 Menschen, die an Verschwörungstheorien glaubten, personalisierte, evidenzbasierte Dialoge mit GPT-4 Turbo; der Glaube daran ging um etwa 20% zurück, und der Effekt hielt mindestens zwei Monate an. Salvi und Kollegen stellten fest, dass GPT-4-Debattierende, die über grundlegende soziodemografische Informationen zu ihrem Gegenüber verfügten, in 64.4% der Fälle, in denen die beiden nicht gleich überzeugend waren, überzeugender waren als menschliche Debattierende (N=900). Hackenburg und Margetts fanden in einem präregistrierten Experiment mit 8,587 Teilnehmenden, dass GPT-4-Nachrichten bei politischen Fragen allgemein überzeugend waren, jedoch keinen statistisch signifikanten Vorteil durch Mikrotargeting aufwiesen. Diese Ergebnisse wirken in beide Richtungen: KI kann falsche Überzeugungen korrigieren und wahre verändern.
• Homogenisierung. Doshi und Hauser stellten fest, dass Schreibende, denen ein LLM Ideen für Geschichten lieferte, Geschichten verfassten, die als kreativer und besser geschrieben bewertet wurden, aber einander ähnlicher waren als Geschichten, die ohne KI geschrieben wurden. Bei Beratungen besteht das entsprechende Risiko darin, dass KI-gestützte Formulierungen zu einem farblosen Mittelmaß konvergieren und Minderheitenperspektiven verdrängen, während sich zugleich jede teilnehmende Person besser repräsentiert fühlt.
• Intransparenz und Kontrolle. Pilotarbeiten von Small und Kollegen mit LLMs in Polis zeigten, dass Zusammenfassungen und Moderation Gespräche effizienter machen konnten, dass aber die begrenzte Textmenge, die ein Modell verarbeiten konnte, die Tiefe und Qualität der Ergebnisse „erheblich“ beeinflusste. Zudem wurden Risiken identifiziert, die Prinzipien zu ihrer Beschreibung und Minderung erfordern. Wer das Modell, seine Anweisungen und seine Trainingsdaten auswählt, prägt die Ausgabe.

Was die Evidenz nicht zeigt

• Auswirkungen auf Entscheidungen. Keine der hier ausgewerteten Studien misst, ob KI-gestützte Beratungen im Vergleich zu einem Prozess ohne KI zu einer besseren Politik führten oder veränderten, was eine Regierung oder ein Unternehmen tat.
• Legitimität für Nichtteilnehmende. Die Habermas Machine und Collective Constitutional AI erfassten die Präferenzen der Teilnehmenden. Ob die breitere Öffentlichkeit eine Stellungnahme akzeptieren würde, weil eine KI bei ihrer Ausarbeitung half, wurde nicht untersucht; Umfragen zur öffentlichen Meinung deuten auf Skepsis gegenüber KI als Entscheidungsträgerin in der Regierung hin.
• Automatisierte gegenüber menschlicher Moderation. Der einzige veröffentlichte Vergleich zwischen dem automatisierten Moderator von Stanford und menschlicher Moderation stammt von dessen Entwicklern und stellt ein Online Deliberative Poll einer früheren Präsenzveranstaltung gegenüber; randomisierte Vergleiche wurden nicht veröffentlicht.
• Dauerhaftigkeit. Einstellungsänderungen wurden über Stunden oder höchstens Wochen gemessen; ob die Konvergenz anhält, ist unbekannt.
• Verallgemeinerbarkeit über Kulturen hinweg. Die meisten Experimente wurden in den Vereinigten Staaten und im Vereinigten Königreich auf Englisch mit Online-Stichproben durchgeführt.

Implikationen für die Gestaltung von Institutionen

1. KI in der Rolle der Moderation belassen, nicht in der Entscheidungsrolle. Kartierung, Moderation und Formulierungshilfen sind unterstützende Maßnahmen; die Zustimmung sollte bei den Teilnehmenden verbleiben und die Entscheidungen bei rechenschaftspflichtigen Gremien.
2. Eigentümer des Werkzeugs und Betroffene der jeweiligen Sachfrage trennen. Ein Unternehmen, das eine Beratung zu seinem eigenen Produkt durchführt, oder eine Regierung, die eine Beratung zu ihrer eigenen Politik durchführt, sollte nicht zugleich das Modell kontrollieren, das den Konsens formuliert.
3. Die Konfiguration veröffentlichen. Anweisungen, Modellversion, Moderationsregeln und die Umwandlung von Rohstellungnahmen in Ergebnisse sollten offen und überprüfbar sein, wie es der Open-Source-Code von Polis und die Dokumentation von CIP teilweise sind.
4. Minderheitenperspektiven schützen. Verlangen, dass zusammenfassende Ergebnisse abweichende Positionen und die Größe der Gruppen, die sie vertreten, ausweisen, statt nur eine einzige Stellungnahme zum „gemeinsamen Nenner“ zu präsentieren.
5. Auf Einflussnahme testen. KI-gestützte Verfahren mit randomisierten Kontrollbedingungen vergleichen (menschliche Moderation, keine Zusammenfassungen) und Einstellungsänderungen messen, nicht nur die Zufriedenheit.
6. Mit Losverfahren kombinieren. KI senkt die Kosten pro teilnehmender Person; die Zufallsauswahl sorgt für Repräsentativität. Das Meta-Forum von 2023 und die deliberative Umfrage in Taiwan von 2024 zeigen, dass sich beides kombinieren lässt.

Offene Fragen

• Würde eine mit verbindlichen Befugnissen ausgestattete Bürgerversammlung ein KI-gestütztes Formulierungswerkzeug einsetzen, und wie würden ihre Mitglieder überprüfen, was das Werkzeug getan hat?
• Können „Brückenbau“-Algorithmen, die gruppenübergreifende Übereinstimmung belohnen, von koordinierten Gruppen manipuliert werden, wie es bei anderen Rankingsystemen der Fall war?
• Sollten KI-gestützte Beratungsergebnisse einen Hinweis auf den KI-Einsatz enthalten, und verändert ein solcher Hinweis ihre Rezeption?
• Wer sollte ein Beratungsmodell als neutral zertifizieren und anhand welchen Standards?
• Wenn KI durch Dialog falsche Überzeugungen abbauen kann, sollten öffentliche Institutionen sie einsetzen, und mit welchen Schutzvorkehrungen gegen ihre Nutzung zur Interessenvertretung?

Quellen

1. Small, C., Bjorkegren, M., Erkkilä, T., Shaw, L. und Megill, C. (2021). Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces. Recerca. Revista de Pensament i Anàlisi 26(2).
2. Hsiao, Y. T., Lin, S.-Y., Tang, A., Narayanan, D. und Sarahe, C. (2018). vTaiwan: An Empirical Study of Open Consultation Process in Taiwan. SocArXiv.
3. Small, C. T., Vendrov, I., Durmus, E., Homaei, H., Barry, E., Cornebise, J., Suzman, T., Ganguli, D. und Megill, C. (2023). Opportunities and Risks of LLMs for Scalable Deliberation with Polis. arXiv:2306.11932.
4. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R. und Kollegen (2024). AI can help humans find common ground in democratic deliberation. Science 386(6719), eadq2852.
5. Huang, S., Siddarth, D., Lovitt, L., Liao, T. I., Durmus, E., Tamkin, A. und Ganguli, D. (2024). Collective Constitutional AI: Aligning a Language Model with Public Input. In Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency, S. 1395-1417.
6. Anthropic und Collective Intelligence Project (2023). Collective Constitutional AI: Aligning a Language Model with Public Input, 17. Oktober 2023.
7. Collective Intelligence Project. Alignment Assemblies.
8. Stanford Deliberative Democracy Lab. Online Deliberation Platform.
9. Stanford HAI (2020). A Moderator ChatBot for Civic Discourse, 6. Februar 2020.
10. Stanford Deliberative Democracy Lab. Meta Community Forum on Generative AI: results (Forum im Oktober 2023).
11. Stanford Deliberative Democracy Lab. Taiwan Deliberative Poll on Utilizing AI to Enhance Information Integrity (23. März 2024).
12. Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., Sorensen, T. und Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. PNAS 120(41), e2311627120.
13. Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. und Naaman, M. (2023). Co-Writing with Opinionated Language Models Affects Users' Views. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems.
14. Costello, T. H., Pennycook, G. und Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814.
15. Hackenburg, K. und Margetts, H. (2024). Evaluating the persuasive influence of political microtargeting with large language models. PNAS 121(24), e2403116121.
16. Salvi, F., Horta Ribeiro, M., Gallotti, R. und West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9(8), 1645-1653.
17. Doshi, A. R. und Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances 10(28), eadn5290.
18. Gelauff, L., Nikolenko, L., Sakshuwong, S., Fishkin, J., Goel, A., Munagala, K. und Siu, A. (2023). Achieving parity with human moderators: A self-moderating platform for online deliberation. In The Routledge Handbook of Collective Intelligence for Democracy and Governance. Routledge.