ИИ как помощник в обсуждении: данные от Polis до «машины Хабермаса»

Перед совещательной демократией всегда стояла проблема масштаба: обстоятельное обсуждение возможно в группах из нескольких десятков человек, тогда как политические сообщества насчитывают миллионы. Программное обеспечение, а с 2022 года и большие языковые модели (LLM), обещают смягчить это ограничение: группировать мнения, модерировать дискуссии, обобщать аргументы и составлять заявления, приемлемые для многих. В этом исследовании рассматриваются основные примеры применения в реальных условиях и контролируемые эксперименты: платформа Polis и процесс vTaiwan на Тайване; Ассамблеи по вопросам согласования, организованные Collective Intelligence Project, включая Collective Constitutional AI совместно с Anthropic; платформа Stanford's Online Deliberation Platform и её автоматизированный модератор; а также «Машина Хабермаса» Google DeepMind, о которой сообщалось в журнале Science в 2024 году. Затем эти примеры сопоставляются с экспериментальными данными о рисках: ИИ способен менять мнения, убеждать эффективнее людей и сужать спектр идей. В целом данные показывают, что эти инструменты измеримо помогают людям находить и формулировать точки соприкосновения; пока их применяют преимущественно в консультативных процессах, однако есть веские свидетельства того, что те же возможности можно использовать не только для помощи, но и для направленного влияния. Поэтому вопрос проектирования заключается не в том, может ли ИИ поддерживать совещательное обсуждение, а в том, кто контролирует инструмент, что ему позволено делать и как проверяется его влияние.

Основные выводы

• ИИ может составлять заявления, которые нравятся группам. В экспериментах с участием 5,734 человек заявления, подготовленные ИИ-медиатором, предпочитали заявлениям, составленным медиаторами-людьми, и оценивали как более информативные, ясные и беспристрастные; участники часто пересматривали свои взгляды в направлении общей позиции, а результат был воспроизведён в виртуальном собрании граждан, сформированном на основе демографически репрезентативной выборки жителей Великобритании (Tessler и коллеги, 2024).
• Инструменты картирования мнений повлияли на реальную политику — главным образом в формате консультаций. Polis, используемый в процессе vTaiwan на Тайване с 2014 года, группирует участников по тому, как они голосуют за короткие заявления, и выделяет заявления, получающие поддержку в разных группах. Его результаты учитывались при разработке законов и нормативного регулирования, в частности в деле UberX, однако они по-прежнему носят рекомендательный характер.
• Общественное участие может менять поведение модели, не снижая её возможностей. Около 1,000 американцев внесли 1,127 заявлений и отдали 38,252 голоса в рамках создания «общественной конституции» для модели Anthropic; полученная модель демонстрировала меньшую предвзятость по девяти социальным измерениям, чем модель, обученная на собственной конституции Anthropic, при сопоставимых результатах в тестах возможностей (Huang и коллеги, 2024).
• Автоматизированная модерация уже используется в широких масштабах. Платформа Stanford Online Deliberation Platform управляет очередностью выступлений, повесткой с ограничением времени и проявлениями неуважения; по её данным, у неё более 50,000 уникальных пользователей в более чем 40 странах. Среди прочего, на ней проходили Общественный форум Meta 2023 года (1,545 участников в четырёх странах) и обсуждение на Тайване в 2024 году, посвящённое ИИ и достоверности информации (447 участников).
• Те же инструменты могут направлять мнения. Работа с языковой моделью, имеющей выраженную позицию, смещала собственные взгляды участников (N=1,506); персонализированные дебаты с GPT-4 были убедительнее дебатов с участием людей в 64.4% случаев без ничьей (N=900); доступ к идеям ИИ повышал индивидуальное качество творческих работ, но делал их в совокупности более похожими.
• Доказательств легитимности мало. Почти во всех исследованиях измеряются оценки участников и изменение их установок в экспериментах или разовых консультациях. Данных о том, считают ли неучастники процессы с применением ИИ легитимными и как такие процессы влияют на реальные решения, немного.

Исследовательский вопрос и рамки

В исследовании ставится вопрос: что показывают данные об инструментах ИИ как средствах поддержки демократического обсуждения и какие риски они выявляют? Под «средством поддержки обсуждения» понимаются четыре функции: (1) картирование мнений в большой совокупности населения (Polis); (2) фасилитация обсуждения (автоматизированная модерация); (3) обобщение взглядов в виде резюме или групповых заявлений (обобщение с помощью LLM, Habermas Machine); и (4) агрегирование общественного вклада в правила для самих систем ИИ (Collective Constitutional AI, Alignment Assemblies). ИИ, используемый для принятия решений от имени граждан, кандидаты на выборах на основе ИИ и ИИ в администрировании выборов находятся за рамками исследования.

Предпосылки

Согласно теории делиберативной демократии — от концепции коммуникативного действия Юргена Хабермаса до делиберативного опроса Джеймса Фишкина, — легитимность коллективных решений зависит от качества предшествующего им рассуждения: инклюзивности, равного права голоса, опоры на аргументы, а не власть, и открытости пересмотру. Её институциональные формы (собрания граждан, гражданские жюри и делиберативные опросы) опираются на случайный отбор участников и работу подготовленных фасилитаторов-людей и обходятся дорого в расчёте на одного участника. Онлайн-консультации, напротив, обходятся дёшево, но обычно дают преимущество самым громким голосам и привлекают троллей.

Вычислительные инструменты начали постепенно заполнять этот пробел. Polis — разработанный в начале 2010-х годов опросный инструмент с открытым исходным кодом, построенный по принципу «вики-опроса», — полностью отказался от ответов в ветках обсуждения: участники отправляют короткие утверждения, а затем голосуют за, против или воздерживаются по поводу утверждений других участников; программное обеспечение использует снижение размерности и кластеризацию, чтобы показать структуру мнений. Сообщество гражданских технологий Тайваня применило его в рамках vTaiwan — консультационного процесса, связанного с правительством. С 2022 года большие языковые модели (LLM) добавили возможность в больших масштабах читать и создавать тексты на естественном языке, что позволяет обобщать материалы, модерировать обсуждения с помощью текста и составлять проекты формулировок возможного консенсуса.

Метод и источники

Это структурированный обзор рецензируемых экспериментов, препринтов и первичной документации организаций, проводящих эти процессы. Основные источники: работы Смолла и коллег о Polis (2021) и об LLM в Polis (2023); работа Сяо и коллег о vTaiwan (2018); описание проекта Collective Intelligence Project его Ассамблей по согласованию 2023 года; работа Хуанга и коллег о Collective Constitutional AI (FAccT 2024) и сопутствующий доклад Anthropic; материалы Лаборатории совещательной демократии и Института человекоориентированного ИИ Стэнфордского университета об онлайн-платформе для совещательного обсуждения; работа Тесслера и коллег в Science (2024); работа Аргайла и коллег в PNAS (2023); а также исследования рисков: работа Джейкеша и коллег (CHI 2023), Костелло, Пенникука и Рэнда (Science 2024), Хакенбурга и Маргеттс (PNAS 2024), Салви и коллег (Nature Human Behaviour 2025) и Доши и Хаузера (Science Advances 2024). В тексте отмечается, когда организации, проводящие тот или иной процесс, одновременно оценивают его.

Выводы

Картирование мнений: Polis и vTaiwan

Смолл и коллеги описывают Polis как веб-приложение с открытым исходным кодом, «способное собирать и обобщать отзывы людей масштабируемым и распределённым образом», и сообщают, что оно способствовало формированию общего понимания, препятствовало троллингу и выявляло точки консенсуса в журналистике, академических исследованиях и органах, принимающих решения на местном и национальном уровнях. Важнейшая особенность дизайна — отсутствие ответов: участники не могут напрямую нападать друг на друга, а программное обеспечение поощряет утверждения, которые получают поддержку в разных группах мнений, а не только внутри одной группы.

Запущенный в 2014 году vTaiwan сочетал Polis с открытыми встречами, консультациями в прямом эфире и участием должностных лиц. Сяо, Лин, Тан, Нараянан и Сарахе задокументировали его процесс — от выдвижения предложений и сбора мнений до обсуждения и принятия законодательства — и рассмотрели консультацию по UberX в 2015 году как пример, в котором «предварительный консенсус» между водителями, операторами такси, пассажирами и должностными лицами повлиял на регулирование. Одри Тан, участница vTaiwan, впоследствии ставшая министром цифрового развития Тайваня, стала наиболее известной сторонницей этого подхода.

В литературе о vTaiwan хорошо задокументированы два ограничения. Результаты зависели от того, решат ли министерства участвовать и принять меры; процесс не имел обязательной силы. Кроме того, участие было добровольным: оно было открыто для всех, что не означает, что участники представляли всех.

Содействие обсуждению: автоматизированная модерация

Лаборатория совещательной демократии Стэнфордского университета и Команда краудсорсинговой демократии создали онлайн-платформу для совещательного обсуждения по видеосвязи в малых группах. Согласно описанию Стэнфордского института человекоориентированного ИИ (HAI) за 2020 год, автоматизированный модератор управляет очередью участников, желающих высказаться, ограничивает каждое выступление 45 секундами, ведёт обсуждение по расписанию и спрашивает группу, следует ли продолжить или перейти к следующему вопросу, побуждает молчаливых участников высказаться и расшифровывает речь, оценивая её токсичность с помощью Perspective API от Google; если выступающий превышает установленный порог, проводится опрос остальных участников, и, если большинство согласно, выступающего отключают на несколько минут. Разработчики признавали, что система не может считывать язык тела или распознавать деликатные темы так, как это делает модератор-человек.

Согласно опубликованной на собственной странице платформы информации за 2026 год, она работает более чем на 40 языках и использовалась более чем в 40 странах; число уникальных пользователей превысило 50 000, а общая продолжительность совещательных обсуждений составила более 100 000 часов. Примеры:

• Форум сообщества Meta по генеративному ИИ, 28-29 октября 2023 года: 1 545 участников из научно отобранных групп в Бразилии, Германии, Испании и США обсуждали генеративный ИИ; на следующем форуме в октябре 2024 года рассматривались ИИ-агенты.
• Совещательный опрос на Тайване об использовании ИИ для повышения достоверности информации, 23 марта 2024 года: 447 граждан Тайваня, мероприятие организовали Министерство цифровых дел, Лаборатория совещательной демократии Стэнфордского университета и Национальный университет Ян Мин Цзяо Тун. Участники обсуждали саморегулирование платформ в сравнении с надзором со стороны государства, а также то, как крупным платформам следует использовать ИИ для борьбы с ложной информацией и дипфейками.

Разработчики платформы опубликовали одну оценку. Гелауфф и коллеги проанализировали опросы и показатели участия в японском совещательном опросе, проведённом на платформе, и сообщают, что по результатам он не уступал более раннему очному обсуждению на очень близкую тему под руководством модератора-человека; предварительные данные свидетельствуют о более равном участии мужчин и женщин и сходном уровне равенства между группами по доходу и образованию. Сравниваются два отдельных мероприятия, а не результаты рандомизированного испытания; оценку проводила команда, создавшая инструмент.

В связанном с этим эксперименте Аргайл и коллеги использовали LLM, чтобы в режиме реального времени предлагать переформулировки сообщений в онлайн-беседах на поляризующую тему, призванные помочь собеседнику почувствовать, что его понимают. Эти вмешательства повысили оценку качества беседы и «демократической взаимности», а также улучшили тон общения, «не изменяя систематическим образом содержание разговора и не сдвигая политические взгляды людей». Это более узкая форма поддержки, чем модерация, однако она показывает, что ненавязчивые вмешательства ИИ могут менять манеру общения людей, не меняя их убеждений.

Обобщение взглядов: машина Хабермаса

Тесслер и его коллеги из Google DeepMind обучили систему на основе LLM, которую назвали «Машиной Хабермаса», для посредничества в групповых обсуждениях в Соединённом Королевстве. Участники записывали свои мнения по социальному или политическому вопросу; ИИ составлял групповое заявление; участники критиковали его; ИИ готовил переработанные варианты заявлений; затем участники ранжировали результаты. В экспериментах с участием 5,734 человек участники предпочитали заявления, созданные ИИ, заявлениям, написанным посредниками-людьми, и оценивали их как более информативные, ясные и непредвзятые. После обсуждений участники нередко меняли свои взгляды, сближаясь в общей позиции. Анализ текстовых эмбеддингов показал, что удачные заявления учитывали голоса несогласных, одновременно уважая позицию большинства. Результаты были воспроизведены в виртуальной гражданской ассамблее с демографически репрезентативной выборкой населения Великобритании.

Это исследование представляет собой наиболее убедительное контролируемое свидетельство того, что ИИ способен выполнять функцию фасилитатора по выработке «общей позиции». Важны и ограничения исследования. Обсуждение проходило в письменной, а не устной форме; участники не обсуждали вопросы непосредственно друг с другом; система была оптимизирована для создания заявлений, которые группы поддержали бы, а это не то же самое, что заявления, которые истинны или мудры; и в других руках достигаемое ею сближение позиций могло бы превратиться в инструмент формирования согласия.

Сбор мнений для самого ИИ: ассамблеи по согласованию и коллективный конституционный ИИ

В 2023 году Collective Intelligence Project (CIP) провёл серию «ассамблей по согласованию», чтобы учитывать мнения общественности при принятии решений об ИИ: пилотный проект в рамках Саммита за демократию (март 2023 года); упражнение по ранжированию рисков совместно с OpenAI (июнь 2023 года); процесс совместно с Министерством цифровых дел Тайваня, в рамках которого vTaiwan адаптировали, чтобы выяснить, как государственная политика должна реагировать на генеративный ИИ, в том числе по вопросам авторского права, компенсации, предвзятости и государственных услуг (июль 2023 года); «Коллективный конституционный ИИ» совместно с Anthropic (октябрь 2023 года); а также консультацию для Creative Commons по использованию лицензированных произведений для обучения ИИ.

Лучше всего задокументирован проект «Коллективный конституционный ИИ». Около 1,000 взрослых жителей США, набранных с учётом возраста, пола, дохода и географии, чтобы отразить состав населения, и прошедших проверку на базовое знакомство с ИИ, использовали Polis для представления принципов работы ИИ-ассистента и голосования по ним. Они предложили 1,127 заявлений и отдали 38,252 голоса. Заявления, получившие поддержку в обеих двух группах мнений, выявленных Polis, сохранили; CIP удалил оскорбительные, дублирующиеся или не относящиеся к делу заявления, оставив 275, которые объединили и переформулировали в формат, использовавшийся при обучении Anthropic конституционному ИИ. Примерно половина концепций и ценностей публичной конституции совпадала с концепциями и ценностями собственной конституции Anthropic; при этом в публичной версии больший вес придавался объективности и доступности, а желательное поведение скорее поощрялось, чем нежелательное запрещалось.

Источник: Huang и коллеги (2024) и доклад Anthropic/CIP (октябрь 2023 года).

Авторы сами перечисляют оговорки: небольшая выборка, включавшая только жителей США; субъективные решения при преобразовании заявлений в принципы; ограниченные и предварительные оценки; а также более сложный, чем ожидалось, процесс обучения. Процесс был консультативным и в более широком смысле: компания решила провести его, выбрала вопрос, модерировала заявления и определила, что делать с результатами.

Общие черты проведённых проектов

Ни один из этих процессов не был обязательным для законодательного органа или компании. Поэтому имеющиеся данные касаются того, улучшает ли ИИ опыт участия в обсуждении и качество результатов, а не того, меняет ли он способы осуществления власти.

Риски: управление, убеждение и унификация

Способности, благодаря которым ИИ полезен для обсуждений, одновременно делают его потенциально опасным для них.

• Скрытое убеждающее воздействие. Джейкеш и его коллеги попросили 1,506 участников написать пост о том, полезны ли социальные сети для общества; некоторым из них предоставили ИИ-помощника для письма, настроенного отстаивать одну из сторон. Использование помощника с заданной позицией изменило как мнения, выраженные в текстах, так и установки участников, выявленные в последующем опросе. Фасилитатор или составитель резюме со встроенным уклоном мог бы повлиять на группу так, что никто этого не заметил бы.
• Убеждающая сила. Костелло, Пенникук и Рэнд провели персонализированные диалоги, основанные на фактах, с помощью GPT-4 Turbo с 2,190 людьми, верившими в теории заговора; вера в них снизилась примерно на 20%, и эффект сохранялся как минимум два месяца. Салви и его коллеги обнаружили, что дебатёры, использовавшие GPT-4 и располагавшие базовой социодемографической информацией о своём оппоненте, были убедительнее дебатёров-людей в 64.4% случаев, когда ни одна из двух сторон не была одинаково убедительной (N=900). Хакенбург и Маргеттс в предварительно зарегистрированном эксперименте с 8,587 участниками обнаружили, что сообщения GPT-4 в целом убедительно воздействовали на политические взгляды, но статистически значимого преимущества микротаргетинга не выявили. Эти результаты действуют в обе стороны: ИИ может исправлять ложные убеждения, но может и менять истинные.
• Гомогенизация. Доши и Хаузер обнаружили, что авторы, получившие от большой языковой модели идеи для рассказов, создавали истории, которые оценивались как более творческие и лучше написанные, но были более похожи друг на друга, чем истории, написанные без ИИ. В ходе делиберации аналогичный риск состоит в том, что подготовленные ИИ формулировки сближаются вокруг безликого центра и вытесняют позиции меньшинства, даже если каждый участник чувствует, что его мнение представлено лучше.
• Непрозрачность и контроль. Пилотная работа Смолла и его коллег с большими языковыми моделями в Polis показала, что резюмирование и модерация могут сделать обсуждения эффективнее, но ограниченный объём текста, который могла обработать модель, «значительно» влиял на глубину и качество результатов; авторы также выявили риски, требующие разработки принципов их описания и снижения. Тот, кто выбирает модель, её инструкции и обучающие данные, формирует результат.

Чего не показывают имеющиеся данные

• Влияние на решения. Ни одно из рассмотренных здесь исследований не оценивает, приводила ли делиберация с помощью ИИ к более эффективной политике или меняла ли действия правительства либо компании по сравнению с процессом без ИИ.
• Легитимность для тех, кто не участвовал. «Машина Хабермаса» и Collective Constitutional AI измеряли предпочтения участников. Не проверялось, приняла бы широкая общественность какое-либо заявление потому, что в его подготовке помог ИИ; опросы общественного мнения свидетельствуют о скептицизме в отношении ИИ как субъекта принятия решений в правительстве.
• Автоматическая и человеческая модерация. Единственное опубликованное сравнение автоматического модератора Стэнфордского университета с модерацией людьми, проведённое его разработчиками, сопоставляет один онлайн-опрос с обсуждением (Deliberative Poll) с более ранним очным мероприятием; рандомизированные сравнения не публиковались.
• Устойчивость эффекта. Изменения установок измерялись в течение нескольких часов или, в лучшем случае, недель; неизвестно, сохраняется ли сближение позиций.
• Обобщение на другие культуры. Большинство экспериментов проводилось в США и Великобритании, на английском языке и с участниками, набранными онлайн.

Выводы для проектирования институтов

1. Оставлять ИИ роль фасилитатора, а не лица, принимающего решения. Сбор мнений, модерация и подготовка текстов — вспомогательные задачи; одобрение должно оставаться за участниками, а принятие решений — за подотчётными органами.
2. Разделять владельца инструмента и заинтересованные стороны по рассматриваемому вопросу. Компания, проводящая обсуждение собственного продукта, или правительство, обсуждающее собственную политику, не должны также контролировать модель, которая формулирует консенсус.
3. Публиковать настройки. Инструкции, версию модели, правила модерации и преобразование исходных высказываний в итоговые материалы следует сделать открытыми и поддающимися аудиту, как это отчасти реализовано в открытом исходном коде Polis и документации CIP.
4. Защищать формулировки меньшинства. Требовать, чтобы итоговые материалы показывали несогласные позиции и численность групп, которые их придерживаются, а не только одно заявление о «точках соприкосновения».
5. Проверять наличие направляющего воздействия. Сравнивать процессы с участием ИИ с рандомизированными контрольными группами (фасилитация людьми, отсутствие резюмирования) и измерять изменение установок, а не только удовлетворённость.
6. Сочетать с жеребьёвкой. ИИ снижает затраты на одного участника; случайный отбор обеспечивает репрезентативность. Форум Meta 2023 года и делиберативный опрос на Тайване 2024 года показывают, что эти подходы можно сочетать.

Открытые вопросы

• Использовало бы обладающее обязательными полномочиями собрание граждан инструмент ИИ для подготовки текстов и как его участники проверяли бы работу этого инструмента?
• Можно ли манипулировать алгоритмами «сближения позиций», поощряющими межгрупповое согласие, координированными группами, как это происходило с другими системами ранжирования?
• Следует ли сопровождать результаты делиберации с помощью ИИ указанием на это и меняет ли такое указание восприятие результатов?
• Кто должен удостоверять нейтральность модели для делиберации и по каким критериям?
• Если ИИ способен снижать распространённость ложных убеждений посредством диалога, следует ли государственным учреждениям применять его и какие меры защиты нужны от использования ИИ в целях агитации?

Источники

1. Small, C., Bjorkegren, M., Erkkilä, T., Shaw, L. and Megill, C. (2021). Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces. Recerca. Revista de Pensament i Anàlisi 26(2).
2. Hsiao, Y. T., Lin, S.-Y., Tang, A., Narayanan, D. and Sarahe, C. (2018). vTaiwan: An Empirical Study of Open Consultation Process in Taiwan. SocArXiv.
3. Small, C. T., Vendrov, I., Durmus, E., Homaei, H., Barry, E., Cornebise, J., Suzman, T., Ganguli, D. and Megill, C. (2023). Opportunities and Risks of LLMs for Scalable Deliberation with Polis. arXiv:2306.11932.
4. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R. и коллеги (2024). AI can help humans find common ground in democratic deliberation. Science 386(6719), eadq2852.
5. Huang, S., Siddarth, D., Lovitt, L., Liao, T. I., Durmus, E., Tamkin, A. and Ganguli, D. (2024). Collective Constitutional AI: Aligning a Language Model with Public Input. В Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency, с. 1395-1417.
6. Anthropic and Collective Intelligence Project (2023). Collective Constitutional AI: Aligning a Language Model with Public Input, 17 октября 2023.
7. Collective Intelligence Project. Alignment Assemblies.
8. Stanford Deliberative Democracy Lab. Online Deliberation Platform.
9. Stanford HAI (2020). A Moderator ChatBot for Civic Discourse, 6 февраля 2020.
10. Stanford Deliberative Democracy Lab. Meta Community Forum on Generative AI: results (форум октября 2023 года).
11. Stanford Deliberative Democracy Lab. Taiwan Deliberative Poll on Utilizing AI to Enhance Information Integrity (23 марта 2024).
12. Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., Sorensen, T. and Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. PNAS 120(41), e2311627120.
13. Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. and Naaman, M. (2023). Co-Writing with Opinionated Language Models Affects Users' Views. В Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems.
14. Costello, T. H., Pennycook, G. and Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814.
15. Hackenburg, K. and Margetts, H. (2024). Evaluating the persuasive influence of political microtargeting with large language models. PNAS 121(24), e2403116121.
16. Salvi, F., Horta Ribeiro, M., Gallotti, R. and West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9(8), 1645-1653.
17. Doshi, A. R. and Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances 10(28), eadn5290.
18. Gelauff, L., Nikolenko, L., Sakshuwong, S., Fishkin, J., Goel, A., Munagala, K. and Siu, A. (2023). Achieving parity with human moderators: A self-moderating platform for online deliberation. В The Routledge Handbook of Collective Intelligence for Democracy and Governance. Routledge.