IA como apoio à deliberação: evidências da Polis à Habermas Machine

A democracia deliberativa sempre enfrentou um problema de escala: a discussão ponderada funciona em salas com algumas dezenas de pessoas, enquanto as comunidades políticas contam milhões. O software e, desde 2022, os grandes modelos de linguagem (LLMs) prometem aliviar essa limitação, agrupando opiniões, moderando discussões, resumindo argumentos e redigindo declarações que muitas pessoas podem aceitar. Este estudo analisa as principais aplicações no mundo real e as experiências controladas: a plataforma Polis e o processo vTaiwan; as Assembleias de Alinhamento organizadas pelo Collective Intelligence Project, incluindo a IA Constitucional Coletiva desenvolvida com a Anthropic; a Plataforma de Deliberação Online de Stanford e o seu moderador automatizado; e a «Habermas Machine» da Google DeepMind, apresentada na Science em 2024. Em seguida, compara-as com evidências experimentais sobre os riscos: a IA influencia as opiniões, persuade com mais eficácia do que as pessoas e restringe o leque de ideias. No geral, estas ferramentas ajudam de forma mensurável as pessoas a encontrar e expressar pontos em comum, e até agora têm sido utilizadas sobretudo em contextos consultivos, havendo fortes evidências de que essas mesmas capacidades podem ser usadas tanto para orientar como para apoiar. A questão de conceção, portanto, não é se a IA pode apoiar a deliberação, mas quem controla a ferramenta, o que lhe é permitido fazer e como a sua influência é auditada.

Principais conclusões

• A IA pode redigir declarações que os grupos preferem. Em experimentos com 5,734 participantes, as declarações produzidas por um mediador de IA foram preferidas às redigidas por mediadores humanos e avaliadas como mais informativas, claras e imparciais; os participantes frequentemente atualizaram suas opiniões em direção a uma posição compartilhada, e o resultado foi replicado em uma assembleia cidadã virtual composta por uma amostra do Reino Unido representativa em termos demográficos (Tessler e colegas, 2024).
• Ferramentas de mapeamento de opiniões influenciaram políticas concretas, sobretudo como instrumentos de consulta. O Polis, usado no processo vTaiwan de Taiwan desde 2014, agrupa participantes de acordo com a forma como votam em declarações curtas e destaca aquelas que obtêm apoio em diferentes grupos. A ferramenta contribuiu para legislação e regulamentação, notadamente no caso UberX, mas seus resultados continuam tendo caráter consultivo.
• A contribuição pública pode mudar o comportamento de modelos sem prejudicar sua capacidade. Cerca de 1,000 norte-americanos contribuíram com 1,127 declarações e 38,252 votos para uma "constituição pública" de um modelo da Anthropic; o modelo resultante apresentou menor viés em nove dimensões sociais do que um modelo treinado com a própria constituição da Anthropic, com desempenho equivalente em benchmarks de capacidade (Huang e colegas, 2024).
• A moderação automatizada já é usada em larga escala. A Online Deliberation Platform de Stanford organiza filas de fala, pautas com tempo definido e questões de civilidade, e informa ter mais de 50,000 usuários únicos em mais de 40 países; entre outros eventos, sediou o Fórum Comunitário de 2023 da Meta (1,545 participantes em quatro países) e uma deliberação de Taiwan em 2024 sobre IA e integridade da informação (447 participantes).
• As mesmas ferramentas podem direcionar opiniões. Escrever com um modelo de linguagem que expressava opiniões alterou as opiniões dos próprios participantes (N=1,506); debatedores personalizados baseados em GPT-4 foram mais persuasivos do que debatedores humanos em 64.4% dos casos sem empate (N=900); e o acesso a ideias geradas por IA tornou o trabalho criativo individualmente melhor, mas coletivamente mais semelhante.
• As evidências sobre legitimidade são escassas. Quase todos os estudos medem as avaliações dos participantes e a mudança de atitudes em experimentos ou consultas pontuais. Há poucas evidências sobre se processos apoiados por IA são considerados legítimos por não participantes ou sobre seus efeitos em decisões concretas.

Questão de pesquisa e escopo

O estudo pergunta: o que as evidências mostram sobre as ferramentas de IA como apoio à deliberação democrática, e que riscos identificam? "Apoio à deliberação" abrange quatro funções: (1) mapear opiniões em uma população numerosa (Polis); (2) facilitar discussões (moderação automatizada); (3) sintetizar opiniões em resumos ou declarações de grupo (síntese por LLM, Habermas Machine); e (4) agregar contribuições públicas em regras para os próprios sistemas de IA (Collective Constitutional AI, Alignment Assemblies). O uso de IA para tomar decisões em nome dos cidadãos, candidaturas de IA e IA na administração eleitoral estão fora do escopo.

Contexto

A teoria deliberativa, desde a concepção da ação comunicativa de Jürgen Habermas até a sondagem deliberativa de James Fishkin, sustenta que a legitimidade das decisões coletivas depende da qualidade do raciocínio que as precede: inclusão, igualdade de voz, razões em vez de poder e abertura à revisão. Suas formas institucionais (assembleias cidadãs, júris e sondagens deliberativas) dependem de seleção aleatória e de facilitadores humanos treinados, e têm um custo elevado por participante. Em contraste, a consulta on-line é barata, mas tende a favorecer as vozes mais estridentes e a atrair provocações.

As ferramentas computacionais preencheram essa lacuna em etapas. Polis, uma “pesquisa wiki” de código aberto desenvolvida no início da década de 2010, evitava completamente as respostas em cadeia: os participantes enviam declarações curtas e votam se concordam, discordam ou preferem não responder às declarações de outras pessoas, e o software usa redução de dimensionalidade e agrupamento para mostrar a estrutura das opiniões. A comunidade de tecnologia cívica de Taiwan adotou a ferramenta para o vTaiwan, um processo de consulta vinculado ao governo. Desde 2022, os LLMs acrescentaram a capacidade de ler e escrever linguagem natural em grande escala, o que permite resumir, moderar por texto e redigir declarações de consenso candidatas.

Método e fontes

Esta é uma revisão estruturada de experimentos revisados por pares, pré-publicações e documentação primária das organizações que conduzem os processos. As principais fontes são: Small e colegas sobre o Polis (2021) e sobre LLMs no Polis (2023); Hsiao e colegas sobre o vTaiwan (2018); a descrição dos Alignment Assemblies de 2023 pelo Collective Intelligence Project; Huang e colegas sobre Collective Constitutional AI (FAccT 2024) e o relatório complementar da Anthropic; o Deliberative Democracy Lab e o Human-Centered AI Institute de Stanford sobre a Online Deliberation Platform; Tessler e colegas em Science (2024); Argyle e colegas em PNAS (2023); e, sobre riscos, Jakesch e colegas (CHI 2023), Costello, Pennycook e Rand (Science 2024), Hackenburg e Margetts (PNAS 2024), Salvi e colegas (Nature Human Behaviour 2025) e Doshi e Hauser (Science Advances 2024). Quando as organizações que conduzem um processo também são suas avaliadoras, o texto o assinala.

Resultados

Mapeamento de opiniões: Polis e vTaiwan

Small e colegas descrevem o Polis como uma aplicação web de código aberto “capaz de coletar e sintetizar feedback de pessoas de maneira escalável e distribuída” e relatam que a ferramenta promoveu a compreensão compartilhada, desestimulou a provocação deliberada e revelou pontos de consenso no jornalismo, na pesquisa acadêmica e em órgãos decisórios locais e nacionais. A escolha de projeto mais importante é a ausência de respostas: os participantes não podem atacar uns aos outros diretamente, e o software favorece declarações que obtêm concordância entre grupos de opinião, em vez de apenas dentro de um grupo.

Lançado em 2014, o vTaiwan combinou o Polis com reuniões abertas, consultas transmitidas ao vivo e participação de autoridades. Hsiao, Lin, Tang, Narayanan e Sarahe documentaram seu processo, desde a proposta e a coleta de opiniões, passando pela reflexão, até a legislação, e usaram a consulta sobre o UberX em 2015 como estudo de caso, no qual um “consenso aproximado” entre motoristas, operadores de táxi, passageiros e autoridades contribuiu para a regulamentação. Audrey Tang, participante do vTaiwan e posteriormente ministra digital de Taiwan, tornou-se a defensora mais conhecida dessa abordagem.

Dois limites estão bem documentados na literatura sobre o vTaiwan. Seus resultados dependiam de os ministérios optarem por participar e agir; o processo não tinha força vinculante. E a participação era autoselecionada: estava aberta a qualquer pessoa, o que é diferente de ser representativa de todos.

Facilitação da discussão: moderação automatizada

O Deliberative Democracy Lab e a Crowdsourced Democracy Team de Stanford desenvolveram a Online Deliberation Platform para discussões por vídeo em pequenos grupos. Conforme descrito pelo Stanford HAI em 2020, seu moderador automatizado gerencia uma fila de participantes que querem falar, limita cada turno a 45 segundos, conduz uma pauta cronometrada e pergunta ao grupo se deve continuar ou passar ao próximo tópico, incentiva participantes mais quietos e transcreve as falas, atribuindo-lhes uma pontuação de toxicidade com a Perspective API do Google; se um orador ultrapassa um limite, os outros participantes são consultados e, se a maioria concordar, o orador é silenciado por alguns minutos. Os desenvolvedores reconheceram que a ferramenta não consegue ler a linguagem corporal nem perceber temas sensíveis como um moderador humano pode fazer.

A página da própria plataforma informou em 2026 que ela opera em mais de 40 idiomas e foi usada em mais de 40 países, com mais de 50,000 usuários únicos e mais de 100,000 horas de deliberação. Entre os exemplos estão:

• Fórum Comunitário da Meta sobre IA generativa, 28-29 de outubro de 2023: 1,545 participantes de grupos selecionados por amostragem científica no Brasil, na Alemanha, na Espanha e nos Estados Unidos deliberaram sobre IA generativa; um fórum adicional, em outubro de 2024, abordou agentes de IA.
• Sondagem Deliberativa de Taiwan sobre o uso da IA para reforçar a integridade da informação, 23 de março de 2024: 447 cidadãos taiwaneses, com organização do Ministério de Assuntos Digitais, do Deliberative Democracy Lab de Stanford e da National Yang Ming Chiao Tung University, discutiram a autorregulação das plataformas em contraposição à supervisão governamental e como as grandes plataformas deveriam usar a IA contra informações falsas e deepfakes.

Os desenvolvedores da plataforma publicaram uma avaliação. Gelauff e colegas analisaram pesquisas e métricas de participação de uma Sondagem Deliberativa japonesa realizada na plataforma e relatam que ela teve um desempenho equivalente ao de uma deliberação presencial anterior, moderada por humanos, sobre um tema muito semelhante, com evidências preliminares de participação mais igualitária entre os gêneros e equidade semelhante entre faixas de renda e níveis de escolaridade. A comparação é entre dois eventos distintos, e não um ensaio randomizado, e foi conduzida pela equipe que desenvolveu a ferramenta.

Um experimento relacionado, realizado por Argyle e colegas, usou um LLM para sugerir, em tempo real, reformulações de mensagens em conversas online sobre um tema polarizador, com o objetivo de fazer com que a outra pessoa se sentisse compreendida. As intervenções melhoraram a qualidade percebida das conversas e a “reciprocidade democrática”, além de aprimorarem o tom, “sem alterar sistematicamente o conteúdo da conversa nem mudar as atitudes das pessoas em relação às políticas públicas”. É um auxílio mais limitado do que um moderador, mas mostra que intervenções leves de IA podem mudar a maneira como as pessoas conversam sem mudar aquilo em que acreditam.

Síntese de opiniões: a Máquina de Habermas

Tessler e colegas da Google DeepMind treinaram um sistema baseado em LLM, que chamaram de Habermas Machine, para mediar a deliberação em grupo no Reino Unido. Os participantes escreveram suas opiniões sobre uma questão social ou política; a IA redigiu uma declaração do grupo; os participantes a criticaram; a IA produziu declarações revisadas; e os participantes classificaram os resultados. Em experimentos com 5,734 participantes, as pessoas preferiram as declarações geradas por IA às redigidas por mediadores humanos, avaliando-as como mais informativas, claras e imparciais. Os participantes da discussão frequentemente atualizaram seus pontos de vista após a deliberação, convergindo para uma perspectiva compartilhada. A análise de embeddings de texto mostrou que declarações bem-sucedidas incorporavam vozes dissidentes, respeitando a posição majoritária. Os resultados foram replicados em uma assembleia virtual de cidadãos com uma amostra demograficamente representativa da população do Reino Unido.

O estudo constitui a evidência controlada mais robusta de que a IA pode desempenhar a função de «terreno comum» de um facilitador. Seus limites também são importantes. O processo é mediado por escrito, e não oralmente; os participantes não deliberaram diretamente entre si; o sistema foi otimizado para produzir declarações que os grupos endossariam, o que não é o mesmo que produzir declarações verdadeiras ou sensatas; e a convergência que ele produz poderia, em outras mãos, tornar-se uma ferramenta para fabricar consentimento.

Agregação de contribuições para a própria IA: Assembleias de Alinhamento e IA Constitucional Coletiva

O Collective Intelligence Project (CIP) realizou uma série de «Assembleias de Alinhamento» em 2023 para incorporar contribuições do público a decisões sobre IA: um projeto-piloto em torno da Cúpula para a Democracia (março de 2023); um exercício de classificação de riscos com a OpenAI (junho de 2023); um processo com o Ministério de Assuntos Digitais de Taiwan que adaptou o vTaiwan para perguntar como as políticas governamentais deveriam responder à IA generativa, em temas que incluíam direitos autorais, remuneração, viés e serviços públicos (julho de 2023); a IA Constitucional Coletiva com a Anthropic (outubro de 2023); e uma consulta para a Creative Commons sobre o uso de obras licenciadas no treinamento de IA.

A IA Constitucional Coletiva é o caso mais bem documentado. Cerca de 1,000 adultos dos EUA, recrutados para refletir a população por idade, gênero, renda e localização geográfica e avaliados quanto à familiaridade básica com IA, usaram o Polis para enviar e votar em princípios para um assistente de IA. Eles contribuíram com 1,127 declarações e 38,252 votos. As declarações que obtiveram consenso nos dois grupos de opinião identificados pelo Polis foram mantidas; o CIP removeu declarações de ódio, duplicadas ou irrelevantes, restando 275, que foram combinadas e reformuladas no formato usado no treinamento de IA Constitucional da Anthropic. A constituição pública coincidia em cerca de metade dos conceitos e valores com a da própria Anthropic, dava mais peso à objetividade e à acessibilidade e tendia a promover comportamentos desejáveis em vez de proibir comportamentos indesejáveis.

Fonte: Huang e colegas (2024) e o relatório da Anthropic/CIP (outubro de 2023).

Os próprios autores enumeram as ressalvas: uma amostra pequena, limitada aos EUA; decisões subjetivas ao converter declarações em princípios; avaliações limitadas e preliminares; e um treinamento que se mostrou mais complexo do que o esperado. O processo também foi consultivo em sentido estrito: a empresa decidiu realizá-lo, escolheu a pergunta, moderou as declarações e decidiu o que fazer com o resultado.

O que as implementações têm em comum

Nenhum desses processos foi vinculante para um órgão legislativo ou uma empresa. Portanto, as evidências dizem respeito a se a IA melhora a experiência deliberativa e a qualidade dos resultados, e não a se ela altera a forma como o poder é exercido.

Os riscos: direcionamento, persuasão e homogeneização

As capacidades que tornam a IA útil na deliberação também podem torná-la potencialmente perigosa para ela.

• Persuasão latente. Jakesch e colegas pediram a 1,506 participantes que escrevessem uma publicação sobre se as redes sociais são benéficas para a sociedade; para alguns, foi disponibilizado um assistente de escrita com IA configurado para defender um dos lados. A utilização do assistente opinativo alterou tanto as opiniões expressas nos textos como as atitudes dos participantes numa sondagem posterior. Um facilitador ou sintetizador com um viés incorporado poderia influenciar um grupo sem que ninguém se apercebesse.
• Poder de persuasão. Costello, Pennycook e Rand envolveram 2,190 pessoas que acreditavam em teorias da conspiração em diálogos personalizados e baseados em evidências com o GPT-4 Turbo; a crença diminuiu cerca de 20% e o efeito durou pelo menos dois meses. Salvi e colegas constataram que debatedores GPT-4 com informações sociodemográficas básicas sobre os seus oponentes foram mais persuasivos do que debatedores humanos em 64.4% dos casos em que os dois não foram igualmente persuasivos (N=900). Hackenburg e Margetts, num experimento pré-registado com 8,587 participantes, concluíram que as mensagens do GPT-4 eram, em geral, persuasivas em questões políticas, mas não encontraram uma vantagem estatisticamente significativa da microsegmentação. Estes resultados apontam em ambas as direções: a IA pode corrigir crenças falsas e também alterar crenças verdadeiras.
• Homogeneização. Doshi e Hauser constataram que os autores a quem um LLM forneceu ideias para histórias produziram histórias avaliadas como mais criativas e mais bem escritas, mas mais semelhantes entre si do que as histórias escritas sem IA. Na deliberação, o risco análogo é que declarações redigidas por IA convirjam para um centro insípido e afastem enquadramentos minoritários, mesmo que cada participante sinta que está a ser melhor representado.
• Opacidade e controlo. O trabalho-piloto de Small e colegas com LLMs no Polis concluiu que a síntese e a moderação podiam tornar as conversas mais eficientes, mas que a quantidade limitada de texto que um modelo conseguia processar afetava «significativamente» a profundidade e a qualidade dos resultados, e identificou riscos que exigiam princípios para os caracterizar e mitigar. Quem escolhe o modelo, as suas instruções e os seus dados de treino molda os resultados.

O que as evidências não demonstram

• Efeitos nas decisões. Nenhum dos estudos aqui analisados mede se a deliberação assistida por IA produziu políticas melhores ou alterou o que um governo ou uma empresa fez, em comparação com um processo sem IA.
• Legitimidade para quem não participou. A Habermas Machine e a Collective Constitutional AI mediram as preferências dos participantes. Não foi testado se o público em geral aceitaria uma declaração por a IA ter ajudado a redigi-la; sondagens sobre atitudes do público sugerem ceticismo quanto à IA como decisora no governo.
• Moderação automatizada versus humana. A única comparação publicada entre o moderador automatizado de Stanford e a moderação humana, feita pelos seus criadores, contrapõe uma sondagem deliberativa online a um evento presencial anterior; não foram publicadas comparações aleatorizadas.
• Durabilidade. As alterações de atitude foram medidas ao longo de horas ou, no máximo, semanas; não se sabe se a convergência persiste.
• Generalização entre culturas. A maioria dos experimentos foi realizada nos Estados Unidos e no Reino Unido, em inglês, com amostras online.

Implicações para a conceção institucional

1. Mantenha a IA no papel de facilitadora, não de decisora. O mapeamento, a moderação e a redação são auxiliares; o endosso deve continuar a caber aos participantes, e as decisões, a órgãos responsáveis.
2. Separe o proprietário da ferramenta das partes interessadas na questão. Uma empresa que conduza uma deliberação sobre o seu próprio produto, ou um governo sobre a sua própria política, não deve também controlar o modelo que redige o consenso.
3. Publique a configuração. As instruções, a versão do modelo, as regras de moderação e a transformação das declarações originais em resultados devem ser abertas e auditáveis, como o são, em parte, o código-fonte aberto do Polis e a documentação do CIP.
4. Proteja os enquadramentos minoritários. Exija que as sínteses apresentem as posições divergentes e a dimensão dos grupos que as defendem, em vez de uma única declaração de «terreno comum».
5. Teste se há direcionamento. Compare processos assistidos por IA com grupos de controlo aleatorizados (facilitação humana, sem síntese) e meça a mudança de atitudes, não apenas a satisfação.
6. Combine com a seleção por sorteio. A IA reduz o custo por participante; a seleção aleatória garante a representatividade. O fórum da Meta de 2023 e a sondagem deliberativa de Taiwan de 2024 mostram que as duas abordagens podem ser combinadas.

Questões em aberto

• Uma assembleia de cidadãos com poder vinculativo usaria uma ferramenta de redação por IA, e como verificariam os seus membros o que a ferramenta fez?
• Algoritmos de «promoção do diálogo» que recompensam o consenso entre grupos podem ser manipulados por grupos coordenados, como já aconteceu com outros sistemas de classificação?
• Os resultados de deliberações assistidas por IA deveriam incluir uma declaração de divulgação, e essa divulgação altera a forma como são recebidos?
• Quem deveria certificar que um modelo de deliberação é neutro, e segundo que norma?
• Se a IA pode reduzir crenças falsas através do diálogo, as instituições públicas deveriam implementá-la e com que salvaguardas contra a sua utilização para fins de promoção de causas?

Fontes

1. Small, C., Bjorkegren, M., Erkkilä, T., Shaw, L. and Megill, C. (2021). Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces. Recerca. Revista de Pensament i Anàlisi 26(2).
2. Hsiao, Y. T., Lin, S.-Y., Tang, A., Narayanan, D. and Sarahe, C. (2018). vTaiwan: An Empirical Study of Open Consultation Process in Taiwan. SocArXiv.
3. Small, C. T., Vendrov, I., Durmus, E., Homaei, H., Barry, E., Cornebise, J., Suzman, T., Ganguli, D. and Megill, C. (2023). Opportunities and Risks of LLMs for Scalable Deliberation with Polis. arXiv:2306.11932.
4. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R. e colaboradores (2024). AI can help humans find common ground in democratic deliberation. Science 386(6719), eadq2852.
5. Huang, S., Siddarth, D., Lovitt, L., Liao, T. I., Durmus, E., Tamkin, A. and Ganguli, D. (2024). Collective Constitutional AI: Aligning a Language Model with Public Input. Em Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency, pp. 1395-1417.
6. Anthropic and Collective Intelligence Project (2023). Collective Constitutional AI: Aligning a Language Model with Public Input, 17 de outubro de 2023.
7. Collective Intelligence Project. Alignment Assemblies.
8. Stanford Deliberative Democracy Lab. Online Deliberation Platform.
9. Stanford HAI (2020). A Moderator ChatBot for Civic Discourse, 6 de fevereiro de 2020.
10. Stanford Deliberative Democracy Lab. Meta Community Forum on Generative AI: results (fórum de outubro de 2023).
11. Stanford Deliberative Democracy Lab. Taiwan Deliberative Poll on Utilizing AI to Enhance Information Integrity (23 de março de 2024).
12. Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., Sorensen, T. and Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. PNAS 120(41), e2311627120.
13. Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. and Naaman, M. (2023). Co-Writing with Opinionated Language Models Affects Users' Views. Em Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems.
14. Costello, T. H., Pennycook, G. and Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814.
15. Hackenburg, K. and Margetts, H. (2024). Evaluating the persuasive influence of political microtargeting with large language models. PNAS 121(24), e2403116121.
16. Salvi, F., Horta Ribeiro, M., Gallotti, R. and West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9(8), 1645-1653.
17. Doshi, A. R. and Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances 10(28), eadn5290.
18. Gelauff, L., Nikolenko, L., Sakshuwong, S., Fishkin, J., Goel, A., Munagala, K. and Siu, A. (2023). Achieving parity with human moderators: A self-moderating platform for online deliberation. Em The Routledge Handbook of Collective Intelligence for Democracy and Governance. Routledge.