As pessoas aceitam decisões algorítmicas no governo? O que mostram pesquisas de opinião e experimentos

Os governos recorrem cada vez mais a algoritmos para avaliar riscos, fazer triagem de pedidos e decidir direitos, mas a legitimidade dessas decisões depende de as pessoas afetadas as aceitarem. Este estudo analisa dois conjuntos de evidências sobre essa questão: experimentos comportamentais sobre «aversão a algoritmos» e «apreciação de algoritmos», e experimentos de pesquisa e de escolha conjunta sobre a tomada de decisões algorítmica no setor público, juntamente com grandes pesquisas de opinião pública nos Estados Unidos e no Reino Unido. As evidências não sustentam a afirmação simplista de que as pessoas rejeitam os algoritmos. Muitas vezes, as pessoas confiam em recomendações algorítmicas, por vezes mais do que em recomendações humanas, sobretudo em tarefas consideradas mecânicas e quando elas próprias não são especialistas. Mas o apoio cai acentuadamente quando o algoritmo decide, em vez de apenas recomendar, quando a decisão diz respeito a circunstâncias pessoais, como assistência social ou justiça, e quando não há possibilidade de recorrer a uma pessoa. Em diferentes estudos, os fatores que aumentam a aceitação de forma mais consistente são a possibilidade de recorrer, uma participação humana significativa, explicações sobre decisões individuais, precisão demonstrada e confiança na organização que implementa o sistema. No Reino Unido, a preocupação com a possibilidade de a IA decidir a elegibilidade para assistência social aumentou de 44% para 59% entre 2022 e 2024, e a proporção dos que afirmaram que procedimentos de recurso os deixariam mais confortáveis aumentou de 59% para 65%.

Principais conclusões

• A aversão e a apreciação são reais; o contexto é determinante. As pessoas abandonam os algoritmos mais rapidamente do que os seres humanos depois de os verem cometer erros (Dietvorst, Simmons and Massey), mas as pessoas sem conhecimentos especializados costumam seguir mais as recomendações algorítmicas do que as humanas (Logg, Minson and Moore). Especialistas e pessoas que avaliam as próprias estimativas demonstram menos apreciação.
• Aceita-se mais que o algoritmo recomende do que decida. Num experimento pré-registado sobre a elaboração de políticas da UE (n=572), considerou-se ilegítima a IA como única responsável pela decisão, enquanto a tomada de decisões híbrida, por humanos e IA, foi avaliada de forma não diferente do status quo quanto à legitimidade do processo e do resultado (Starke and Lünich).
• As decisões pessoais e morais suscitam maior resistência. Em tarefas que exigem «competências humanas», as decisões algorítmicas foram consideradas menos justas e confiáveis (Lee). Nos EUA, 56% consideraram inaceitáveis as pontuações algorítmicas de risco criminal para liberdade condicional, e 67-68% rejeitaram a análise automatizada de entrevistas em vídeo e a avaliação da situação financeira pessoal (Pew, 2018).
• Os recursos e a participação humana são os fatores mais importantes. Em experimentos de escolha conjunta no Reino Unido sobre vistos e licenças de estacionamento, a precisão, um sistema de recursos, a transparência, o menor custo, a ausência de compartilhamento de dados e a ausência de participação de empresas privadas aumentaram tanto a aceitação quanto a percepção de justiça (Horváth and colleagues). Na classificação feita pelo próprio público britânico, leis e regulamentação (72%) e procedimentos de recurso (65%) encabeçam a lista de fatores que aumentariam a confiança na IA (Ada Lovelace Institute and Alan Turing Institute, 2024/25).
• As explicações ajudam, mas o acesso ao código, não. Explicar por que uma decisão foi tomada aumenta a confiança mais do que tornar o algoritmo acessível, e o efeito varia conforme o contexto (Grimmelikhuijsen).
• Quem implementa importa tanto quanto o que é implementado. Na Alemanha, a aceitação de algoritmos de policiamento preditivo e de previsão de câncer dependia mais da confiança na organização responsável por implementá-los e da importância do problema do que do desempenho medido do algoritmo (Wenzelburger and colleagues).
• A preocupação está aumentando. Nos EUA, a proporção dos que se diziam mais preocupados do que entusiasmados com a IA aumentou de 38% em dezembro de 2022 para 52% em agosto de 2023; em 2024, 62% dos adultos nos EUA tinham pouca ou nenhuma confiança na capacidade do governo de regulamentar a IA com eficácia (Pew).

Pergunta de pesquisa e escopo

O estudo pergunta: em que condições as pessoas aceitam decisões tomadas ou apoiadas por algoritmos no governo, e o que aumenta a legitimidade dessas decisões? «Aceitação» inclui preferências entre responsáveis humanos e algorítmicos pela tomada de decisões, avaliações de justiça e confiança e legitimidade percebida. A revisão abrange experimentos comportamentais (em sua maioria, tarefas de previsão), experimentos de pesquisa e delineamentos de escolha conjunta com cenários do setor público, e grandes pesquisas representativas. O foco está nos Estados Unidos e na Europa, onde se origina quase toda a evidência; uma revisão sistemática de 2022 concluiu que as evidências sobre percepções de justiça provêm «quase exclusivamente de contextos de democracias ocidentais».

Contexto

Dois casos de fracasso enquadram o debate na Europa e na Austrália. Nos Países Baixos, um regime de pontuação de risco e deteção de fraude nos subsídios para cuidados infantis tratou erradamente milhares de famílias como fraudadoras e levou à demissão do gabinete em janeiro de 2021. Na Austrália, o sistema automatizado «Robodebt» impôs dívidas ilegais a beneficiários de prestações sociais, conforme concluiu uma Comissão Real em 2023. Ambos estão documentados noutros pontos deste atlas. No Reino Unido, o algoritmo usado em 2020 para moderar as notas de conclusão do ensino secundário durante a pandemia foi abandonado após protestos públicos. Estes casos partilham um perfil: decisões de elevado impacto sobre indivíduos, vias frágeis de contestação e sistemas cuja lógica não foi explicada às pessoas afetadas.

O debate académico tem duas raízes. Desde Paul Meehl, na década de 1950, os psicólogos demonstram que regras estatísticas simples muitas vezes fazem previsões melhores do que o juízo de especialistas, mas as pessoas resistem a usá-las, fenómeno que mais tarde recebeu o nome de «aversão a algoritmos». Os estudiosos da administração pública e da legitimidade colocam uma questão diferente: não se as pessoas usam uma previsão, mas se uma decisão tomada por um algoritmo ou com a sua ajuda é legítima. Esta segunda questão baseia-se na teoria da justiça processual, segundo a qual as pessoas aceitam resultados desfavoráveis quando consideram o processo justo, transparente e respeitoso.

Método e fontes

Esta é uma revisão narrativa das evidências disponíveis mais sólidas, selecionadas pela qualidade do desenho dos estudos e pela sua relevância para o governo. Baseia-se em duas revisões sistemáticas sobre aversão a algoritmos (Burton, Stein e Jensen: 61 artigos; Mahmud e colegas: 80 estudos) e numa sobre perceções de justiça (Starke, Baleis, Keller e Marcinkowski: 58 estudos); experiências individuais sobre cenários do setor público na Europa e nos Estados Unidos; inquéritos do Pew Research Center (2018, 2023, 2024); e as duas vagas do inquérito do Ada Lovelace Institute e do Alan Turing Institute à população britânica e do Reino Unido (trabalho de campo em novembro de 2022 e outubro-novembro de 2024). O Inquérito da OCDE sobre os fatores determinantes da confiança nas instituições públicas (quase 60 000 respostas em 30 países, no final de 2023) fornece contexto sobre a confiança no governo em geral. O texto indica as dimensões das amostras e as datas para que os leitores possam avaliar o peso das evidências.

Resultados

Aversão e apreço

Dietvorst, Simmons e Massey cunharam a expressão «aversão a algoritmos» em cinco estudos nos quais os participantes escolhiam se queriam vincular o seu pagamento às previsões de uma pessoa ou de um modelo estatístico. Os participantes que tinham visto o algoritmo em ação confiavam menos nele e tinham menor probabilidade de o escolher em vez de um previsor humano inferior, «mesmo entre aqueles que viram o algoritmo ter um desempenho superior ao do humano». O mecanismo é o perdão assimétrico: as pessoas perdem a confiança nos algoritmos mais rapidamente do que nos humanos depois de observarem o mesmo erro.

Logg, Minson e Moore encontraram o oposto em seis experiências: os leigos seguiam mais os conselhos quando pensavam que provinham de um algoritmo, e não de uma pessoa, em tarefas que iam da estimativa de pesos à previsão da popularidade de canções. O apreço diminuía quando as pessoas escolhiam entre a estimativa de um algoritmo e a sua própria, e entre profissionais experientes, que recorriam menos aos conselhos algorítmicos do que os leigos, em detrimento da sua precisão.

Duas revisões sistemáticas conciliam estes resultados. Burton, Stein e Jensen, ao analisarem 61 artigos com revisão por pares publicados entre 1950 e 2018, agruparam as causas da aversão em expectativas e especialização, autonomia decisória, incentivos, compatibilidade cognitiva e racionalidades divergentes. Mahmud, Islam, Ahmed e Smolander, ao analisarem 80 estudos empíricos, agruparam os fatores de influência em fatores algorítmicos, individuais, relativos à tarefa e de alto nível, e observaram que os fatores relativos à tarefa e de alto nível (sociais e institucionais) são pouco estudados. A lição comum é que a aversão é condicional: depende de quem está a avaliar, de qual é a tarefa e de as pessoas manterem algum controlo.

Os dados de inquéritos apontam na mesma direção. Araujo, Helberger, Kruikemeier e de Vreese, num experimento de inquérito baseado em cenários com uma amostra nacional de 958 inquiridos, abrangendo decisões nos domínios dos meios de comunicação social, da saúde pública e da justiça, concluíram que os inquiridos estavam, em geral, preocupados com os riscos da tomada de decisão automatizada e tinham opiniões divergentes quanto à sua equidade e utilidade a nível social; contudo, em decisões específicas, muitas vezes avaliaram a IA como equivalente ou superior a especialistas humanos.

No domínio das políticas públicas, Kennedy, Waggoner e Ward realizaram experimentos sobre a previsão de acontecimentos políticos e da reincidência criminal. «Ao contrário da literatura anterior sobre aversão a algoritmos», concluíram que havia um elevado grau de confiança nos algoritmos em comparação com outras fontes de aconselhamento, mesmo com informação mínima sobre o algoritmo. Um experimento de escolha conjunta mostrou que a aversão ao risco, a dimensão dos dados de treino, a presença de um humano no processo e a reputação do criador influenciavam as preferências.

Quem decide: legitimidade das decisões híbridas e totalmente automatizadas

Starke e Lünich compararam três modalidades de elaboração de políticas da UE num experimento online pré-registado (n=572): apenas políticos, apenas IA e políticos a trabalhar com IA. A modalidade existente foi considerada a mais participativa e acessível (legitimidade de input). Quanto ao processo (legitimidade de throughput) e aos resultados (legitimidade de output), não houve diferença entre o status quo e a modalidade híbrida, mas os inquiridos consideraram ilegítima a IA como única decisora. Este resultado é importante para a conceção institucional: as pessoas distinguem claramente entre a IA como ferramenta de autoridades responsáveis perante o público e a IA como substituta dessas autoridades.

Ingrams, Kaufmann e Jacobs chegaram a um resultado relacionado num experimento de inquérito sobre auditorias fiscais: uma decisão liderada por IA foi considerada menos burocrática do que uma decisão humana, mas também menos digna de confiança. A eficiência e a confiança podem evoluir em direções opostas.

O experimento de Lee sobre decisões de gestão mostrou por que razão o tipo de tarefa é importante. Em tarefas «mecânicas», como a elaboração de horários, as decisões algorítmicas e humanas foram consideradas igualmente justas e dignas de confiança. Em tarefas que exigem «competências humanas», como a contratação e a avaliação, as decisões algorítmicas foram consideradas menos justas e dignas de confiança e suscitaram mais emoções negativas, atribuídas à perceção de que o algoritmo carece de intuição e à «experiência desumanizante de ser avaliado por máquinas». Binns e colegas concluíram que o sentido de justiça dos participantes em relação a decisões algorítmicas envolvia as mesmas dimensões que no caso das decisões humanas, com preocupações relativas à arbitrariedade, à generalização e à dignidade, sintetizadas na frase que dá título ao artigo: «É reduzir um ser humano a uma percentagem.»

Nem todos preferem um ser humano. Miller e Keiser constataram, numa experiência de inquérito nos EUA, que os respondentes negros avaliaram a tomada de decisões automatizada de forma mais favorável do que os agentes policiais em termos de equidade e preferência, quando informados de que a agência policial não tinha representação passiva; os respondentes brancos não apresentaram esse padrão. Quando os decisores humanos são objeto de desconfiança, a automatização pode parecer uma melhoria.

O que aumenta a aceitação

Horváth, James, Banducci e Beduschi realizaram no Reino Unido uma experiência conjoint pré-registada sobre o processamento por IA de pedidos de visto de imigração e de licenças de estacionamento. Um maior envolvimento humano tendia a aumentar a aceitação, embora afetasse menos a equidade percebida; e, quando se introduzia uma discricionariedade humana substancial em casos de estacionamento, os respondentes preferiam uma intervenção humana mais limitada. O envolvimento humano pouco contribuiu para compensar os atributos desfavoráveis da IA. Em contrapartida, «a elevada exatidão, a existência de um sistema de recurso, o aumento da transparência, a redução dos custos, a não partilha de dados e a ausência de envolvimento de empresas privadas» aumentaram tanto a aceitação como a equidade processual percebida.

Grimmelikhuijsen testou dois elementos da transparência — acessibilidade (poder ver o algoritmo) e explicabilidade (ser informado do motivo pelo qual uma decisão foi tomada) — num pedido de visto recusado e num caso de suspeita de fraude na obtenção de prestações sociais. A explicabilidade teve um efeito mais pronunciado na confiança do que a acessibilidade; a transparência afetou a confiança tanto no decisor humano como no algoritmo; e os efeitos não foram robustos nos dois contextos. A transparência «como acessibilidade» foi insuficiente.

Wenzelburger, König, Felfeli e Achtziger inquiriram 2,661 respondentes de um painel online alemão representativo sobre policiamento preditivo e previsão de cancro da pele. A aceitação foi «fortemente moldada» pela importância pessoal do problema e pela confiança nas organizações que implementam o algoritmo; o desempenho objetivo do algoritmo teve muito menos importância.

O que diz o público: grandes inquéritos

Estados Unidos. O inquérito de 2018 do Pew, com 4.594 adultos, concluiu que 58% pensavam que os programas de computador refletiriam sempre algum viés humano. A maioria considerou inaceitáveis três de quatro cenários: uma pontuação automatizada de finanças pessoais (68% inaceitável), a análise automatizada de entrevistas de emprego em vídeo (67%) e a avaliação automatizada de risco criminal para decisões de liberdade condicional (56% inaceitável, 42% aceitável); 41% consideraram aceitável a triagem automatizada de currículos. O inquérito de agosto de 2023 do Pew, com 11.201 adultos, concluiu que 52% estavam mais preocupados do que entusiasmados com a IA no cotidiano, ante 38% em dezembro de 2022. Em agosto de 2024, 51% de 5.410 adultos estavam mais preocupados do que entusiasmados, 62% tinham pouca ou nenhuma confiança na capacidade do governo de regulamentar a IA de forma eficaz e 55% queriam mais controle sobre como a IA é usada em suas vidas.

Reino Unido. O inquérito do Ada Lovelace Institute e do Alan Turing Institute é a fonte mais detalhada sobre usos no setor público.

Em 2024/25, 63% disseram não se sentir confortáveis com a IA tomando decisões que afetam suas vidas; 62% disseram que uma explicação deveria sempre acompanhar uma decisão da IA (incluindo 37% que querem que as pessoas tomem e expliquem as decisões); 71% dos respondentes negros e britânicos negros estavam preocupados com a IA usada para avaliar a elegibilidade para benefícios sociais, em comparação com 59% no conjunto nacional; e 50% sentiam que suas opiniões não eram representadas nas decisões sobre IA que afetam suas vidas. Em 2022/23, um órgão regulador independente foi a opção mais popular (41%) para garantir o uso seguro da IA; em 2024/25, quando os respondentes podiam escolher até três opções, essa opção foi escolhida por 58%.

O contraste entre o reconhecimento facial na atividade policial (considerado benéfico por 91%) e a elegibilidade para benefícios sociais (47%) é elucidativo. Os respondentes parecem aceitar a IA quando ela é vista como algo dirigido a outras pessoas ou como uma ferramenta para funcionários públicos, e resistir a ela quando decide sobre seus próprios direitos a benefícios.

O que as evidências não mostram

• Comportamento após decisões reais. A maioria dos estudos utiliza cenários hipotéticos. Há poucas evidências sobre como as pessoas que de fato receberam uma decisão automatizada, como a recusa de um benefício, avaliam sua legitimidade, cumprem-na ou recorrem.
• Efeitos de longo prazo. Os inquéritos mostram uma preocupação crescente desde 2022, mas não conseguem separar as reações à IA no governo das reações à IA generativa em geral ou a acontecimentos noticiados.
• Efeitos causais das salvaguardas na prática. Experimentos conjoint mostram que a possibilidade de recorrer e as explicações aumentam a aceitação declarada; não se testou com experimentos de campo se introduzi-las em um serviço real aumenta a confiança.
• Generalização global. A base de evidências provém, em sua esmagadora maioria, dos Estados Unidos e da Europa Ocidental.
• A qualidade da aceitação. As pessoas podem aceitar sistemas que não deveriam, como sugerem a literatura sobre apreciação e os dados sobre reconhecimento facial. Uma aceitação elevada não é evidência de que um sistema seja justo.

Implicações para o desenho institucional

1. Mantenha uma pessoa responsável pela decisão em decisões individuais de grande impacto e apresente o algoritmo como aconselhamento. As evidências sobre legitimidade híbrida e tarefas que exigem "habilidades humanas" sustentam essa opção de desenho mais do que qualquer outra.
2. Faça do recurso a uma pessoa um direito, não uma cortesia. É o aspecto mais consistentemente associado à aceitação e também a principal salvaguarda contra erros.
3. Explique as decisões, não apenas os sistemas. Registros de algoritmos, como os registros de transparência do Reino Unido, ajudam na supervisão, mas as explicações individuais são mais importantes para a confiança.
4. Evite o compartilhamento de dados com o setor privado e as funções opacas dos fornecedores em usos públicos de alto risco, ou justifique-os abertamente.
5. Invista na confiabilidade institucional. A aceitação depende da confiança na agência responsável pela implementação; uma agência em que não se confia não será resgatada por um modelo melhor.
6. Não confunda aceitação com legitimidade. Os sistemas devem ser avaliados quanto à precisão e à justiça independentemente de sua popularidade.

Questões em aberto

• Os direitos de recurso aumentam a confiança quando as pessoas sabem que poucos recursos são bem-sucedidos?
• Como as pessoas avaliam decisões em que a IA e um funcionário público discordam, e quem deve prevalecer?
• O aumento da preocupação desde 2022 reflete a experiência com IA nos serviços públicos ou uma ansiedade mais ampla em relação à IA generativa?
• Como as atitudes diferem fora das democracias ocidentais, onde a confiança em funcionários públicos pode ser menor?
• Processos participativos, como assembleias de cidadãos sobre sistemas algorítmicos, podem aumentar a legitimidade para quem não participa?

Fontes

1. Dietvorst, B. J., Simmons, J. P. e Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General 144(1), 114-126.
2. Logg, J. M., Minson, J. A. e Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes 151, 90-103.
3. Burton, J. W., Stein, M.-K. e Jensen, T. B. (2020). A systematic review of algorithm aversion in augmented decision making. Journal of Behavioral Decision Making 33(2), 220-239.
4. Mahmud, H., Islam, A. K. M. N., Ahmed, S. I. e Smolander, K. (2022). What influences algorithmic decision-making? A systematic literature review on algorithm aversion. Technological Forecasting and Social Change 175, 121390.
5. Starke, C., Baleis, J., Keller, B. e Marcinkowski, F. (2022). Fairness perceptions of algorithmic decision-making: A systematic review of the empirical literature. Big Data & Society 9(2).
6. Starke, C. e Lünich, M. (2020). Artificial intelligence for political decision-making in the European Union: Effects on citizens' perceptions of input, throughput, and output legitimacy. Data & Policy 2, e16.
7. Kennedy, R. P., Waggoner, P. D. e Ward, M. M. (2022). Trust in Public Policy Algorithms. The Journal of Politics 84(2), 1132-1148.
8. Lee, M. K. (2018). Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management. Big Data & Society 5(1).
9. Binns, R., Van Kleek, M., Veale, M., Lyngs, U., Zhao, J. e Shadbolt, N. (2018). 'It's Reducing a Human Being to a Percentage': Perceptions of Justice in Algorithmic Decisions. In Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems.
10. Miller, S. M. e Keiser, L. R. (2021). Representative Bureaucracy and Attitudes Toward Automated Decision Making. Journal of Public Administration Research and Theory 31(1), 150-165.
11. Ingrams, A., Kaufmann, W. e Jacobs, D. (2022). In AI we trust? Citizen perceptions of AI in government decision making. Policy & Internet 14(2), 390-409.
12. Grimmelikhuijsen, S. (2023). Explaining Why the Computer Says No: Algorithmic Transparency Affects the Perceived Trustworthiness of Automated Decision-Making. Public Administration Review 83(2), 241-262.
13. Horváth, L., James, O., Banducci, S. e Beduschi, A. (2023). Citizens' acceptance of artificial intelligence in public services: Evidence from a conjoint experiment about processing permit applications. Government Information Quarterly 40(4), 101876.
14. Wenzelburger, G., König, P. D., Felfeli, J. e Achtziger, A. (2024). Algorithms in the public sector. Why context matters. Public Administration 102(1), 40-60.
15. Araujo, T., Helberger, N., Kruikemeier, S. e de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & Society 35(3), 611-623.
16. Pew Research Center (2018). Public Attitudes Toward Computer Algorithms, 16 de novembro de 2018.
17. Pew Research Center (2023). Growing public concern about the role of artificial intelligence in daily life, 28 de agosto de 2023.
18. Pew Research Center (2025). How the U.S. Public and AI Experts View Artificial Intelligence, 3 de abril de 2025.
19. Ada Lovelace Institute e The Alan Turing Institute (2023). How do people feel about AI? (2022/23 survey findings).
20. Ada Lovelace Institute e The Alan Turing Institute (2025). How do people feel about AI? (2024/25 survey findings).
21. OECD (2024). OECD Survey on Drivers of Trust in Public Institutions - 2024 Results. OECD Publishing.