¿Acepta la gente las decisiones algorítmicas en el gobierno? Qué muestran las encuestas y los experimentos

Los gobiernos utilizan cada vez más algoritmos para evaluar riesgos, priorizar solicitudes y decidir derechos y prestaciones, pero la legitimidad de esas decisiones depende de que las personas afectadas las acepten. Este estudio examina dos conjuntos de evidencia sobre esta cuestión: experimentos conductuales sobre la «aversión a los algoritmos» y la «apreciación de los algoritmos», y experimentos de encuesta y de elección conjunta sobre la toma de decisiones algorítmica en el sector público, junto con grandes encuestas de opinión pública en Estados Unidos y el Reino Unido. La evidencia no respalda la afirmación simple de que las personas rechazan los algoritmos. A menudo confían en el asesoramiento algorítmico, a veces más que en el asesoramiento humano, sobre todo para tareas consideradas mecánicas y cuando ellas mismas no son expertas. Pero el apoyo disminuye drásticamente cuando el algoritmo decide en lugar de asesorar, cuando la decisión se refiere a circunstancias personales, como las prestaciones sociales o la justicia, y cuando no existe una vía para recurrir a una persona. En distintos estudios, las características que aumentan la aceptación de forma más constante son la posibilidad de apelar, una participación humana significativa, explicaciones de las decisiones individuales, la precisión demostrada y la confianza en la organización que implementa el sistema. En el Reino Unido, la preocupación por que la IA decida la elegibilidad para recibir prestaciones sociales aumentó del 44% al 59% entre 2022 y 2024, y la proporción de quienes afirmaron que los procedimientos de apelación les harían sentirse más cómodos subió del 59% al 65%.

Hallazgos clave

• La aversión y la apreciación son reales; el contexto es determinante. Las personas abandonan los algoritmos más rápidamente que a los seres humanos después de verlos cometer errores (Dietvorst, Simmons y Massey), pero las personas legas suelen seguir más el asesoramiento algorítmico que el humano (Logg, Minson y Moore). Los expertos y quienes evalúan sus propias estimaciones muestran menos apreciación.
• Se acepta más que los algoritmos asesoren que decidan. En un experimento prerregistrado sobre la elaboración de políticas de la UE (n=572), se consideró ilegítima la IA como única responsable de la decisión, mientras que la toma de decisiones híbrida entre personas e IA no recibió una valoración distinta de la situación actual en cuanto a la legitimidad del proceso y del resultado (Starke y Lünich).
• Las decisiones personales y morales suscitan la mayor resistencia. En tareas que requieren «habilidades humanas», las decisiones algorítmicas se consideraron menos justas y fiables (Lee). En Estados Unidos, el 56% consideró inaceptables las puntuaciones de riesgo delictivo para la libertad condicional y el 67-68% rechazó el análisis automatizado de entrevistas por vídeo y la evaluación de las finanzas personales (Pew, 2018).
• Las apelaciones y la participación humana son lo más importante. En experimentos de elección conjunta en el Reino Unido sobre visados y permisos de estacionamiento, la precisión, un sistema de apelaciones, la transparencia, un coste menor, la ausencia de intercambio de datos y la ausencia de participación de empresas privadas aumentaron tanto la aceptación como la percepción de equidad (Horváth y colegas). En la clasificación de prioridades de la propia población británica, las leyes y la regulación (72%) y los procedimientos de apelación (65%) encabezan la lista de factores que aumentarían la comodidad con la IA (Ada Lovelace Institute y Alan Turing Institute, 2024/25).
• Las explicaciones ayudan, pero el acceso al código no. Explicar por qué se tomó una decisión aumenta la confianza más que hacer accesible el algoritmo, y el efecto varía según el contexto (Grimmelikhuijsen).
• Quién lo implementa importa tanto como qué se implementa. En Alemania, la aceptación de los algoritmos de predicción policial y de predicción del cáncer dependía más de la confianza en la organización que los implementaba y de la importancia del problema que del rendimiento medido del algoritmo (Wenzelburger y colegas).
• La preocupación va en aumento. En Estados Unidos, la proporción de quienes estaban más preocupados que entusiasmados con la IA subió del 38% en diciembre de 2022 al 52% en agosto de 2023; en 2024, el 62% de los adultos estadounidenses tenía poca o ninguna confianza en que el Gobierno regulara eficazmente la IA (Pew).

Pregunta de investigación y alcance

El estudio pregunta: ¿en qué condiciones aceptan las personas las decisiones tomadas o respaldadas por algoritmos en el gobierno, y qué aumenta la legitimidad de esas decisiones? La «aceptación» incluye las preferencias entre responsables humanos y algorítmicos de la toma de decisiones, los juicios sobre equidad y confianza, y la legitimidad percibida. La revisión abarca experimentos conductuales (en su mayoría sobre tareas de pronóstico), experimentos de encuesta y diseños de elección conjunta sobre situaciones del sector público, y grandes encuestas representativas. Se centra en Estados Unidos y Europa, donde se origina casi toda la evidencia; una revisión sistemática de 2022 concluyó que la evidencia sobre las percepciones de equidad procede «casi exclusivamente de contextos de democracias occidentales».

Antecedentes

Dos casos de fracaso enmarcan el debate en Europa y Australia. En los Países Bajos, un régimen de evaluación de riesgos y detección de fraude en las prestaciones por cuidado infantil identificó erróneamente como defraudadoras a miles de familias y provocó la dimisión del gabinete en enero de 2021. En Australia, el sistema automatizado «Robodebt» imputó deudas ilegales a beneficiarios de prestaciones sociales, según determinó una Comisión Real en 2023. Ambos casos están documentados en otras partes de este atlas. En el Reino Unido, el algoritmo utilizado en 2020 para moderar las calificaciones de fin de estudios durante la pandemia se abandonó tras las protestas públicas. Estos casos comparten un perfil: decisiones de gran trascendencia sobre personas, pocas vías para impugnarlas y sistemas cuya lógica no se explicó a las personas afectadas.

El debate académico tiene dos raíces. Desde la década de 1950, psicólogos como Paul Meehl han demostrado que las reglas estadísticas simples suelen predecir mejor que el juicio experto; sin embargo, la gente se resiste a usarlas, fenómeno que más tarde recibió el nombre de «aversión a los algoritmos». Los especialistas en administración pública y legitimidad plantean otra pregunta: no si las personas usan un pronóstico, sino si es legítima una decisión tomada por un algoritmo o con su ayuda. Esta segunda pregunta se basa en la teoría de la justicia procedimental, según la cual las personas aceptan resultados desfavorables cuando consideran que el proceso es justo, transparente y respetuoso.

Método y fuentes

Esta es una revisión narrativa de las mejores pruebas disponibles, seleccionadas por la calidad de su diseño y su pertinencia para los gobiernos. Se basa en dos revisiones sistemáticas sobre la aversión a los algoritmos (Burton, Stein y Jensen: 61 artículos; Mahmud y colaboradores: 80 estudios) y una sobre las percepciones de equidad (Starke, Baleis, Keller y Marcinkowski: 58 estudios); experimentos individuales sobre escenarios del sector público en Europa y Estados Unidos; encuestas del Pew Research Center (2018, 2023, 2024); y las dos rondas de la encuesta del Ada Lovelace Institute y el Alan Turing Institute a la población británica y del Reino Unido (trabajo de campo en noviembre de 2022 y octubre-noviembre de 2024). La Encuesta de la OCDE sobre los factores impulsores de la confianza en las instituciones públicas (cerca de 60.000 respuestas en 30 países, a finales de 2023) aporta contexto sobre la confianza en los gobiernos en general. En el texto se indican los tamaños de las muestras y las fechas para que los lectores puedan valorar el peso de las pruebas.

Hallazgos

Aversión y valoración

Dietvorst, Simmons y Massey acuñaron el término «aversión a los algoritmos» en cinco estudios en los que los participantes elegían si vincular su pago a los pronósticos de una persona o de un modelo estadístico. Quienes habían visto funcionar al algoritmo confiaban menos en él y tenían menos probabilidades de elegirlo en lugar de un pronosticador humano inferior, «incluso entre quienes habían visto al algoritmo superar al ser humano». El mecanismo es el perdón asimétrico: tras observar el mismo error, las personas pierden la confianza en los algoritmos más rápidamente que en los seres humanos.

Logg, Minson y Moore hallaron lo contrario en seis experimentos: las personas sin conocimientos especializados seguían más los consejos cuando creían que provenían de un algoritmo y no de una persona, en tareas que iban desde estimar pesos hasta pronosticar la popularidad de canciones. La valoración disminuía cuando las personas elegían entre la estimación de un algoritmo y la suya propia, y entre profesionales con experiencia, que confiaban menos en los consejos algorítmicos que las personas sin conocimientos especializados, en detrimento de su precisión.

Dos revisiones sistemáticas reconcilian estos resultados. Burton, Stein y Jensen, al revisar 61 artículos revisados por pares publicados entre 1950 y 2018, agruparon las causas de la aversión en torno a las expectativas y la experiencia, la autonomía en la toma de decisiones, los incentivos, la compatibilidad cognitiva y las racionalidades divergentes. Mahmud, Islam, Ahmed y Smolander, al revisar 80 estudios empíricos, agruparon los factores influyentes en factores algorítmicos, individuales, relacionados con la tarea y de alto nivel, y señalaron que los factores relacionados con la tarea y los de alto nivel (sociales e institucionales) están insuficientemente estudiados. La lección común es que la aversión es condicional: depende de quién juzga, de cuál es la tarea y de si las personas conservan cierto control.

Los datos de encuestas apuntan en la misma dirección. Araujo, Helberger, Kruikemeier y de Vreese, en un experimento de encuesta basado en escenarios con una muestra nacional de 958 encuestados y decisiones en los ámbitos de los medios de comunicación, la salud pública y la justicia, observaron que, en general, los encuestados estaban preocupados por los riesgos de la toma de decisiones automatizada y tenían opiniones divididas sobre su equidad y utilidad a nivel social; sin embargo, ante decisiones específicas, a menudo valoraban la IA a la par de los expertos humanos o por encima de ellos.

En materia de políticas públicas, Kennedy, Waggoner y Ward realizaron experimentos sobre la predicción de acontecimientos políticos y la reincidencia delictiva. «Contrariamente a la literatura anterior sobre la aversión a los algoritmos», encontraron un alto nivel de confianza en los algoritmos en comparación con otras fuentes de asesoramiento, incluso cuando se disponía de información mínima sobre el algoritmo. Un experimento de análisis conjunto mostró que la aversión al riesgo, el tamaño de los datos de entrenamiento, la presencia de una persona en el circuito y la reputación del desarrollador influían en las preferencias.

Quién decide: legitimidad de las decisiones híbridas y totalmente automatizadas

Starke y Lünich compararon tres modalidades de formulación de políticas de la UE en un experimento en línea prerregistrado (n=572): políticos solos, IA sola y políticos trabajando con IA. La modalidad existente fue considerada la más participativa y accesible (legitimidad de entrada). En cuanto al proceso (legitimidad de proceso) y a los resultados (legitimidad de resultados), no hubo diferencias entre el statu quo y la modalidad híbrida, pero los encuestados consideraron ilegítima a la IA como única responsable de la toma de decisiones. Este hallazgo es importante para el diseño institucional: las personas distinguen claramente entre la IA como herramienta de funcionarios sujetos a rendición de cuentas y la IA como sustituta de estos.

Ingrams, Kaufmann y Jacobs llegaron a un resultado relacionado en un experimento de encuesta sobre auditorías tributarias: se consideró que una decisión dirigida por IA implicaba menos trámites burocráticos que una decisión humana, pero también que era menos confiable. La eficiencia y la confianza pueden avanzar en direcciones opuestas.

El experimento de Lee sobre decisiones gerenciales mostró por qué importa el tipo de tarea. En tareas «mecánicas», como la programación de horarios, las decisiones algorítmicas y humanas se consideraron igual de equitativas y confiables. En tareas que requieren «habilidades humanas», como la contratación y la evaluación, las decisiones algorítmicas se consideraron menos equitativas y confiables y provocaron emociones más negativas, atribuidas a la percepción de que el algoritmo carecía de intuición y a «la experiencia deshumanizadora de ser evaluado por máquinas». Binns y sus colegas encontraron que la percepción de justicia de los participantes ante las decisiones algorítmicas movilizaba las mismas dimensiones que ante las decisiones humanas, con inquietudes sobre la arbitrariedad, la generalización y la dignidad, resumidas en la frase que da título a su artículo: «Reduce a un ser humano a un porcentaje».

No todo el mundo prefiere a una persona. Miller y Keiser descubrieron en un experimento de encuesta en EE. UU. que los encuestados negros valoraban la toma de decisiones automatizada por encima de la actuación policial en términos de equidad y preferencia cuando se les decía que el cuerpo policial carecía de representación pasiva; los encuestados blancos no mostraron este patrón. Cuando se desconfía de quienes toman las decisiones, la automatización puede parecer una mejora.

Qué aumenta la aceptación

Horváth, James, Banducci y Beduschi realizaron en el Reino Unido un experimento conjoint prerregistrado sobre el uso de IA para tramitar solicitudes de visados de inmigración y permisos de estacionamiento. Una mayor participación humana tendía a aumentar la aceptación, aunque afectaba menos a la percepción de equidad; además, cuando se introducía una discrecionalidad humana considerable en los casos de estacionamiento, los encuestados preferían una participación humana más limitada. La participación humana apenas compensaba los atributos desfavorables de la IA. En cambio, «la alta precisión, la existencia de un sistema de apelación, una mayor transparencia, un menor costo, la no divulgación de datos y la ausencia de participación de empresas privadas» aumentaban tanto la aceptación como la percepción de equidad procedimental.

Grimmelikhuijsen evaluó dos elementos de la transparencia, la accesibilidad (poder ver el algoritmo) y la explicabilidad (que se informe por qué se tomó una decisión), en un caso de denegación de visado y otro de sospecha de fraude en las prestaciones sociales. La explicabilidad tuvo un efecto más pronunciado sobre la confianza que la accesibilidad; la transparencia afectó a la confianza tanto en quien tomaba la decisión humana como en el algoritmo; y los efectos no fueron robustos en ambos contextos. La transparencia «entendida como accesibilidad» no era suficiente.

Wenzelburger, König, Felfeli y Achtziger encuestaron a 2,661 personas de un panel en línea representativo de Alemania sobre la vigilancia policial predictiva y la predicción del cáncer de piel. La aceptación estaba «fuertemente condicionada» por la importancia personal del problema y por la confianza en las organizaciones que implementaban el algoritmo; el rendimiento objetivo del algoritmo importaba mucho menos.

Qué dice la ciudadanía: encuestas a gran escala

Estados Unidos. La encuesta de Pew de 2018 a 4.594 adultos reveló que el 58% pensaba que los programas informáticos siempre reflejarían algún sesgo humano. La mayoría consideró inaceptables tres de cuatro escenarios: una puntuación automatizada de finanzas personales (68% inaceptable), el análisis automatizado de entrevistas de trabajo en vídeo (67%) y la evaluación del riesgo delictivo para decidir la libertad condicional (56% inaceptable, 42% aceptable); el 41% consideró aceptable la selección automatizada de currículos. La encuesta de Pew de agosto de 2023 a 11.201 adultos reveló que el 52% sentía más preocupación que entusiasmo por la IA en la vida cotidiana, frente al 38% en diciembre de 2022. En agosto de 2024, el 51% de 5.410 adultos sentía más preocupación que entusiasmo, el 62% tenía poca o ninguna confianza en que el Gobierno regulara la IA de manera eficaz y el 55% quería tener más control sobre cómo se usa la IA en sus vidas.

Reino Unido. La encuesta del Ada Lovelace Institute y el Alan Turing Institute es la fuente más detallada sobre los usos en el sector público.

En 2024/25, el 63% dijo que no se sentiría cómodo con que la IA tomara decisiones que afectaran a sus vidas; el 62% afirmó que una decisión de IA siempre debería ir acompañada de una explicación (incluido el 37% que quiere que las personas tomen y expliquen las decisiones); el 71% de las personas negras y británicas negras expresó preocupación por la IA aplicada a la elegibilidad para prestaciones, frente al 59% a escala nacional; y el 50% consideraba que sus opiniones no estaban representadas en las decisiones sobre IA que afectaban a sus vidas. En 2022/23, un organismo regulador independiente fue la opción más popular (41%) para garantizar que la IA se usara de manera segura; en 2024/25, cuando las personas encuestadas podían elegir hasta tres opciones, fue elegida por el 58%.

El contraste entre el reconocimiento facial en la labor policial (considerado beneficioso por el 91%) y la elegibilidad para prestaciones (47%) es revelador. Las personas encuestadas parecen aceptar la IA cuando se considera que se dirige a otras personas o que sirve como herramienta para los funcionarios, y rechazarla cuando decide sobre sus propias prestaciones.

Lo que no demuestra la evidencia

• El comportamiento tras decisiones reales. La mayoría de los estudios utiliza escenarios hipotéticos. Hay poca evidencia sobre cómo juzgan la legitimidad, cumplen o apelan las personas que realmente recibieron una decisión automatizada, como la denegación de una prestación.
• Los efectos a largo plazo. Las encuestas muestran una preocupación creciente desde 2022, pero no permiten distinguir entre las reacciones a la IA en el Gobierno, las reacciones a la IA generativa en general o las reacciones a acontecimientos noticiosos.
• Los efectos causales de las salvaguardias en la práctica. Los experimentos de análisis conjunto muestran que las apelaciones y las explicaciones aumentan la aceptación declarada; no se ha comprobado mediante experimentos de campo si introducirlas en un servicio real aumenta la confianza.
• La generalización mundial. La base de evidencia procede abrumadoramente de Estados Unidos y Europa occidental.
• La calidad de la aceptación. Es posible que las personas acepten sistemas que no deberían aceptar, como sugieren la literatura sobre valoración y las cifras sobre reconocimiento facial. Una alta aceptación no demuestra que un sistema sea justo.

Implicaciones para el diseño institucional

1. Mantener a una persona como responsable de la decisión en las decisiones individuales de consecuencias importantes y presentar el algoritmo como un asesoramiento. La evidencia sobre la legitimidad de los modelos híbridos y sobre las tareas que requieren «habilidades humanas» respalda esta opción de diseño más que cualquier otra.
2. Garantizar el derecho a apelar ante una persona, no tratarlo como una cortesía. Es el elemento que se asocia de manera más constante con la aceptación y también la principal salvaguardia contra los errores.
3. Explicar las decisiones, no solo los sistemas. Los registros algorítmicos, como los registros de transparencia del Reino Unido, contribuyen a la supervisión, pero las explicaciones individuales son más importantes para la confianza.
4. Evitar el intercambio de datos con el sector privado y las funciones opacas de los proveedores en usos públicos de alto riesgo, o justificarlos abiertamente.
5. Invertir en la confiabilidad institucional. La aceptación depende de la confianza en el organismo que implementa el sistema; un organismo que no inspira confianza no se verá rescatado por un modelo mejor.
6. No confundir aceptación con legitimidad. Los sistemas deben evaluarse en cuanto a su precisión y equidad, independientemente de su popularidad.

Preguntas abiertas

• ¿Aumentan los derechos de apelación la confianza cuando las personas saben que pocas apelaciones prosperan?
• ¿Cómo juzgan las personas las decisiones en las que la IA y un funcionario humano discrepan, y quién debería prevalecer?
• ¿El aumento de la preocupación desde 2022 refleja la experiencia con la IA en los servicios públicos o una inquietud más amplia por la IA generativa?
• ¿En qué se diferencian las actitudes fuera de las democracias occidentales, donde la confianza en los funcionarios humanos podría ser menor?
• ¿Pueden los procesos participativos, como las asambleas ciudadanas sobre sistemas algorítmicos, aumentar la legitimidad entre quienes no participan?

Fuentes

1. Dietvorst, B. J., Simmons, J. P. y Massey, C. (2015). Aversión a los algoritmos: las personas evitan erróneamente los algoritmos tras verlos cometer errores. Journal of Experimental Psychology: General 144(1), 114-126.
2. Logg, J. M., Minson, J. A. y Moore, D. A. (2019). Aprecio por los algoritmos: las personas prefieren el juicio algorítmico al humano. Organizational Behavior and Human Decision Processes 151, 90-103.
3. Burton, J. W., Stein, M.-K. y Jensen, T. B. (2020). Una revisión sistemática de la aversión a los algoritmos en la toma de decisiones aumentada. Journal of Behavioral Decision Making 33(2), 220-239.
4. Mahmud, H., Islam, A. K. M. N., Ahmed, S. I. y Smolander, K. (2022). ¿Qué influye en la toma de decisiones algorítmica? Una revisión sistemática de la literatura sobre la aversión a los algoritmos. Technological Forecasting and Social Change 175, 121390.
5. Starke, C., Baleis, J., Keller, B. y Marcinkowski, F. (2022). Percepciones de justicia en la toma de decisiones algorítmica: una revisión sistemática de la literatura empírica. Big Data & Society 9(2).
6. Starke, C. y Lünich, M. (2020). Inteligencia artificial para la toma de decisiones políticas en la Unión Europea: efectos sobre las percepciones ciudadanas de la legitimidad de entrada, de proceso y de resultados. Data & Policy 2, e16.
7. Kennedy, R. P., Waggoner, P. D. y Ward, M. M. (2022). Confianza en los algoritmos de políticas públicas. The Journal of Politics 84(2), 1132-1148.
8. Lee, M. K. (2018). Comprender la percepción de las decisiones algorítmicas: justicia, confianza y emociones ante la gestión algorítmica. Big Data & Society 5(1).
9. Binns, R., Van Kleek, M., Veale, M., Lyngs, U., Zhao, J. y Shadbolt, N. (2018). '«Reduce a un ser humano a un porcentaje»: percepciones de la justicia en las decisiones algorítmicas. En Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems.
10. Miller, S. M. y Keiser, L. R. (2021). Burocracia representativa y actitudes hacia la toma de decisiones automatizada. Journal of Public Administration Research and Theory 31(1), 150-165.
11. Ingrams, A., Kaufmann, W. y Jacobs, D. (2022). ¿Confiamos en la IA? Percepciones ciudadanas de la IA en la toma de decisiones gubernamentales. Policy & Internet 14(2), 390-409.
12. Grimmelikhuijsen, S. (2023). Explicar por qué el ordenador dice que no: la transparencia algorítmica afecta a la fiabilidad percibida de la toma de decisiones automatizada. Public Administration Review 83(2), 241-262.
13. Horváth, L., James, O., Banducci, S. y Beduschi, A. (2023). Aceptación ciudadana de la inteligencia artificial en los servicios públicos: evidencia de un experimento de elección conjunta sobre la tramitación de solicitudes de permisos. Government Information Quarterly 40(4), 101876.
14. Wenzelburger, G., König, P. D., Felfeli, J. y Achtziger, A. (2024). Algoritmos en el sector público. Por qué importa el contexto. Public Administration 102(1), 40-60.
15. Araujo, T., Helberger, N., Kruikemeier, S. y de Vreese, C. H. (2020). ¿Confiamos en la IA? Percepciones sobre la toma de decisiones automatizada mediante inteligencia artificial. AI & Society 35(3), 611-623.
16. Pew Research Center (2018). Actitudes del público hacia los algoritmos informáticos, 16 de noviembre de 2018.
17. Pew Research Center (2023). Crece la preocupación pública por el papel de la inteligencia artificial en la vida cotidiana, 28 de agosto de 2023.
18. Pew Research Center (2025). Cómo ven la inteligencia artificial el público estadounidense y los expertos en IA, 3 de abril de 2025.
19. Ada Lovelace Institute y The Alan Turing Institute (2023). ¿Qué siente la gente respecto a la IA? (Resultados de la encuesta de 2022/23).
20. Ada Lovelace Institute y The Alan Turing Institute (2025). ¿Qué siente la gente respecto a la IA? (Resultados de la encuesta de 2024/25).
21. OCDE (2024). Encuesta de la OCDE sobre los factores que impulsan la confianza en las instituciones públicas: resultados de 2024. OECD Publishing.