Принимают ли люди алгоритмические решения в государстве? Что показывают опросы и эксперименты

Правительства всё чаще используют алгоритмы для оценки рисков, сортировки заявок и определения права на получение льгот, однако легитимность таких решений зависит от того, принимают ли их затронутые ими люди. В этом исследовании рассматриваются два массива данных по этому вопросу: поведенческие эксперименты по «неприятию алгоритмов» и «предпочтению алгоритмов», а также опросные и конджойнт-эксперименты по алгоритмическому принятию решений в государственном секторе наряду с крупными опросами общественного мнения в США и Великобритании. Данные не подтверждают упрощённое утверждение, будто люди отвергают алгоритмы. Люди часто доверяют рекомендациям алгоритмов, иногда больше, чем рекомендациям людей, особенно когда задачи воспринимаются как механические и сами они не являются экспертами. Но поддержка резко снижается, когда алгоритм принимает решение, а не даёт рекомендацию, когда решение касается личных обстоятельств, например социального обеспечения или правосудия, и когда обратиться к человеку невозможно. В разных исследованиях наиболее последовательно повышают принятие такие особенности, как возможность обжалования, значимое участие человека, объяснение конкретных решений, подтверждённая точность и доверие к организации, внедряющей систему. В Великобритании обеспокоенность тем, что ИИ будет решать вопросы о праве на социальные пособия, выросла с 44% до 59% в период с 2022 по 2024 год, а доля тех, кто заявил, что процедуры обжалования сделали бы их более уверенными, увеличилась с 59% до 65%.

Основные выводы

• Неприятие алгоритмов и предпочтение алгоритмов — реальные явления; всё зависит от контекста. Увидев ошибку алгоритма, люди отказываются от него быстрее, чем от человека (Дитворст, Симмонс и Масси), однако неспециалисты часто следуют рекомендациям алгоритма чаще, чем рекомендациям человека (Логг, Минсон и Мур). Эксперты и люди, оценивающие собственные прогнозы, демонстрируют меньшее предпочтение алгоритмам.
• Советы принимают охотнее, чем решения. В пререгистрированном эксперименте по выработке политики ЕС (n=572) ИИ в роли единственного лица, принимающего решения, считался нелегитимным, тогда как гибридное принятие решений человеком и ИИ оценивалось с точки зрения легитимности процесса и результата не иначе, чем существующий порядок (Штарке и Люних).
• Личные и моральные решения вызывают наибольшее сопротивление. В задачах, требующих «человеческих навыков», решения алгоритмов считались менее справедливыми и надёжными (Ли). В США 56% респондентов сочли неприемлемыми оценки риска рецидива для условно-досрочного освобождения, а 67-68% отвергли автоматизированный анализ видеоинтервью и оценивание личных финансов (Pew, 2018).
• Обжалование и участие человека имеют наибольшее значение. В конджойнт-экспериментах в Великобритании, посвящённых визам и разрешениям на парковку, точность, система обжалования, прозрачность, более низкая стоимость, отсутствие передачи данных и участия частных компаний повышали как уровень принятия, так и воспринимаемую справедливость (Хорват и коллеги). В рейтинге, составленном самими жителями Великобритании, законы и регулирование (72%) и процедуры обжалования (65%) занимают первые места среди мер, которые повысили бы их уверенность в использовании ИИ (Институт Ады Лавлейс и Институт Алана Тьюринга, 2024/25).
• Объяснения помогают, а доступ к коду — нет. Объяснение причин принятия решения повышает доверие сильнее, чем предоставление доступа к алгоритму; эффект зависит от контекста (Гриммельхёйзен).
• Важно не только то, что внедряется, но и то, кто это внедряет. В Германии принятие алгоритмов прогнозирующего полицейского патрулирования и прогнозирования рака в большей степени зависело от доверия к внедряющей их организации и значимости проблемы, чем от измеренной эффективности алгоритма (Венцельбургер и коллеги).
• Обеспокоенность растёт. В США доля тех, кого ИИ скорее беспокоит, чем воодушевляет, выросла с 38% в декабре 2022 года до 52% в августе 2023 года; в 2024 году 62% взрослых жителей США мало или вовсе не доверяли способности правительства эффективно регулировать ИИ (Pew).

Исследовательский вопрос и рамки

В исследовании задаётся вопрос: при каких условиях люди принимают решения, принятые или поддержанные алгоритмами в государственных органах, и что повышает легитимность таких решений? «Принятие» включает предпочтения между людьми и алгоритмами как субъектами принятия решений, суждения о справедливости и доверии, а также воспринимаемую легитимность. Обзор охватывает поведенческие эксперименты (преимущественно задачи прогнозирования), опросные эксперименты и конджойнт-дизайны на примере ситуаций в государственном секторе, а также крупные репрезентативные опросы. Основное внимание уделяется США и Европе, откуда происходит почти вся имеющаяся информация; в систематическом обзоре 2022 года отмечалось, что данные о восприятии справедливости получены «почти исключительно в западных демократических контекстах».

Предпосылки

Два случая провала задают рамки дискуссии в Европе и Австралии. В Нидерландах система оценки рисков и выявления мошенничества при выплате пособий по уходу за детьми ошибочно сочла тысячи семей мошенниками и привела к отставке кабинета министров в январе 2021 года. В Австралии автоматизированная система «Robodebt» незаконно начисляла получателям социальных пособий задолженности, что установила Королевская комиссия в 2023 году. Оба случая задокументированы в других материалах этого атласа. В Великобритании алгоритм 2020 года, применявшийся для корректировки оценок выпускных экзаменов во время пандемии, был отменён после общественных протестов. Эти случаи имеют общие черты: решения с высокими ставками для отдельных людей, ограниченные возможности их оспорить и системы, логика работы которых не объяснялась затронутым ими людям.

Академическая дискуссия имеет два истока. Психологи со времён Пола Мила в 1950-х годах показывали, что простые статистические правила зачастую дают более точные прогнозы, чем экспертные суждения, однако люди сопротивляются их применению — явление, позднее получившее название «неприятие алгоритмов». Исследователи государственного управления и легитимности задают другой вопрос: не о том, пользуются ли люди прогнозом, а о том, является ли правомерным решение, принятое алгоритмом или с его помощью. Второй вопрос опирается на теорию процессуальной справедливости, согласно которой люди принимают неблагоприятные результаты, если считают процедуру справедливой, прозрачной и уважительной.

Метод и источники

Это обзорный анализ наиболее убедительных доступных данных, отобранных с учётом качества исследовательского дизайна и актуальности для государственного управления. Он опирается на два систематических обзора исследований неприятия алгоритмов (Бёртон, Стайн и Йенсен: 61 статья; Махмуд и коллеги: 80 исследований) и один обзор восприятия справедливости (Штарке, Балейс, Келлер и Марцинковски: 58 исследований); отдельные эксперименты со сценариями в государственном секторе в Европе и США; опросы Pew Research Center (2018, 2023, 2024); а также две волны опроса британской общественности, проведённого Ada Lovelace Institute и Alan Turing Institute (полевые этапы — ноябрь 2022 года и октябрь—ноябрь 2024 года). Опрос ОЭСР о факторах доверия к государственным институтам (почти 60 000 ответов в 30 странах, конец 2023 года) даёт общий контекст доверия к государству. Размеры выборок и даты указаны в тексте, чтобы читатели могли оценить вес приведённых данных.

Результаты

Неприятие и предпочтение

Дитворст, Симмонс и Мэсси ввели термин «неприятие алгоритмов» по итогам пяти исследований, в которых участники выбирали, к чьим прогнозам привязать своё вознаграждение — человека или статистической модели. Увидев результаты работы алгоритма, участники меньше ему доверяли и реже предпочитали его менее точному прогнозисту-человеку, «даже среди тех, кто видел, что алгоритм превосходит человека». Механизм заключается в асимметричной снисходительности: после одной и той же ошибки люди быстрее теряют доверие к алгоритмам, чем к людям.

Логг, Минсон и Мур обнаружили противоположный эффект в шести экспериментах: непрофессионалы чаще следовали советам, если считали, что их дал алгоритм, а не человек; задачи варьировались от оценки веса до прогнозирования популярности песен. Этот эффект ослабевал, когда участники выбирали между оценкой алгоритма и собственной, а также среди опытных специалистов: они меньше полагались на алгоритмические советы, чем непрофессионалы, что снижало точность их решений.

Два систематических обзора позволяют согласовать эти результаты. Бёртон, Стайн и Йенсен, рассмотрев 61 рецензируемую статью за период с 1950 по 2018 год, сгруппировали причины неприятия по следующим категориям: ожидания и экспертные знания, автономия принятия решений, стимулы, когнитивная совместимость и различия в рациональности. Махмуд, Ислам, Ахмед и Смоландер, рассмотрев 80 эмпирических исследований, сгруппировали факторы влияния как алгоритмические, индивидуальные, связанные с задачей и факторы высокого уровня и отметили, что факторы, связанные с задачей, и факторы высокого уровня (социальные и институциональные) изучены недостаточно. Общий вывод состоит в том, что неприятие носит условный характер: оно зависит от того, кто выносит суждение, в чём заключается задача и сохраняют ли люди определённый контроль.

Данные опросов указывают на то же. Араухо, Хельбергер, Круикемайер и де Врезе в эксперименте на основе сценариев с национальной выборкой из 958 респондентов, рассматривавших решения в сферах СМИ, общественного здравоохранения и судебной системы, обнаружили, что респонденты в целом обеспокоены рисками автоматизированного принятия решений и неоднозначно оценивают его справедливость и полезность на общественном уровне, однако применительно к конкретным решениям часто оценивали ИИ наравне с экспертами-людьми или выше них.

В контексте государственной политики Кеннеди, Уэггонер и Уорд провели эксперименты по прогнозированию политических событий и рецидивизма. «Вопреки предыдущей литературе о неприятии алгоритмов», они обнаружили высокий уровень доверия к алгоритмам по сравнению с другими источниками рекомендаций даже при минимуме информации об алгоритме. Конъюнктурный эксперимент показал, что на предпочтения влияли неприятие риска, объём обучающих данных, участие человека в процессе и репутация разработчика.

Кто принимает решения: легитимность гибридных и полностью автоматизированных решений

Штарке и Люних сравнили три модели выработки политики ЕС в предварительно зарегистрированном онлайн-эксперименте (n=572): решения принимают только политики, только ИИ или политики совместно с ИИ. Существующую модель сочли наиболее партисипативной и доступной (легитимность на входе). Что касается процесса (легитимность в процессе) и результатов (легитимность на выходе), различий между статус-кво и гибридной моделью не было, однако респонденты считали, что передача принятия решений исключительно ИИ нелегитимна. Этот вывод важен для проектирования институтов: люди чётко различают ИИ как инструмент подотчётных должностных лиц и ИИ как их замену.

Ингрэмс, Кауфманн и Джейкобс получили сходный результат в эксперименте с опросом об аудите налогоплательщиков: решение, принятое под руководством ИИ, воспринималось как менее бюрократизированное, чем решение человека, но также как менее заслуживающее доверия. Эффективность и доверие могут изменяться в противоположных направлениях.

Эксперимент Ли, посвящённый управленческим решениям, показал, почему важен тип задачи. В случае «механических» задач, таких как составление расписания, решения алгоритма и человека считались одинаково справедливыми и заслуживающими доверия. В случае задач, требующих «человеческих навыков», таких как найм и оценка, решения алгоритма считались менее справедливыми и заслуживающими доверия и вызывали более негативные эмоции; это связывали с предполагаемым недостатком у алгоритма интуиции и с «обесчеловечивающим опытом оценки машинами». Биннс и его коллеги обнаружили, что при оценке справедливости алгоритмических решений участники опирались на те же критерии, что и при оценке решений людей, выражая обеспокоенность произвольностью, обобщением и достоинством; эти опасения кратко сформулированы во фразе, давшей название их статье: «Это сводит человека к проценту».»

Не все предпочитают человека. Миллер и Кейзер в ходе экспериментального опроса в США установили, что чернокожие респонденты выше оценивали автоматизированное принятие решений, чем действия полицейских, по критериям справедливости и предпочтительности, когда им сообщали, что в полиции отсутствует пассивное представительство; среди белых респондентов такой закономерности не наблюдалось. Когда люди не доверяют лицам, принимающим решения, автоматизация может казаться улучшением.

Что повышает принятие

Horváth, James, Banducci и Beduschi провели в Великобритании предварительно зарегистрированный совместный эксперимент с оценкой гипотетических сценариев применения ИИ при обработке заявлений на иммиграционные визы и разрешения на парковку. Более широкое участие человека, как правило, повышало принятие системы, хотя на воспринимаемую справедливость влияло меньше; кроме того, когда при рассмотрении дел о парковке предусматривалось значительное усмотрение человека, респонденты предпочитали более ограниченное участие человека. Участие человека мало помогало компенсировать неблагоприятные характеристики ИИ. Напротив, «высокая точность, наличие системы обжалования, повышение прозрачности, снижение затрат, отказ от передачи данных и отсутствие участия частной компании» повышали как принятие системы, так и воспринимаемую справедливость процедуры.

Grimmelikhuijsen проверил два аспекта прозрачности — доступность (возможность увидеть алгоритм) и объяснимость (информирование о причинах принятия решения) — на примере отказа в визе и подозрения в мошенничестве при получении социальных пособий. Объяснимость сильнее влияла на доверие, чем доступность; прозрачность влияла на доверие как к лицу, принимающему решение, так и к алгоритму; при этом результаты не были устойчивыми в двух контекстах. «Прозрачности» как доступности было недостаточно.

Wenzelburger, König, Felfeli и Achtziger провели опрос 2,661 респондента из репрезентативной немецкой онлайн-панели о прогнозирующей полицейской деятельности и прогнозировании рака кожи. На принятие системы «сильно влияли» личная значимость проблемы и доверие к организациям, внедряющим алгоритм; объективные показатели работы алгоритма имели гораздо меньшее значение.

Что говорит общественность: крупные опросы

США. Опрос Pew 2018 года среди 4,594 взрослых показал, что 58% считали, что компьютерные программы всегда будут отражать определённую человеческую предвзятость. Большинство сочло неприемлемыми три из четырёх сценариев: автоматизированную оценку личных финансов (68% — неприемлемой), автоматизированный анализ видеособеседований при приёме на работу (67%) и оценку риска совершения преступления при принятии решений об условно-досрочном освобождении (56% — неприемлемой, 42% — приемлемой); 41% сочли приемлемым автоматизированный отбор резюме. Опрос Pew, проведённый в августе 2023 года среди 11,201 взрослого, показал, что 52% испытывали больше беспокойства, чем воодушевления по поводу ИИ в повседневной жизни; в декабре 2022 года этот показатель составлял 38%. В августе 2024 года 51% из 5,410 взрослых испытывали больше беспокойства, чем воодушевления, 62% не слишком доверяли правительству или совсем не доверяли ему в вопросе эффективного регулирования ИИ, а 55% хотели иметь больше контроля над тем, как ИИ используется в их жизни.

Великобритания. Опрос Института Ады Лавлейс и Института Алана Тьюринга — наиболее подробный источник о применении ИИ в государственном секторе.

В 2024/25 году 63% заявили, что им некомфортно, когда ИИ принимает решения, влияющие на их жизнь; 62% считали, что решение ИИ всегда должно сопровождаться объяснением (в том числе 37%, желающих, чтобы решения принимали и объясняли люди); 71% чернокожих респондентов и респондентов британского происхождения африканского или карибского происхождения были обеспокоены применением ИИ при оценке права на социальные пособия против 59% по стране в целом; и 50% полагали, что их взгляды не учитываются при принятии решений об ИИ, влияющих на их жизнь. В 2022/23 году независимый регулятор был самым популярным ответом (41%) на вопрос о том, кто должен обеспечивать безопасное использование ИИ; в 2024/25 году, когда респонденты могли выбрать до трёх вариантов, его выбрали 58%.

Показательно различие между распознаванием лиц в работе полиции (которое 91% считают полезным) и оценкой права на социальные пособия (47%). Похоже, респонденты принимают ИИ, когда считают, что он нацелен на других или служит инструментом для должностных лиц, и сопротивляются ему, когда он определяет их собственные права на получение пособий.

Чего не показывают имеющиеся данные

• Поведение после реальных решений. В большинстве исследований используются гипотетические сценарии. Мало данных о том, как люди, действительно получившие автоматизированное решение, например отказ в пособии, оценивают его легитимность, исполняют его или обжалуют.
• Долгосрочные эффекты. Опросы показывают рост обеспокоенности с 2022 года, но не позволяют отделить реакцию на ИИ в правительстве от реакции на генеративный ИИ в целом или на события в новостях.
• Причинные эффекты гарантий на практике. Конъюнктные эксперименты показывают, что возможность обжалования и объяснения повышают заявленную готовность принять решение; однако повышение доверия вследствие их внедрения в реальной службе не проверялось полевыми экспериментами.
• Глобальная обобщаемость. Доказательная база почти полностью состоит из исследований, проведённых в США и Западной Европе.
• Качество принятия. Люди могут принимать системы, которые не должны принимать, о чём свидетельствуют литература о признании и данные о распознавании лиц. Высокий уровень принятия не доказывает справедливость системы.

Выводы для проектирования институтов

1. Сохранять за человеком право принимать решения, имеющие существенные последствия для отдельных лиц, представляя алгоритм как источник рекомендаций. Данные о легитимности гибридных моделей и задачах, требующих «человеческих навыков», убедительнее всего поддерживают именно этот выбор в дизайне системы.
2. Закрепить право на обжалование решения человеком, а не превращать его в любезность. Эта особенность наиболее последовательно связана с принятием системы и одновременно служит основной гарантией защиты от ошибок.
3. Объяснять решения, а не только системы. Реестры алгоритмов, такие как британские записи о прозрачности, помогают надзору, но для доверия важнее объяснения отдельных решений.
4. Избегать передачи данных частному сектору и непрозрачного участия поставщиков при использовании ИИ в государственном секторе в сферах с высокими ставками либо открыто обосновывать такие решения.
5. Работать над укреплением доверия к институтам. Принятие зависит от доверия к ведомству, внедряющему систему; недоверие к ведомству не компенсировать более качественной моделью.
6. Не принимать принятие системы за её легитимность. Системы следует оценивать с точки зрения точности и справедливости независимо от их популярности.

Открытые вопросы

• Повышает ли право на обжалование доверие, если люди знают, что удовлетворяется лишь небольшое число апелляций?
• Как люди оценивают решения, в которых ИИ и должностное лицо расходятся во мнениях, и чья позиция должна иметь приоритет?
• Отражает ли рост обеспокоенности с 2022 года опыт использования ИИ в государственных услугах или более широкую тревогу по поводу генеративного ИИ?
• Чем отличаются взгляды за пределами западных демократий, где доверие к должностным лицам может быть ниже?
• Могут ли процессы участия общественности, такие как гражданские ассамблеи по вопросам алгоритмических систем, повысить легитимность таких систем для тех, кто в этих процессах не участвовал?

Источники

1. Dietvorst, B. J., Simmons, J. P. и Massey, C. (2015). Неприятие алгоритмов: люди ошибочно избегают алгоритмов, увидев, как те ошибаются. Journal of Experimental Psychology: General 144(1), 114-126.
2. Logg, J. M., Minson, J. A. и Moore, D. A. (2019). Положительное отношение к алгоритмам: люди предпочитают алгоритмические суждения человеческим. Organizational Behavior and Human Decision Processes 151, 90-103.
3. Burton, J. W., Stein, M.-K. и Jensen, T. B. (2020). Систематический обзор неприятия алгоритмов при принятии решений с использованием вспомогательных систем. Journal of Behavioral Decision Making 33(2), 220-239.
4. Mahmud, H., Islam, A. K. M. N., Ahmed, S. I. и Smolander, K. (2022). Что влияет на принятие решений алгоритмами? Систематический обзор литературы о неприятии алгоритмов. Technological Forecasting and Social Change 175, 121390.
5. Starke, C., Baleis, J., Keller, B. и Marcinkowski, F. (2022). Восприятие справедливости при принятии решений алгоритмами: систематический обзор эмпирической литературы. Big Data & Society 9(2).
6. Starke, C. и Lünich, M. (2020). Искусственный интеллект для принятия политических решений в Европейском союзе: влияние на восприятие гражданами легитимности входов, процессов и результатов. Data & Policy 2, e16.
7. Kennedy, R. P., Waggoner, P. D. и Ward, M. M. (2022). Доверие к алгоритмам государственной политики. The Journal of Politics 84(2), 1132-1148.
8. Lee, M. K. (2018). Понимание восприятия алгоритмических решений: справедливость, доверие и эмоции в ответ на алгоритмическое управление. Big Data & Society 5(1).
9. Binns, R., Van Kleek, M., Veale, M., Lyngs, U., Zhao, J. и Shadbolt, N. (2018). 'Это сводит человека к проценту': восприятие справедливости при принятии решений алгоритмами. В Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems.
10. Miller, S. M. и Keiser, L. R. (2021). Представительная бюрократия и отношение к автоматизированному принятию решений. Journal of Public Administration Research and Theory 31(1), 150-165.
11. Ingrams, A., Kaufmann, W. и Jacobs, D. (2022). Доверяем ли мы ИИ? Восприятие гражданами применения ИИ при принятии решений в органах власти. Policy & Internet 14(2), 390-409.
12. Grimmelikhuijsen, S. (2023). Объяснение того, почему компьютер отвечает отказом: прозрачность алгоритмов влияет на воспринимаемую надёжность автоматизированного принятия решений. Public Administration Review 83(2), 241-262.
13. Horváth, L., James, O., Banducci, S. и Beduschi, A. (2023). Готовность граждан принимать использование искусственного интеллекта в государственных услугах: результаты конджойнт-эксперимента об обработке заявлений на получение разрешений. Government Information Quarterly 40(4), 101876.
14. Wenzelburger, G., König, P. D., Felfeli, J. и Achtziger, A. (2024). Алгоритмы в государственном секторе. Почему важен контекст. Public Administration 102(1), 40-60.
15. Araujo, T., Helberger, N., Kruikemeier, S. и de Vreese, C. H. (2020). Доверяем ли мы ИИ? Восприятие автоматизированного принятия решений с использованием искусственного интеллекта. AI & Society 35(3), 611-623.
16. Pew Research Center (2018). Общественное мнение о компьютерных алгоритмах, 16 ноября 2018 г.
17. Pew Research Center (2023). Растущая обеспокоенность общественности ролью искусственного интеллекта в повседневной жизни, 28 августа 2023 г.
18. Pew Research Center (2025). Взгляды американской общественности и экспертов по ИИ на искусственный интеллект, 3 апреля 2025 г.
19. Ada Lovelace Institute и The Alan Turing Institute (2023). Как люди относятся к ИИ? (результаты опроса 2022/23).
20. Ada Lovelace Institute и The Alan Turing Institute (2025). Как люди относятся к ИИ? (результаты опроса 2024/25).
21. OECD (2024). Опрос ОЭСР о факторах доверия к государственным институтам — результаты 2024 года. OECD Publishing.