政府におけるアルゴリズムによる決定は、人々に受け入れられているのか？調査と実験が示すこと

政府は、リスクのスコアリング、申請の優先順位付け、給付を受ける権利の決定にアルゴリズムをますます利用するようになっているが、そうした決定の正当性は、影響を受ける人々がそれを受け入れるかどうかに左右される。本研究は、この問いに関する2つの証拠群を検討する。すなわち、「アルゴリズム嫌悪」と「アルゴリズムへの好意」に関する行動実験、ならびに公共部門におけるアルゴリズムによる意思決定に関する調査実験とコンジョイント実験であり、米国と英国の大規模な世論調査も併せて扱う。証拠は、人々がアルゴリズムを拒絶するという単純な主張を裏付けていない。人々はしばしばアルゴリズムによる助言を信頼し、ときには人間による助言以上に信頼する。特に、機械的だと見なされる課題や、自分自身が専門家ではない場合にそうした傾向が見られる。しかし、アルゴリズムが助言するのではなく決定を下す場合、福祉や司法など個人的な事情に関わる決定の場合、そして人間に判断を委ねる手段がない場合には、支持が大きく低下する。研究を通じて、受容を最も一貫して高める要素は、不服申立ての機会、実質的な人間の関与、個々の決定に関する説明、正確性の実証、そしてシステムを導入する組織への信頼である。英国では、AIが福祉の受給資格を決定することへの懸念は2022年から2024年の間に44%から59%へ上昇し、不服申立て手続きがあればより安心できると答えた割合は59%から65%へ上昇した。

主な知見

• 嫌悪も好意も実際に存在し、どちらになるかは文脈次第である。 アルゴリズムが誤りを犯すのを見た後、人々は人間の場合よりも早くアルゴリズムの利用をやめる（Dietvorst, Simmons and Massey）。一方、一般の人々は人間による助言よりもアルゴリズムによる助言に従うことが多い（Logg, Minson and Moore）。専門家や、自分自身の推定を評価する人々では、アルゴリズムへの好意は弱い。
• 助言を受けることは、決定を委ねることより受け入れられやすい。 EUの政策形成に関する事前登録済み実験（n=572）では、AIが唯一の意思決定者となることは正当性を欠くと見なされた一方、人間とAIによるハイブリッドな意思決定は、手続き上の正当性と結果の正当性のいずれについても現状と差がないと評価された（Starke and Lünich）。
• 個人的・道徳的な決定は、最も強い抵抗を招く。 「人間的なスキル」を要する課題では、アルゴリズムによる決定は公平性と信頼性がより低いと見なされた（Lee）。米国では、56%が仮釈放に関する犯罪リスクスコアを容認できないとし、67-68%が自動化されたビデオ面接分析と個人の信用スコアリングを拒否した（Pew, 2018）。
• 不服申立てと人間の関与が最も重要である。 英国のビザおよび駐車許可証に関するコンジョイント実験では、正確性、不服申立て制度、透明性、低コスト、データ共有がないこと、民間企業が関与しないことのいずれも、受容と認知された公平性を高めた（Horváth and colleagues）。英国の人々自身による順位付けでは、AIに対する安心感を高める要素として、法律と規制（72%）および不服申立て手続き（65%）が上位を占める（Ada Lovelace Institute and Alan Turing Institute, 2024/25）。
• 説明は役立つが、コードへのアクセスはそうではない。 決定がなされた理由を説明することは、アルゴリズムを利用可能にすることよりも信頼を高め、その効果は文脈によって異なる（Grimmelikhuijsen）。
• 何が導入されるかと同じくらい、誰が導入するかが重要である。 ドイツでは、予測型警察活動およびがん予測アルゴリズムの受容は、アルゴリズムの測定された性能よりも、導入する組織への信頼と問題の重要性に大きく左右された（Wenzelburger and colleagues）。
• 懸念は高まっている。 米国では、AIに期待するより懸念する人の割合が2022年12月の38%から2023年8月には52%に上昇した。2024年には、米国の成人の62%が、政府がAIを効果的に規制する能力にほとんど、またはまったく信頼を置いていなかった（Pew）。

研究課題と範囲

本研究が問うのは、政府においてアルゴリズムが下す、または支援する決定を人々がどのような条件で受け入れるのか、また、そうした決定の正当性を高めるものは何かである。「受容」には、人間とアルゴリズムの意思決定者のどちらを選好するか、公平性と信頼に関する判断、認知された正当性が含まれる。本レビューは、行動実験（大半は予測課題）、公共部門の場面を扱う調査実験とコンジョイント調査、ならびに大規模な代表性のある調査を対象とする。証拠のほぼすべてが得られている米国と欧州に焦点を当てる。2022年の系統的レビューでは、公平性の認識に関する証拠は「ほぼ例外なく西側民主主義の文脈から得られている」とされた。

背景

欧州とオーストラリアでは、二つの失敗事例が議論の枠組みとなっている。オランダでは、児童手当を対象としたリスクスコアリングと不正検知の制度が、数千世帯を誤って詐欺行為者とみなし、2021年1月の内閣総辞職につながった。オーストラリアでは、自動化された「Robodebt」制度が福祉受給者に違法な債務を課していたことが、2023年の王立委員会で明らかになった。どちらの事例も、本アトラスの別の箇所で記録されている。英国では、パンデミック中に学校の修了時の成績を調整するために用いられた2020年のアルゴリズムが、世論の抗議を受けて廃止された。これらの事例には共通する特徴がある。個人に関する重大な決定であること、異議申し立ての手段が限られていること、そして影響を受ける人々に仕組みの論理が説明されていないことである。

学術的な議論には二つの源流がある。1950年代のポール・ミール以来、心理学者たちは、単純な統計的ルールはしばしば専門家の判断より優れた予測を行う一方で、人々はそれを使うことに抵抗することを示してきた。この現象は後に「アルゴリズム嫌悪」と名づけられた。公共行政と正統性を研究する学者たちが問うのは別の問題である。人々が予測を利用するかどうかではなく、アルゴリズムによって、あるいはアルゴリズムを用いて下された決定に正当性があるかどうかである。この第二の問いは、手続的公正の理論に基づいている。同理論によれば、人々は、その過程が公正で、透明性があり、敬意をもって扱うものだと認識すれば、不利な結果も受け入れる。

方法と資料

本稿は、設計の質と政府との関連性を基準に選んだ、入手可能な最も有力なエビデンスを対象とするナラティブレビューである。アルゴリズム嫌悪に関する二つのシステマティック・レビュー（Burton、Stein、Jensen：61件の論文、Mahmudら：80件の研究）と、公正さの認識に関する一つのシステマティック・レビュー（Starke、Baleis、Keller、Marcinkowski：58件の研究）、欧州および米国の公共部門を想定した個別の実験、ピュー・リサーチ・センターの世論調査（2018、2023、2024年）、ならびにAda Lovelace InstituteとAlan Turing Instituteが英国の人々を対象に実施した2回の調査（調査実施時期は2022年11月、2024年10～11月）を参照している。OECDの「公共機関への信頼を左右する要因に関する調査」（2023年後半、30か国で約60,000件の回答）は、政府全般への信頼に関する背景情報を提供する。読者がエビデンスの重みを判断できるよう、サンプルサイズと調査時期は本文中に記載している。

調査結果

嫌悪と評価

Dietvorst、Simmons、Masseyは、参加者が報酬を人間または統計モデルの予測に連動させるかどうかを選ぶ5件の研究で、「アルゴリズム嫌悪」という用語を作った。アルゴリズムの性能を見た参加者は、それに対する確信が弱くなり、劣る人間の予測者よりアルゴリズムを選ぶ可能性も低かった。「アルゴリズムが人間を上回るのを見た人々の間でさえ」そうだった。その仕組みは、失敗を非対称に許容することにある。同じ誤りを見た後、人々は人間よりもアルゴリズムへの信頼を速く失う。

一方、Logg、Minson、Mooreは、6件の実験で逆の結果を示した。重さの推定から楽曲の人気予測まで幅広い課題において、一般の人々は、助言が人間からではなくアルゴリズムからのものだと考えた場合、より強くその助言に従った。アルゴリズムの推定値と自分自身の推定値を選ぶ場合には評価が弱まり、経験豊富な専門家の間でも同様だった。専門家は一般の人々よりアルゴリズムの助言に頼る度合いが低く、その結果、予測精度が損なわれた。

2件の体系的レビューは、これらの結果を整合的に説明している。Burton、Stein、Jensenは、1950年から2018年までの査読付き論文61本を検討し、忌避の原因を、期待と専門性、意思決定の自律性、インセンティブ、認知的適合性、異なる合理性に分類した。Mahmud、Islam、Ahmed、Smolanderは、実証研究80件を検討し、影響要因をアルゴリズム、個人、タスク、高次の要因に分類したうえで、タスク要因と高次の要因（社会的・制度的要因）は十分に研究されていないと指摘した。共通する教訓は、忌避は条件によって左右されるということだ。誰が判断するのか、タスクは何か、人々が一定の制御を保てるかどうかに依存する。

調査のエビデンスも同じ傾向を示している。Araujo、Helberger、Kruikemeier、de Vreeseは、メディア、公衆衛生、司法の意思決定を扱う、回答者958人の全国サンプルを用いたシナリオベースの調査実験で、自動意思決定のリスクについて回答者が総じて懸念を抱き、社会全体における公平性と有用性については評価が分かれた一方、個別の意思決定では、AIを人間の専門家と同等、あるいはそれ以上と評価することが多かったと明らかにした。

公共政策に関しては、Kennedy、Waggoner、Wardが、政治的事象と犯罪の再犯を予測する実験を実施した。「アルゴリズム忌避に関する従来の文献とは対照的に」、アルゴリズムについての情報がごくわずかであっても、他の助言源と比べてアルゴリズムへの信頼が高いことがわかった。コンジョイント実験では、リスク回避、訓練データの規模、人間が関与すること、開発者の評判が選好を左右することが示された。

誰が決定するのか：ハイブリッド型および完全自動化された意思決定の正統性

StarkeとLünichは、事前登録されたオンライン実験（n=572）において、EUの政策決定に関する3つの方式を比較した。すなわち、政治家のみ、AIのみ、政治家がAIと協働する方式である。現行の方式は、最も参加型でアクセスしやすい（インプットの正統性）と評価された。プロセス（スループット）と結果（アウトプットの正統性）については、現状維持とハイブリッド型の方式に違いはなかったが、回答者はAIが単独で意思決定者となる方式を正統性に欠けるとみなした。この結果は制度設計にとって重要である。人々は、説明責任を負う公職者の道具としてのAIと、公職者に代わるものとしてのAIを明確に区別している。

Ingrams、Kaufmann、Jacobsは、税務調査に関する調査実験で、これと関連する結果を得た。AI主導の決定は、人間による決定よりも形式主義が少ないと見なされたが、信頼性も低いと評価された。効率性と信頼は、相反する方向に動くことがある。

Leeの経営上の意思決定に関する実験は、タスクの種類が重要である理由を示した。スケジュール作成などの「機械的」なタスクでは、アルゴリズムによる決定と人間による決定は、公平で信頼できるという点で同等と見なされた。採用や評価など「人間的スキル」を必要とするタスクでは、アルゴリズムによる決定は公平性や信頼性が低いと見なされ、より強い否定的感情を引き起こした。その理由として、アルゴリズムには直感が欠けているという認識や、「機械に評価されるという人間性を損なう経験」が挙げられた。Binnsらは、アルゴリズムによる意思決定に対する参加者の正義感は、人間による意思決定の場合と同じ側面に関わっており、恣意性、一般化、尊厳への懸念が含まれることを明らかにした。それらは、論文の題名にもなっている次の言葉に集約される。「人間をパーセンテージに還元している。」

すべての人が人間による判断を望むわけではない。MillerとKeiserは、米国の調査実験で、警察機関に消極的代表性が欠けていると回答者に伝えた場合、黒人回答者は公正さと選好の点で自動意思決定を警察官より高く評価した一方、白人回答者にはこの傾向が見られなかったことを明らかにした。人間の意思決定者が信頼されていない場合、自動化は改善と受け止められることがある。

受容を高める要因

Horváth、James、Banducci、Beduschiは、英国で、AIによる移民ビザおよび駐車許可の申請処理を対象に、事前登録済みのコンジョイント実験を実施した。人間の関与が増えるほど受容度は高まる傾向があったが、知覚された公正さへの影響は小さく、駐車事例で人間に相当な裁量が与えられた場合、回答者は人間の関与がより限定的であることを好んだ。人間の関与は、AIの好ましくない属性をほとんど相殺しなかった。これに対し、「高い正確性、異議申立て制度の存在、透明性の向上、コストの削減、データを共有しないこと、民間企業が関与しないこと」は、いずれも受容度と手続き的公正さの知覚を高めた。

Grimmelikhuijsenは、ビザ申請の却下と福祉給付の不正受給の疑いを題材に、透明性の2つの要素、すなわちアクセス可能性（アルゴリズムを見られること）と説明可能性（決定の理由を知らされること）を検証した。説明可能性はアクセス可能性よりも信頼に顕著な影響を及ぼした。透明性は、人間の意思決定者とアルゴリズムの双方に対する信頼に影響し、その効果は2つの文脈を通じて一貫して確認されなかった。「アクセス可能性」としての透明性だけでは不十分だった。

Wenzelburger、König、Felfeli、Achtzigerは、代表性のあるドイツのオンラインパネルから2,661人の回答を集め、予測型警察活動と皮膚がん予測について調査した。受容度は、問題が個人にとってどれほど重要か、またアルゴリズムを導入する組織をどの程度信頼しているかによって「大きく左右された」。アルゴリズムの客観的な性能の重要性ははるかに小さかった。

世論が示すもの：大規模調査

米国。 Pewによる成人4,594人を対象とした2018年の調査では、58%が、コンピュータープログラムには常に何らかの人間の偏見が反映されると考えていた。4つのシナリオのうち3つについて、過半数が容認できないと回答した。自動化された個人向け金融スコア（68%が容認できない）、就職面接の動画の自動分析（67%）、仮釈放の判断に用いる犯罪リスク評価（56%が容認できない、42%が容認できる）である。一方、自動化された履歴書選考については、41%が容認できると回答した。成人11,201人を対象としたPewの2023年8月の調査では、AIについて、日常生活で期待よりも懸念のほうが大きいと答えた人は52%で、2022年12月の38%から増加した。2024年8月には、成人5,410人のうち51%が期待よりも懸念のほうが大きいと回答し、62%は政府がAIを効果的に規制する能力について、あまり信頼していない、またはまったく信頼していなかった。また、55%は、自分の生活におけるAIの利用方法をより管理したいと望んでいた。

英国。 Ada Lovelace InstituteとAlan Turing Instituteによる調査は、公共部門での利用に関する最も詳細な情報源である。

2024/25年には、63%が、自分の生活に影響を及ぼす決定をAIが下すことに抵抗があると回答した。62%は、AIによる決定には常に説明を伴うべきだと答えた（うち37%は、人間が決定を下し、説明することを望んでいた）。黒人および英国黒人の回答者では、福祉給付の受給資格判定におけるAIへの懸念は71%で、全国の59%を上回った。また、50%は、自分の生活に影響を及ぼすAIに関する決定に自分たちの意見が反映されていないと感じていた。2022/23年には、AIが安全に利用されていることを誰が確保すべきかという問いに対し、独立した規制機関が最も多く選ばれた（41%）。2024/25年には、回答者が最大3つの選択肢を選べる設問で、58%がこれを選んだ。

警察活動での顔認識（91%が有益とみなす）と福祉給付の受給資格判定（47%）との対比は示唆に富む。回答者は、他者を対象にするもの、あるいは職員のためのツールとみなされる場面ではAIを受け入れる一方、自分自身の受給権を左右する場面では拒むように見える。

証拠からは分からないこと

• 実際の決定後の行動。 ほとんどの研究は仮想的なシナリオを用いている。給付の不支給など、自動化された決定を実際に受けた人が、その正当性をどう判断し、従うのか、あるいは不服を申し立てるのかについての証拠は乏しい。
• 長期的な影響。 調査では2022年以降、懸念が高まっていることが示されているが、政府におけるAIへの反応と、生成AI全般や報道された出来事への反応とを切り分けることはできない。
• 現場におけるセーフガードの因果効果。 コンジョイント実験では、不服申立てや説明によって表明上の受容度が高まることが示されている。しかし、実際のサービスにそれらを導入すれば信頼が高まるかどうかは、フィールド実験によって検証されていない。
• 世界全体への一般化。 証拠の基盤は、圧倒的に米国と西欧から得られたものである。
• 受容の質。 「appreciation」に関する文献や顔認識の数値が示唆するように、人々は本来受け入れるべきでないシステムを受け入れる可能性がある。受容度の高さは、システムが公正である証拠にはならない。

制度設計への示唆

1. 個人に重大な影響を及ぼす決定では、人間の意思決定者を残し、アルゴリズムは助言として提示する。 ハイブリッド方式の正当性と「人間の技能」を要するタスクに関する証拠は、他のどの設計上の選択肢よりもこの方法を支持している。
2. 人間への不服申立てを、好意で認めるものではなく権利とする。 これは受容と最も一貫して関連する特徴であり、誤りに対する主要なセーフガードでもある。
3. システムだけでなく、個々の決定について説明する。 英国の透明性記録のようなアルゴリズム登録簿は監督に役立つが、信頼にとっては個別の説明のほうが重要である。
4. 重大な影響を伴う公共利用では、民間部門とのデータ共有や不透明な供給業者の役割を避けるか、それらを公然と正当化する。
5. 制度への信頼を高める。 受容は導入機関への信頼に左右される。信頼されていない機関は、より優れたモデルを用いても信頼を取り戻せない。
6. 受容を正当性と取り違えない。 システムは、その人気とは独立に、正確性と公正性について評価されるべきである。

未解決の問い

• 成功する不服申立てが少ないと人々が知っている場合でも、不服申立ての権利は信頼を高めるのか。
• AIと人間の職員の判断が食い違う場合、人々はその決定をどう判断するのか。また、どちらの判断が優先されるべきか。
• 2022年以降の懸念の高まりは、公共サービスにおけるAIの経験を反映しているのか、それとも生成AIへのより広範な不安を反映しているのか。
• 人間の職員への信頼がより低い可能性のある、西側民主主義国以外では、態度にどのような違いがあるのか。
• アルゴリズムシステムに関する市民会議などの参加型プロセスは、参加していない人々にとっても正当性を高められるのか。

出典

1. Dietvorst, B. J., Simmons, J. P. and Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General 144(1), 114-126.
2. Logg, J. M., Minson, J. A. and Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes 151, 90-103.
3. Burton, J. W., Stein, M.-K. and Jensen, T. B. (2020). A systematic review of algorithm aversion in augmented decision making. Journal of Behavioral Decision Making 33(2), 220-239.
4. Mahmud, H., Islam, A. K. M. N., Ahmed, S. I. and Smolander, K. (2022). What influences algorithmic decision-making? A systematic literature review on algorithm aversion. Technological Forecasting and Social Change 175, 121390.
5. Starke, C., Baleis, J., Keller, B. and Marcinkowski, F. (2022). Fairness perceptions of algorithmic decision-making: A systematic review of the empirical literature. Big Data & Society 9(2).
6. Starke, C. and Lünich, M. (2020). Artificial intelligence for political decision-making in the European Union: Effects on citizens' perceptions of input, throughput, and output legitimacy. Data & Policy 2, e16.
7. Kennedy, R. P., Waggoner, P. D. and Ward, M. M. (2022). Trust in Public Policy Algorithms. The Journal of Politics 84(2), 1132-1148.
8. Lee, M. K. (2018). Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management. Big Data & Society 5(1).
9. Binns, R., Van Kleek, M., Veale, M., Lyngs, U., Zhao, J. and Shadbolt, N. (2018). 'It's Reducing a Human Being to a Percentage': Perceptions of Justice in Algorithmic Decisions. 所収：Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems.
10. Miller, S. M. and Keiser, L. R. (2021). Representative Bureaucracy and Attitudes Toward Automated Decision Making. Journal of Public Administration Research and Theory 31(1), 150-165.
11. Ingrams, A., Kaufmann, W. and Jacobs, D. (2022). In AI we trust? Citizen perceptions of AI in government decision making. Policy & Internet 14(2), 390-409.
12. Grimmelikhuijsen, S. (2023). Explaining Why the Computer Says No: Algorithmic Transparency Affects the Perceived Trustworthiness of Automated Decision-Making. Public Administration Review 83(2), 241-262.
13. Horváth, L., James, O., Banducci, S. and Beduschi, A. (2023). Citizens' acceptance of artificial intelligence in public services: Evidence from a conjoint experiment about processing permit applications. Government Information Quarterly 40(4), 101876.
14. Wenzelburger, G., König, P. D., Felfeli, J. and Achtziger, A. (2024). Algorithms in the public sector. Why context matters. Public Administration 102(1), 40-60.
15. Araujo, T., Helberger, N., Kruikemeier, S. and de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & Society 35(3), 611-623.
16. Pew Research Center (2018). Public Attitudes Toward Computer Algorithms、2018年11月16日。
17. Pew Research Center (2023). Growing public concern about the role of artificial intelligence in daily life、2023年8月28日。
18. Pew Research Center (2025). How the U.S. Public and AI Experts View Artificial Intelligence、2025年4月3日。
19. Ada Lovelace Institute and The Alan Turing Institute (2023). How do people feel about AI? (2022/23 survey findings).
20. Ada Lovelace Institute and The Alan Turing Institute (2025). How do people feel about AI? (2024/25 survey findings).
21. OECD (2024). OECD Survey on Drivers of Trust in Public Institutions - 2024 Results. OECD Publishing.