アルゴクラシー

アルゴクラシー（アルゴリズムによる統治）とは、人間が適用する階層的な命令や明文化された規則ではなく、ソフトウェアが行動を組織し、制約するシステムを指す。規則はもはや、官吏が解釈するものではない。どの選択肢を利用できるか、どのデータを収集するか、どのような結果になるかを定めるコードに埋め込まれている。

この用語は、社会学者A・アニッシュが、世界各地に分散したソフトウェア業務が官僚的な監督ではなくプログラミング・プラットフォームを通じて管理される仕組みを表すために作った。その後、哲学者や法学者はこれを公共の意思決定に用いるようになった。対象には、福祉給付の受給資格、不正検知、警察活動、移民、税務執行、公共サービスの配分が含まれる。

アルゴクラシーはテクノクラシーとは異なる。テクノクラシーは人間の専門家による統治であるのに対し、アルゴクラシーは、導入する側にとっても論理が不透明な場合のあるシステムを通じた統治である。政府におけるAIとも、重視する点が異なる。問題とされるのは技術そのものではなく、権威の行使や異議申し立てのあり方が変化することである。

アニッシュ：官僚制からコードへ

アニッシュは、組織化の形態を官僚制的（規則と階層）、パノプティコン的（可視性と監視）、アルゴクラシー的（行動を直接形作るプログラム化された環境）の3つに区別した。アルゴクラシー的なシステムでは、労働者や市民は規則に従うのではなく、システムが許可しないことは何もできない。統制はアーキテクチャに組み込まれている。

ダナハー：アルゴクラシーの脅威

ジョン・ダナハーは、アルゴリズムによる意思決定システムが、公共の意思決定の正統性を脅かすと論じた。多くの見解によれば、正統な手続きには、影響を受ける人々が意思決定の背後にある理由を理解し、それに参加できることが求められる。アルゴリズムが人間より高い精度を実現する一方、理解しにくくなれば、社会はジレンマに直面する。不透明でもより適切な決定を受け入れるか、理解しやすいが劣る決定を求めるかである。ダナハーは、人間による監督や人間の理解力の向上など、抵抗と適応のための方策を検討したが、問題を完全に解決するものはないと疑問を呈した。

アルゴリズムによる規制

カレン・ヨンは、アルゴリズムによる規制を、リスク管理や行動変容のためにデータを継続的に生成・探索し、ある活動領域を規制する意思決定システムと定義した。ヨンは、事後対応型のシステムと先制型のシステムを区別し、それらがいかに規制を規則からリアルタイムのフィードバックへと移行させるかを示した。その過程では、行政法上の手続的保障が欠けることも多い。

コードは法である

ソフトウェアのアーキテクチャも法と同じ程度に規制作用を持つというローレンス・レッシグの主張は、先駆的な議論である。サイバースペースの「コード」が何を可能とするかを決めるなら、それを書く者は統治の一形態を行使する。ブロックチェーン・プロジェクトは、スマートコントラクトを自己執行する規則として扱うことで、この考えをさらに推し進めている。

• オランダ、SyRI：オランダ政府の「System Risk Indication（システムリスク指標）」は、データベースを連結し、福祉給付詐欺の調査対象者を抽出していた。2020年2月5日、ハーグ地方裁判所は、同システムを認める法律は欧州人権条約第8条（私生活の尊重）に違反すると判示し、透明性と保護措置が不十分であることを理由に挙げた。
• オランダ、育児手当：議会調査報告書『Ongekend onrecht』（「前例のない不正義」、2020年12月）は、税務当局が数千人の親を誤って詐欺者として扱い、リスク評価に国籍を用いていたと認定した。第3次ルッテ内閣は2021年1月に辞任した。
• オーストラリア、Robodebt：2015年7月頃から2019年11月まで、自動化された制度が年間の税務データを平均化し、福祉給付の債務を算定した。集団訴訟で、連邦政府は、所得の平均化のみに基づく債務には適切な法的根拠がないことを認め、連邦裁判所は2021年6月11日、1億1,200万ドルの和解を承認した（Prygodicz v Commonwealth (No 2) [2021] FCA 634）。王立委員会は2023年7月7日に報告書を提出し、制度の設計と運営について厳しい認定を示した。
• 米国：ヴァージニア・ユーバンクスは、インディアナ州、ロサンゼルス、アレゲニー郡における自動化された受給資格判定システムと児童福祉リスク評価システムを記録し、こうしたシステムは貧困層への監視を集中させると論じた。
• アルバニア：政府は2025年、公共調達担当の「大臣」として、DiellaというAIシステムを発表した。この象徴的な主張は、アルゴリズムによる権威がいまや政治的にどのように位置づけられているかを示している。
• 規制：EU人工知能法（規則（EU）2024/1689）は、公的給付やサービスの受給資格評価に用いられるAIシステムを高リスクに分類し、リスク管理、人間による監督、文書化を義務づけている。

• 新規性の誇張：官僚制はこれまでも常に書式、スコア、チェックリストを用いてきた。批判者は、アルゴクラシーは新たな体制というより、ルールに基づく行政の強化であると論じる。
• 正確さは中立性を意味しない：学習データには過去の決定が反映されるため、保護対象属性が入力に含まれていなくても、システムが差別を再生産する可能性がある。
• 自動化バイアス：人間の審査担当者は機械の出力に従いがちであるため、「人間が介在する」保護措置は名目だけのものになりうる。
• 大規模な誤り：欠陥のあるルールを自動的に適用すると、誰かが気づく前に大量の誤りが生じる。Robodebtはその実例である。
• 異議申立ての可能性：影響を受ける人々は、自分に不利に用いられたデータやロジックを確認できないことが多く、これは不服申立ての権利を損なう。
• 楽観論：擁護者は、透明性があり監査を受けたアルゴリズムは、裁量を持つ公務員より一貫性が高く、偏りも少なくなりうると論じる。また、比較対象とすべきなのは理想的な判断ではなく、欠陥のある人間の判断であると主張する。

福祉・税務行政の証拠は、不透明なロジック、弱い法的保護措置、詐欺があるとの推定が組み合わさると、アルゴクラシー的システムが大規模な被害をもたらしうることを示している。裁判所や立法府は、説明を受ける権利や人間による審査、影響評価、リスクに基づく規制を導入し始めている。アルゴクラシーが正当性を得られるかどうかは、技術的ではなく政治的な設計上の選択にかかっている。すなわち、何を自動化するのか、誰が監査できるのか、誤りをどう是正するのか、そして誤りのコストを誰が負担するのかである。

• John Danaher, "The Threat of Algocracy" (2016)
• A. Aneesh, "Global Labor: Algocratic Modes of Organization" (2009)
• Karen Yeung, "Algorithmic regulation: A critical interrogation" (2018)
• EU Artificial Intelligence Act, Regulation (EU) 2024/1689
• Virginia Eubanks, Automating Inequality (St. Martin's Press, 2018)
• Report of the Royal Commission into the Robodebt Scheme (2023)
• [Prygodicz v Commonwealth (No 2) [2021] FCA 634](https://www.judgments.fedcourt.gov.au/judgments/Judgments/fca/single/2021/2021fca0634)