الحكم الخوارزمي

الحُكم الخوارزمي (الحكم بواسطة الخوارزمية) يصف الأنظمة التي تنظّم السلوك وتقيّده فيها البرمجيات، لا الأوامر الهرمية أو القواعد المكتوبة التي يطبّقها البشر. لم تعد القاعدة شيئًا يفسّره مسؤول؛ بل أصبحت مضمّنة في شيفرة تحدد الخيارات المتاحة، والبيانات التي تُجمع، والنتيجة المترتبة.

صاغ عالم الاجتماع أ. أنيش هذا المصطلح لوصف كيفية إخضاع العمل البرمجي الموزّع عالميًا للضبط عبر منصات البرمجة بدلًا من الإشراف البيروقراطي. واستخدمه الفلاسفة والباحثون القانونيون لاحقًا في سياق صنع القرار العام: استحقاق الإعانات الاجتماعية، وكشف الاحتيال، والشرطة، والهجرة، وإنفاذ الضرائب، وتخصيص الخدمات العامة.

يختلف الحُكم الخوارزمي عن التكنوقراطية. فالتكنوقراطية هي حكم الخبراء البشر؛ أما الحُكم الخوارزمي فهو حكم من خلال أنظمة قد يكون منطقها مبهمًا حتى لمن ينشرونها. ويختلف عن استخدام الذكاء الاصطناعي في الحكومة من حيث التركيز: فالاهتمام لا ينصب على التكنولوجيا في حد ذاتها، بل على التحول في كيفية ممارسة السلطة ومنازعتها.

أنيش: من البيروقراطية إلى الشيفرة

قارن أنيش بين ثلاثة أنماط من التنظيم: البيروقراطي (القواعد والتسلسل الهرمي)، والبانوبتيقي (الرؤية والمراقبة)، والخوارزمي (البيئات المبرمجة التي تشكّل الفعل مباشرةً). في النظام الخوارزمي، لا يطيع العامل أو المواطن قاعدةً؛ بل لا يستطيع ببساطة فعل أي شيء لا يسمح به النظام. فالضبط مدمج في البنية.

داناهر: خطر الحُكم الخوارزمي

جادل جون داناهر بأن أنظمة اتخاذ القرار الخوارزمية تهدد شرعية القرارات العامة. فالإجراءات المشروعة، وفقًا لآراء كثيرة، تقتضي أن يكون المتأثرون قادرين على فهم المنطق الكامن وراء القرارات والمشاركة فيه. وإذا أصبحت الخوارزميات أدق من البشر لكنها أقل قابلية للفهم، تواجه المجتمعات معضلة: إما قبول قرارات مبهمة لكنها أفضل، أو الإصرار على قرارات مفهومة لكنها أسوأ. ودرس داناهر استراتيجيات المقاومة والتكيّف، بما فيها الرقابة البشرية وتعزيز فهم البشر، وشكّ في أن أيًا منها يحل المشكلة بالكامل.

التنظيم الخوارزمي

عرّفت كارين يونغ التنظيم الخوارزمي بأنه أنظمة لاتخاذ القرار تنظّم مجالًا من مجالات النشاط عبر توليد البيانات والبحث فيها باستمرار لإدارة المخاطر أو تغيير السلوك. وميّزت بين الأنظمة التفاعلية والاستباقية، وبيّنت كيف تنقل التنظيم من القواعد إلى التغذية الراجعة في الوقت الفعلي، غالبًا من دون الضمانات الإجرائية التي يوفّرها القانون الإداري.

الشيفرة هي القانون

تُعدّ حجة لورنس ليسيغ بأن بنية البرمجيات تنظّم بقدر ما ينظّم القانون سابقةً لهذا المفهوم: فإذا كانت «الشيفرة» في الفضاء السيبراني تحدد ما هو ممكن، فإن من يكتبونها يمارسون شكلًا من أشكال الحوكمة. وتمضي مشاريع البلوك تشين بهذا المنطق إلى أبعد من ذلك، إذ تتعامل مع العقود الذكية بوصفها قواعد ذاتية التنفيذ.

• هولندا، SyRI: ربط نظام «مؤشر المخاطر» التابع للحكومة الهولندية قواعد البيانات لتحديد الأشخاص للتحقيق معهم بشأن الاحتيال في استحقاقات الرعاية الاجتماعية. وفي 5 فبراير 2020، قضت محكمة مقاطعة لاهاي بأن التشريع الذي يجيز استخدامه ينتهك المادة 8 من الاتفاقية الأوروبية لحقوق الإنسان (احترام الحياة الخاصة)، مشيرةً إلى قصور الشفافية والضمانات.
• هولندا، إعانات رعاية الأطفال: خلص تقرير تحقيق برلماني، Ongekend onrecht («ظلم غير مسبوق»، ديسمبر 2020)، إلى أن إدارة الضرائب عاملت آلاف الآباء والأمهات خطأً بوصفهم محتالين، واستخدمت الجنسية في تقييم المخاطر؛ واستقالت حكومة روتّه الثالثة في يناير 2021.
• أستراليا، Robodebt: في الفترة الممتدة من نحو يوليو 2015 إلى نوفمبر 2019، احتسب نظام آلي متوسط بيانات الضرائب السنوية لتحديد ديون مستحقة عن إعانات الرعاية الاجتماعية. وفي دعوى جماعية، أقرّ الكومنولث بأن الديون المستندة حصراً إلى احتساب متوسط الدخل لا تستند إلى أساس قانوني سليم، وأقرت المحكمة الفيدرالية تسوية بقيمة $112 million في 11 يونيو 2021 (Prygodicz v Commonwealth (No 2) [2021] FCA 634). وقدمت لجنة ملكية تقريرها في 7 يوليو 2023، متضمناً استنتاجات شديدة بشأن تصميم النظام وإدارته.
• الولايات المتحدة: وثّقت فيرجينيا يوبانكس أنظمة آلية لتحديد الأهلية وتقييم مخاطر رعاية الأطفال في إنديانا ولوس أنجلوس ومقاطعة أليغيني، وحاجّت بأن هذه الأنظمة تركز المراقبة على الفقراء.
• ألبانيا: قدمت الحكومة في عام 2025 نظام ذكاء اصطناعي يُدعى Diella بوصفه «وزيراً» للمشتريات العامة، وهو ادعاء رمزي يوضح كيف تُصاغ السلطة الخوارزمية سياسياً في الوقت الراهن.
• التنظيم: يصنف قانون الذكاء الاصطناعي للاتحاد الأوروبي (اللائحة (EU) 2024/1689) أنظمة الذكاء الاصطناعي المستخدمة لتقييم الأهلية للحصول على المنافع والخدمات العامة بوصفها عالية المخاطر، ويشترط إدارة المخاطر والإشراف البشري والتوثيق.

• المبالغة في حداثة الظاهرة: لطالما استخدمت البيروقراطيات الاستمارات والدرجات وقوائم التحقق؛ ويرى النقاد أن الحكم الخوارزمي هو تكثيف للإدارة القائمة على القواعد، لا نظام جديد.
• الدقة لا تعني الحياد: تتضمن بيانات التدريب قرارات سابقة، لذا قد تعيد الأنظمة إنتاج التمييز حتى من دون إدخال السمات المحمية.
• انحياز الأتمتة: يميل المراجعون البشريون إلى التسليم بمخرجات الآلات، لذا قد تكون ضمانات «وجود إنسان ضمن حلقة اتخاذ القرار» اسمية فحسب.
• الأخطاء على نطاق واسع: تؤدي قاعدة معيبة تُطبَّق آلياً إلى أخطاء جماعية قبل أن يلاحظها أحد، كما أظهر نظام Robodebt.
• قابلية الاعتراض: غالباً ما يتعذر على المتأثرين الاطلاع على البيانات أو المنطق المستخدم ضدهم، ما يقوض حقوقهم في الطعن.
• حجة التفاؤل: يرى المدافعون أن الخوارزميات الشفافة الخاضعة للتدقيق قد تكون أكثر اتساقاً وأقل تحيزاً من الموظفين الذين يتصرفون وفق سلطتهم التقديرية، وأن المقارنة الأصح هي مع القرارات البشرية المعيبة، لا مع نموذج مثالي.

تُظهر الأدلة المستمدة من إدارة الرعاية الاجتماعية والضرائب أن أنظمة الحكم الخوارزمي قد تسبب أضراراً واسعة النطاق عندما تجمع بين المنطق المعتم وضعف الضمانات القانونية وافتراض وجود احتيال. وقد بدأت المحاكم والهيئات التشريعية بالاستجابة من خلال إقرار حقوق في التفسير والمراجعة البشرية، وتقييمات الأثر، والتنظيم القائم على المخاطر. وتتوقف مشروعية الحكم الخوارزمي على خيارات تصميم ذات طابع سياسي لا تقني: ما الذي يُؤتمت، ومن يحق له تدقيقه، وكيف تُصحح الأخطاء، ومن يتحمل كلفة الهفوات.

• جون داناهر، «The Threat of Algocracy» (2016)
• A. Aneesh، «Global Labor: Algocratic Modes of Organization» (2009)
• كارين يونغ، «Algorithmic regulation: A critical interrogation» (2018)
• قانون الذكاء الاصطناعي للاتحاد الأوروبي، Regulation (EU) 2024/1689
• فيرجينيا يوبانكس، Automating Inequality (St. Martin's Press, 2018)
• Report of the Royal Commission into the Robodebt Scheme (2023)
• [Prygodicz v Commonwealth (No 2) [2021] FCA 634](https://www.judgments.fedcourt.gov.au/judgments/Judgments/fca/single/2021/2021fca0634)