الطعن في القرارات المؤتمتة: التفسير والمراجعة البشرية والاستئناف

عندما تستخدم هيئة عامة أو شركة نظامًا آليًا لرفض منفعة، أو للإبلاغ عن شخص للتحقيق معه، أو لرفض عقد، فما الذي يمكن للشخص المتضرر فعله فعليًا؟ يتيح القانون ثلاث أدوات متميزة: الحق في الحصول على تفسير (لمعرفة السبب)، والحق في المراجعة البشرية (لإعادة النظر في الأمر من قبل شخص)، وحق الطعن (لإحالة المسألة إلى هيئة مستقلة). وقد تغيرت هذه الأدوات تغيرًا جوهريًا بين عامي 2023 و2026. فقد قضت محكمة العدل التابعة للاتحاد الأوروبي (CJEU) في قضية SCHUFA (C‑634/21, 2023) بأن درجة الائتمان يمكن أن تشكل بحد ذاتها قرارًا آليًا، وفي قضية Dun & Bradstreet Austria (C‑203/22, 2025) بأن للأشخاص الحق في الحصول على تفسير «للإجراء والمبادئ المطبقة فعليًا»؛ وأضاف قانون الذكاء الاصطناعي للاتحاد الأوروبي حقًا في الحصول على تفسير للقرارات المستندة إلى أنظمة عالية المخاطر؛ واعتمد مجلس أوروبا أول معاهدة ملزمة بشأن الذكاء الاصطناعي؛ وأعادت المملكة المتحدة صياغة قواعدها المتعلقة بالقرارات الآلية؛ وأدخلت القواعد الاتحادية وقواعد الولايات في الولايات المتحدة واجبات للطعن والمراجعة البشرية. ترسم هذه الدراسة خريطة لهذه الحقوق وتقارن بينها، وتسأل عما تُظهره الأدلة المستمدة من الحالات الواقعية بشأن الآليات التي تساعد الناس عمليًا.

النتائج الرئيسية

• أصبح لدى الاتحاد الأوروبي الآن معيار عملي للتفسير. قضت محكمة العدل التابعة للاتحاد الأوروبي في قضية Dun & Bradstreet Austria بأن على المتحكمين وصف الإجراء والمبادئ المطبقة فعليًا، بما يمكّن الأشخاص من فهم البيانات المستخدمة وكيفية استخدامها؛ فمجرد إبلاغهم بوجود خوارزمية لا يكفي، أما الاعتراضات المتعلقة بالأسرار التجارية فتُحال إلى محكمة أو سلطة إشرافية للموازنة.
• اتسع نطاق «القرار الآلي». قضت محكمة العدل التابعة للاتحاد الأوروبي في قضية SCHUFA بأن الدرجة تشكل قرارًا فرديًا آليًا بموجب المادة 22 من اللائحة العامة لحماية البيانات (GDPR) عندما يُسند إليها العميل «دور حاسم».
• المادة 86 من قانون الذكاء الاصطناعي أضيق مما تبدو عليه. فهي تشمل القرارات المستندة إلى أنظمة عالية المخاطر مدرجة في الملحق الثالث، ذات آثار قانونية أو آثار مهمة مماثلة، ولا تنطبق إلا عندما لا ينص قانون الاتحاد على هذا الحق مسبقًا، كما أنها تعتمد على التزامات الأنظمة عالية المخاطر التي أرجأتها الحزمة الرقمية الشاملة لعام 2026 إلى 2 December 2027.
• تتقارب الولايات القضائية حول مجموعة مشتركة من الأدوات — الإشعار، والأسباب، والتدخل البشري، والاعتراض — لكنها تختلف بشأن ما إذا كانت القرارات الآلية حصرًا محظورة من حيث المبدأ (الاتحاد الأوروبي)، أم مسموحًا بها مع ضمانات (المملكة المتحدة بعد 2025، وكولورادو، والوكالات الاتحادية الأمريكية).
• عمليًا، نادرًا ما أوقفت الحقوق الفردية الأنظمة الضارة. أوقفت التقاضي الاستراتيجي والدعاوى الجماعية والجهات التنظيمية والتحقيقات الحالات الموثقة جيدًا — SyRI وRobodebt ونموذج إعانات رعاية الأطفال الهولندي وMiDAS؛ أما الطعون الفردية فساعدت الأفراد، ولكن ببطء.
• لا تكون المراجعة البشرية أفضل من المعلومات والوقت والصلاحيات المتاحة للمراجع. تُظهر الأدلة من هولندا وصربيا أن المراجعين كانوا يحجمون عن التشكيك في أنظمة لم يكن بوسعهم استجوابها.

سؤال البحث ونطاقه

تطرح الدراسة سؤالين مترابطين: ما الحقوق القانونية المتاحة الآن للأشخاص الخاضعين لقرارات آلية، فيما يتعلق بالتفسير والمراجعة البشرية والطعن، وماذا تُظهر الأدلة بشأن أيٍّ منها ينجح؟ وهي تتناول قانون الاتحاد الأوروبي (اللائحة العامة لحماية البيانات، والسوابق القضائية لمحكمة العدل التابعة للاتحاد الأوروبي، وقانون الذكاء الاصطناعي)، والاتفاقية الإطارية لمجلس أوروبا، والمملكة المتحدة، والتدابير الاتحادية وتدابير الولايات في الولايات المتحدة، مع الإشارة إلى فرنسا حيث توثق منظمة التعاون والتنمية في الميدان الاقتصادي قواعدها. وتركز على قرارات القطاع العام، لكنها تشمل تقييم الجدارة الائتمانية في القطاع الخاص لأن أحكام محكمة العدل التابعة للاتحاد الأوروبي الرائدة تتعلق به، ولأن تعليلاتها تنطبق على المتحكمين في القطاع العام.

خلفية

ثلاثة حقوق، وثلاث وظائف

تعتمد هذه الحقوق الثلاثة بعضها على بعض. فبدون تفسير، يُطلب من مراجع أو هيئة قضائية التحقق من نتيجة من دون معرفة أسبابها؛ وبدون طعن مستقل، قد تصبح المراجعة البشرية إجراءً شكلياً داخل المنظمة نفسها.

النقاش الأكاديمي

بعد وقت قصير من اعتماد اللائحة العامة لحماية البيانات (GDPR)، جادل Wachter وMittelstadt وFloridi (2017) بأنه لا يوجد في اللائحة «حق في التفسير» ملزم قانوناً للقرارات الآلية الفردية، وأنها لا تمنح، في أفضل الأحوال، سوى الحق في معرفة كيفية عمل النظام. وجادل Edwards وVeale (2017) بأن الحق في التفسير، أياً كان نطاقه، «على الأرجح ليس العلاج الذي تبحث عنه»، لأنه يلقي العبء على الأفراد، ولأن تقديم تفسيرات مفيدة للنماذج المعقدة أمر صعب؛ وأشارا إلى أدوات أخرى مثل تقييمات الأثر. واقترح Wachter وMittelstadt وRussell (2018) التفسيرات المضادة للواقع — أي بيانات توضح ما الذي كان ينبغي أن يختلف كي تختلف النتيجة — وسيلةً لإطلاع الأشخاص من دون الكشف عن النموذج. ويمكن قراءة حكم محكمة العدل للاتحاد الأوروبي لعام 2025 على أنه يتبنى صيغة من هذه الفكرة.

المنهجية والمصادر

تعتمد الدراسة على النصوص القانونية الأولية (اللائحة العامة لحماية البيانات (GDPR)، وقانون البيانات (الاستخدام والوصول) البريطاني لعام 2025، وقانون الذكاء الاصطناعي بصيغته المعدلة، واتفاقية مجلس أوروبا، ومذكرة مكتب الإدارة والميزانية M‑25‑21، وتشريعات كولورادو، ولوائح كاليفورنيا)، والبيانات الصحفية الرسمية لمحكمة العدل للاتحاد الأوروبي بشأن قضيتي SCHUFA وDun & Bradstreet Austria، والدراسات الأكاديمية المحكمة. وتستند الأدلة على الممارسة إلى دراسات الحالة الواردة في الدراسة المقارنة لإنفاذ أنظمة الرعاية الاجتماعية آلياً التي أعدتها Polity Atlas، وإلى دراستي فضيحة إعانات رعاية الأطفال الهولندية وRobodebt.

القيود. لُخّصت أحكام محكمة العدل للاتحاد الأوروبي بالاستناد إلى بيانات المحكمة الصحفية نفسها، التي تصفها المحكمة بأنها غير رسمية؛ وينبغي الرجوع إلى النصوص الكاملة للاطلاع على التفاصيل. ولا تزال عدة أنظمة حديثة العهد أو لم يبدأ تطبيقها بالكامل، لذا لا تتوافر إلا أدلة محدودة على آثارها. ولم يكن بالإمكان الوصول إلى مواقع مجلس أوروبا الإلكترونية عند مراجعة هذه الدراسة، لذا استُعين بالنص الإنجليزي الرسمي لمواد الاتفاقية المنشور في قاعدة بيانات المعاهدات التابعة للحكومة الهولندية، ولا تذكر الدراسة هنا الوضع الراهن للتصديقات.

النتيجة 1: قانون حماية البيانات في الاتحاد الأوروبي بعد قضيتي SCHUFA وDun & Bradstreet

الأساس: المادتان 22 و15 من اللائحة العامة لحماية البيانات

تمنح المادة 22(1) من اللائحة العامة لحماية البيانات (GDPR) الشخص «الحق في ألا يكون خاضعًا لقرار يستند حصريًا إلى المعالجة الآلية، بما في ذلك التنميط، ويُحدث آثارًا قانونية تخصه أو تؤثر فيه على نحو مماثل وجوهري». وتوجد استثناءات تتعلق بالعقود والموافقة الصريحة والقرارات التي يجيزها قانون الاتحاد أو قانون دولة عضو، شريطة أن ينص على ضمانات مناسبة. وعندما ينطبق استثناء العقد أو الموافقة، تقتضي المادة 22(3) «كحد أدنى، الحق في الحصول على تدخل بشري من جانب المتحكم، وإبداء وجهة نظره والطعن في القرار». وتمنح المادة 15(1)(h) حق الوصول إلى «معلومات مفيدة عن المنطق المتبع» في مثل هذه القرارات.

SCHUFA (C‑634/21)، 7 ديسمبر 2023

أنتجت وكالة الائتمان الألمانية SCHUFA درجات ائتمانية استخدمتها المصارف. ورأت المحكمة أن احتساب الدرجات «يجب اعتباره «قرارًا فرديًا آليًا» تحظره اللائحة العامة لحماية البيانات من حيث المبدأ، بقدر ما يُسند عملاء SCHUFA، مثل المصارف، إليه دورًا حاسمًا في منح الائتمان». وتكمن الأهمية في البنية: فالحق يتعلق بالجهة التي تنتج الدرجة الحاسمة، لا بالجهة التي تتخذ القرار رسميًا فحسب. وفي القطاع العام، يشير ذلك إلى أن درجة مخاطر تحدد عمليًا ما إذا كان سيُحقق في مطالبة أو سيُرفض قبولها قد تندرج هي نفسها ضمن المادة 22، حتى إن وقّع مسؤول على النتيجة.

Dun & Bradstreet Austria (C‑203/22)، 27 فبراير 2025

رفض مشغّل للهاتف المحمول إبرام عقد مع أحد العملاء — بدفعة شهرية قدرها €10 — بسبب تقييم ائتماني آلي أجرته Dun & Bradstreet. وكانت محكمة نمساوية قد خلصت بالفعل إلى أن الشركة أخفقت في تقديم «معلومات مفيدة عن المنطق المتبع». وفي إحالة بشأن إنفاذ القانون، قضت المحكمة بما يلي:

• يجب على المتحكم «وصف الإجراء والمبادئ المطبقة فعليًا على نحو يمكّن صاحب البيانات من فهم البيانات الشخصية الخاصة به التي استُخدمت وكيفية استخدامها»؛
• «قد يكون من المناسب، على وجه الخصوص، إبلاغ صاحب البيانات بمدى ما كان سيؤدي إليه تغيير البيانات الشخصية المأخوذة في الحسبان من نتيجة مختلفة» — وهو تفسير قائم على الافتراض المضاد للواقع؛
• «مجرد إبلاغ الشخص بخوارزمية لا يشكل تفسيرًا موجزًا بما يكفي وسهل الفهم»؛
• عندما يدعي المتحكم أن المعلومات تتضمن بيانات تخص أطرافًا ثالثة أو أسرارًا تجارية، فعليه تقديم تلك المعلومات إلى السلطة الإشرافية المختصة أو المحكمة، لتوازن بين المصالح؛ ولا يُجيز ذلك حكمٌ وطني يستبعد الوصول كقاعدة كلما تعلقت المسألة بأسرار تجارية.

وكان العنوان الرئيسي الذي وضعته المحكمة نفسها هو أن «التفسير المقدَّم يجب أن يمكّن صاحب البيانات من فهم القرار الآلي والطعن فيه». وهكذا يُعرَّف التفسير من خلال وظيفته في إتاحة الطعن.

النتيجة 2: قانون الذكاء الاصطناعي للاتحاد الأوروبي

المادة 86: حق في التفسير بشأن القرارات عالية المخاطر

تمنح المادة 86(1) من قانون الذكاء الاصطناعي «أي شخص متأثر خاضع لقرار تتخذه الجهة المستخدمة استنادًا إلى مخرجات نظام ذكاء اصطناعي عالي المخاطر مدرج في الملحق III»، باستثناء الأنظمة الواردة في النقطة 2 من ذلك الملحق (البنية التحتية الحيوية)، والذي يُحدث آثارًا قانونية أو يؤثر فيه تأثيرًا مماثلًا وجوهريًا بطريقة يعتبرها ضارة بصحته أو سلامته أو حقوقه الأساسية، الحق في الحصول على «تفسيرات واضحة وذات مغزى لدور نظام الذكاء الاصطناعي في إجراءات اتخاذ القرار وللعناصر الرئيسية للقرار المتخذ». وتنص المادة 86(3) على أن المادة تنطبق «فقط بالقدر الذي لا ينص فيه قانون الاتحاد على نحو آخر على الحق المشار إليه في الفقرة 1»؛ أي إن اللائحة العامة لحماية البيانات هي التي تسري متى كانت تنص بالفعل على تفسير.

التوقيت بعد الحزمة الرقمية الشاملة

التاريخ العام لبدء تطبيق قانون الذكاء الاصطناعي هو 2 August 2026. غير أن اللائحة (EU) 2026/1744 (الحزمة الرقمية الشاملة بشأن الذكاء الاصطناعي) عدّلت المادة 113 بحيث يبدأ تطبيق الفصل III، الأقسام 1–3 — وهي الالتزامات الأساسية للأنظمة عالية المخاطر — في 2 December 2027 على الأنظمة الواردة في الملحق III، وفي 2 August 2028 على الأنظمة الواردة في الملحق I. وبما أن المادة 86 محددة بالاستناد إلى الأنظمة عالية المخاطر الواردة في الملحق III، فإن أثرها العملي قبل بدء تطبيق نظام الأنظمة عالية المخاطر غير مؤكد؛ وكيفية تعامل السلطات والمحاكم مع الفترة الانتقالية مسألة مفتوحة.

مسارات أخرى في قانون الذكاء الاصطناعي

يتيح القانون أيضًا لأي شخص تقديم شكوى إلى سلطة مراقبة السوق، ويلزم الجهات المستخدمة للأنظمة عالية المخاطر باستخدامها تحت إشراف بشري، كما يلزم الجهات المستخدمة التابعة للقانون العام لبعض الأنظمة الواردة في الملحق III بإجراء تقييم للأثر على الحقوق الأساسية. وهذه في معظمها واجبات سابقة للتطبيق؛ أما المادة 86 فهي سبيل الانتصاف الفردي الرئيسي.

النتيجة 3: اتفاقية مجلس أوروبا الإطارية

فُتح باب التوقيع على الاتفاقية الإطارية بشأن الذكاء الاصطناعي وحقوق الإنسان والديمقراطية وسيادة القانون (CETS No. 225) في 5 September 2024 في فيلنيوس. ويتناول الفصل IV سبل الانتصاف. وتُلزم المادة 14 كل طرف، «بالقدر الذي تقتضيه سبل الانتصاف بموجب التزاماته الدولية وبما يتفق مع نظامه القانوني المحلي»، بضمان «سبل انتصاف متاحة وفعالة» لانتهاكات حقوق الإنسان الناجمة عن أنظمة الذكاء الاصطناعي، بما في ذلك تدابير توثيق المعلومات ذات الصلة بشأن الأنظمة التي قد تؤثر تأثيرًا كبيرًا في حقوق الإنسان، وإتاحتها للأشخاص المتأثرين عند الاقتضاء؛ وضمان أن تكون هذه المعلومات «كافية لتمكين الأشخاص المتأثرين من الطعن في القرار (القرارات)» المتخذة بواسطة النظام أو المستندة إليه بدرجة جوهرية؛ و«إمكانية فعالة للأشخاص المعنيين لتقديم شكوى إلى السلطات المختصة». وتُلزم المادة 15 بضمانات إجرائية فعالة عندما «يؤثر نظام ذكاء اصطناعي تأثيرًا كبيرًا في التمتع بحقوق الإنسان»، وتطلب من الأطراف «السعي إلى ضمان» إبلاغ الأشخاص بأنهم يتفاعلون مع نظام ذكاء اصطناعي. وصيغت الالتزامات بعبارات عامة، بما يترك للأطراف سلطة تقديرية في التنفيذ، وهي لا تلزم إلا الأطراف: فبموجب المادة 30(3)، تدخل الاتفاقية حيز النفاذ بعد ثلاثة أشهر من تصديق خمسة من الموقعين عليها، على أن يكون من بينهم ما لا يقل عن ثلاث دول أعضاء في مجلس أوروبا.

النتيجة 4: المملكة المتحدة بعد 2025

حلّ قانون البيانات (الاستخدام والوصول) لعام 2025، الذي نال الموافقة الملكية في 19 June 2025، محل المادة 22 من اللائحة العامة لحماية البيانات في المملكة المتحدة بمواد جديدة هي 22A–22D. وهذا التغيير في النهج مهم:

• يُعدّ القرار «مستندًا حصريًا إلى المعالجة الآلية إذا لم يكن للإنسان دور فعلي في اتخاذ القرار»، ويكون «مهمًا» إذا ترتب عليه أثر قانوني أو أثر مهم مماثل؛
• تكون القرارات المهمة المؤتمتة بالكامل مقيّدة أساسًا عندما تعتمد على بيانات الفئات الخاصة — فلا يُسمح بها إلا بموافقة صريحة، أو إذا كان القرار ضروريًا لإبرام عقد أو كان القانون يوجبه أو يجيزه وانطبق شرط المصلحة العامة الجوهرية الوارد في المادة 9(2)(g) — أو استنادًا إلى الأساس الجديد المتمثل في «المصالح المشروعة المعترف بها»، بدلًا من حظرها من حيث المبدأ؛
• عند اتخاذ مثل هذه القرارات، يتعين على المتحكمين توفير ضمانات «تزوّد صاحب البيانات بمعلومات عن القرارات»، و«تمكّن صاحب البيانات من تقديم ملاحظاته»، و«تمكّن صاحب البيانات من طلب تدخل بشري»، و«تمكّن صاحب البيانات من الطعن في مثل هذه القرارات»؛
• يجوز لوزير الدولة أن يحدد، بموجب لوائح، ما يُعدّ دورًا بشريًا فعليًا وآثارًا مهمة مماثلة.

وهكذا، انتقلت المملكة المتحدة من نموذج الحظر مع الاستثناءات إلى نموذج الإباحة مع الضمانات، مع الإبقاء على الضمانات الأساسية الأربع.

النتيجة 5: الولايات المتحدة

لا يوجد حق اتحادي عام في الحصول على تفسير للقرارات المؤتمتة أو الطعن فيها؛ وبدلًا من ذلك، توجد مجموعة متفرقة من الأحكام:

• الوكالات الاتحادية. تقتضي مذكرة مكتب الإدارة والميزانية M‑25‑21 (3 April 2025)، التي ألغت المذكرة M‑24‑10 وحلّت محلها، أن تطبّق الوكالات الحد الأدنى من ممارسات إدارة المخاطر على «الذكاء الاصطناعي عالي الأثر» خلال 365 days، بما في ذلك «ضمان إتاحة مراجعة بشرية في الوقت المناسب للأفراد المتأثرين بالقرارات المدعومة بالذكاء الاصطناعي، وإتاحة فرصة للطعن في أي آثار سلبية، عند الاقتضاء». ويجوز لكبار مسؤولي الذكاء الاصطناعي في الوكالات الإعفاء من الحد الأدنى للممارسات، على أن تُسجّل الإعفاءات ويُبلّغ عنها وتُلخّص علنًا.
• كولورادو. يفرض القانون SB24‑205، الذي أُقرّ في 17 May 2024، على الجهات الناشرة لأنظمة الذكاء الاصطناعي عالية المخاطر التي تتخذ قرارات ذات عواقب أو تؤثر فيها تأثيرًا جوهريًا، إخطار المستهلكين وإتاحة فرصة لهم لتصحيح البيانات الشخصية غير الصحيحة، فضلًا عن «فرصة للطعن في قرار سلبي ذي عواقب، عن طريق مراجعة بشرية إذا كان ذلك ممكنًا من الناحية التقنية». ومدّد القانون SB25B‑004، الموقّع في 28 August 2025، تاريخ بدء سريان هذه المتطلبات إلى 30 June 2026. وفي May 2026، غيّر المجلس التشريعي مساره: إذ ألغى القانون SB26‑189، الموقّع في 14 May 2026، أحكام عام 2024 وأعاد سنّها بوصفها قانونًا بشأن «تقنية اتخاذ القرار الآلي» المستخدمة للتأثير تأثيرًا جوهريًا في القرارات ذات العواقب، على أن تبدأ الالتزامات في 1 January 2027. ويتعين على الجهات الناشرة تقديم إخطار عند نقطة التفاعل، وخلال 30 days من النتيجة السلبية، تقديم وصف بلغة واضحة لدور التقنية؛ ويجوز للمستهلكين طلب بياناتهم، وتصحيح البيانات غير الصحيحة من الناحية الواقعية، و«مراجعة بشرية مجدية وإعادة النظر»؛ ويتولى المدعي العام الإنفاذ، من دون استحداث حق خاص جديد في إقامة دعوى.
• كاليفورنيا. تنفّذ لوائح وكالة حماية الخصوصية في كاليفورنيا، التي أُقرت في 22 September 2025 ويسري مفعولها اعتبارًا من 1 January 2026 مع مواعيد امتثال مرحلية، حقوق المستهلكين في الاطلاع على المعلومات المتعلقة باستخدام الشركات لتقنية اتخاذ القرار الآلي، وفي رفض هذا الاستخدام.
• مدينة نيويورك. يحظر القانون المحلي رقم 144 لعام 2021 على أصحاب العمل استخدام أدوات اتخاذ القرارات الآلية في التوظيف ما لم تخضع لتدقيق للتحيز خلال سنة، وتُنشر نتائج التدقيق، ويُخطَر المرشحون — وهو نموذج قائم على التدقيق والإخطار من دون حق فردي في الطعن.

المقارنة

النتيجة 6: ما الذي ينجح عملياً

المسارات المنهجية تتفوق على المسارات الفردية

في أفضل الحالات الموثقة، كانت التدخلات الحاسمة جماعية أو مؤسسية:

• التقاضي الاستراتيجي. في قضية SyRI، حصل ائتلاف من منظمات المجتمع المدني على حكم قضائي يقضي بأن التشريع انتهك المادة 8 من الاتفاقية الأوروبية لحقوق الإنسان. ورأت المحكمة أنه من دون الاطلاع على نموذج المخاطر، «يصعب تصور كيف يمكن لصاحب البيانات أن يدافع عن نفسه» — معتبرةً الشفافية شرطاً مسبقاً للطعن الفردي.
• الدعاوى الجماعية. أسفرت الدعوى الجماعية بشأن Robodebt عن تسويات لا تقل قيمتها عن $1.8 مليار (2021) و$548.5 مليون (أُقرت في 2026).
• الجهات التنظيمية. خلصت هيئة حماية البيانات الهولندية إلى عدم مشروعية مؤشرات المخاطر القائمة على الجنسية، وفرضت غرامة على إدارة الضرائب.
• التحقيقات. أرغم التحقيق البرلماني الهولندي واللجنة الملكية الأسترالية السياسيين على تحمل المسؤولية.

كانت الطعون الفردية مهمة أساساً بوصفها مؤشرات. ففي ميشيغان، لاحظ المحامون ارتفاعاً مفاجئاً في نجاح الطعون المتعلقة بالاحتيال قبل أن يكتشفوا أن MiDAS أصدر نتائج من دون مراجعة بشرية. وفي صربيا، وثّقت منظمة العفو الدولية حالة امرأة نجحت في استعادة عملها بعد طعنها للمرة الثانية بمساعدة قانونية مجانية — وذلك بعد أشهر من انقطاع دخلها.

تفشل المراجعة البشرية من دون معلومات ووقت وصلاحيات

لم يُبلَّغ المراجعون الهولنديون لطلبات إعانة رعاية الأطفال بسبب تصنيف طلبٍ ما على أنه مرتفع المخاطر. وأخبر الأخصائيون الاجتماعيون الصرب المطالبين بأن «النظام الجديد من بلغراد» هو من اتخذ القرار. ولم تجد أدلة تجريبية من هولندا (Alon-Barkat and Busuioc, 2023) تحيزاً عاماً للأتمتة، لكنها وجدت ميلاً إلى اتباع المشورة التي توافق الصور النمطية الجماعية؛ ولم يظهر ذلك لدى الموظفين المدنيين الذين خضعوا للاختبار بعد فضيحة إعانة رعاية الأطفال بوقت قصير. ويرى بن غرين (2022) أن اشتراطات الإشراف البشري قد تبعث طمأنينة زائفة وتضفي الشرعية على الأنظمة المعيبة، ويقترح أن تبرر الجهات بدلاً من ذلك استخدام الخوارزميات وأن تخضعها للإشراف المؤسسي.

تكون التفسيرات مفيدة عندما تتيح اتخاذ إجراء

إن معيار محكمة العدل للاتحاد الأوروبي في قضية Dun & Bradstreet — ما البيانات المستخدمة، وكيف استُخدمت، وما التغيير الذي كان سيبدل النتيجة — هو نوع التفسير الذي يتيح للشخص تصحيح البيانات (كما في الحالات الصربية التي سُجّل فيها الدخل أو السيارات المُلغاة خطأً) أو الطعن في منهجية ما (كما في احتساب متوسطات Robodebt). أما الأوصاف العامة لـ«الخوارزمية» فلا تتيح ذلك.

ما الذي لا تثبته الأدلة

• لا تتوافر بعد أدلة كثيرة على آثار الأنظمة الجديدة. فالمادة 86، ومواد المملكة المتحدة 22A–22D، وحق المراجعة البشرية في كولورادو حديثة العهد إلى حد لا يسمح بتوافر بيانات عن النتائج.
• لا تثبت أن الحقوق الفردية عديمة الفائدة. فهي مدخلات ضرورية للانتصاف المنهجي؛ وغالباً ما تستند ائتلافات التقاضي والجهات التنظيمية إلى الشكاوى الفردية.
• لا تثبت إمكان تقديم تفسيرات في جميع الحالات. ففي بعض النماذج المعقدة، لا تزال إمكانية تقديم تفسيرات أمينة للنتائج الفردية موضع خلاف تقني؛ ويتجاوز معيار محكمة العدل للاتحاد الأوروبي هذه المسألة بالتركيز على البيانات والمبادئ المطبقة فعلياً.
• لا تحدد مدى تكرار تجاوز المراجعين للأنظمة. فقليل من الهيئات العامة تنشر معدلات التجاوز أو معدلات نجاح الطعون المتعلقة بالقرارات المؤتمتة.

دلالات تصميم المؤسسات

يحظى التصميم متعدد المستويات بدعم من الأدلة أكثر من أي حق منفرد:

1. الإشعار باستخدام نظام مؤتمت، وقت اتخاذ القرار.
2. أسباب قابلة لاتخاذ إجراء بناءً عليها: البيانات المستخدمة، وكيفية استخدامها، وما الذي سيغير النتيجة — وفق معيار Dun & Bradstreet — على أن تحسم سلطة مستقلة، لا الجهة المتحكمة، النزاعات المتعلقة بالأسرار التجارية.
3. مراجعة بشرية فعلية: مراجعون يمكنهم الاطلاع على أسباب النظام، ولديهم وقت للتحقق وصلاحية صريحة لتجاوز قراراته؛ مع نشر معدلات التجاوز.
4. طعن مستقل يوقف استرداد الأموال أو فرض العقوبات ريثما يُبتّ فيه، مع توفير المساعدة القانونية للمطالبين ذوي الدخل المنخفض.
5. آليات تفعيل منهجية: إبلاغ جهة تنظيمية أو أمين مظالم بإحصاءات الطعون المجمّعة، ومنحها صلاحية تعليق نظام، وإتاحة سبل الانتصاف الجماعي.
6. السجلات والموافقة القانونية المسبقة على النشر، لاختبار مشروعية المنهج قبل تطبيقه على آلاف الأشخاص.

أسئلة مفتوحة

• كيف ستطبّق المحاكم الوطنية اختبار «الدور الحاسم» الوارد في SCHUFA على درجات المخاطر في القطاع العام التي لا تفعل، من الناحية الرسمية، سوى اختيار الحالات للمراجعة؟
• هل ستضع السلطات الرقابية إجراءات عملية للموازنة بين الأسرار التجارية وحقوق الوصول، على النحو الذي يقتضيه Dun & Bradstreet؟
• كيف ستُطبّق المادة 86 قبل ديسمبر 2027، وهل ستوضح إرشادات المفوضية علاقتها باللائحة العامة لحماية البيانات (GDPR)؟
• هل سيؤدي تحوّل المملكة المتحدة إلى نموذج الإذن المشروط بضمانات إلى زيادة القرارات المؤتمتة حصراً، وهل سيُعرَّف «التدخل البشري الفعّال» تعريفاً صارماً؟
• هل ستُستخدم الإعفاءات الفدرالية الأمريكية من الحد الأدنى للممارسات على نحو محدود أم اعتيادي، وهل ستتقارب الولايات نحو نموذج المراجعة البشرية في كولورادو؟

المصادر

1. البرلمان الأوروبي والمجلس (2016). اللائحة (الاتحاد الأوروبي) 2016/679 (اللائحة العامة لحماية البيانات)، المادتان 15 و22.
2. محكمة العدل للاتحاد الأوروبي (2023). البيان الصحفي رقم 186/23: SCHUFA Holding (Scoring)، C‑634/21، 7 ديسمبر 2023.
3. محكمة العدل للاتحاد الأوروبي (2025). البيان الصحفي رقم 22/25: Dun & Bradstreet Austria، C‑203/22، 27 فبراير 2025.
4. البرلمان الأوروبي والمجلس (2024). اللائحة (الاتحاد الأوروبي) 2024/1689 (قانون الذكاء الاصطناعي)، المادة 86.
5. البرلمان الأوروبي والمجلس (2026). اللائحة (الاتحاد الأوروبي) 2026/1744 (الحزمة الرقمية الشاملة بشأن الذكاء الاصطناعي).
6. مجلس أوروبا (2024). الاتفاقية الإطارية بشأن الذكاء الاصطناعي وحقوق الإنسان والديمقراطية وسيادة القانون (CETS No. 225).
7. برلمان المملكة المتحدة (2025). قانون البيانات (الاستخدام وإمكانية الوصول) لعام 2025، المادة 80.
8. مكتب الإدارة والميزانية (2025). المذكرة M‑25‑21: تسريع الاستخدام الفدرالي للذكاء الاصطناعي من خلال الابتكار والحوكمة والثقة العامة.
9. الجمعية العامة لولاية كولورادو (2024). SB24‑205، حماية المستهلك في مجال الذكاء الاصطناعي.
10. الجمعية العامة لولاية كولورادو (2025). SB25B‑004، تعزيز الشفافية في الأنظمة الخوارزمية.
11. وكالة حماية الخصوصية في كاليفورنيا (2025). تحديثات قانون خصوصية المستهلك في كاليفورنيا (CCPA)، وتدقيقات الأمن السيبراني، وتقييمات المخاطر، والقرارات المؤتمتة لاتخاذ القرارات (ADMT)، ولوائح التأمين.
12. إدارة حماية المستهلك والعاملين في مدينة نيويورك. أدوات اتخاذ القرارات المؤتمتة بشأن التوظيف (القانون المحلي 144 لعام 2021).
13. منظمة التعاون والتنمية في الميدان الاقتصادي (OECD) (2026). آفاق الحكومة الرقمية 2026، المربع 4.7.
14. Wachter, S., Mittelstadt, B. and Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law 7(2): 76–99.
15. Edwards, L. and Veale, M. (2017). Slave to the Algorithm? Why a 'Right to an Explanation' Is Probably Not the Remedy You Are Looking For. Duke Law & Technology Review 16(1): 18–84.
16. Wachter, S., Mittelstadt, B. and Russell, C. (2018). Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR. Harvard Journal of Law & Technology 31(2).
17. Rechtbank Den Haag (2020). حكم SyRI، ECLI:NL:RBDHA:2020:1878.
18. Alon-Barkat, S. and Busuioc, M. (2023). Human–AI Interactions in Public Sector Decision Making. JPART 33(1): 153–169.
19. Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review 45.
20. منظمة العفو الدولية (2023). Trapped by automation، EUR 70/7443/2023.
21. Charette, R. N. (2018). Michigan's MiDAS Unemployment System. IEEE Spectrum.
22. الجمعية العامة لولاية كولورادو (2026). SB26‑189، تكنولوجيا اتخاذ القرارات المؤتمتة.
23. مجلس أوروبا (2024). الاتفاقية الإطارية بشأن الذكاء الاصطناعي وحقوق الإنسان والديمقراطية وسيادة القانون — النص الإنجليزي الأصيل، كما نُشر في قاعدة بيانات المعاهدات الحكومية الهولندية.