سجل لأنظمة الذكاء الاصطناعي وقاعدة لتعليقها

سجل أنظمة الذكاء الاصطناعي وقاعدة تعليقها

الغرض

ينبغي أن يتمكن الأعضاء من معرفة الأنظمة المؤتمتة التي تشارك في اتخاذ قرارات عامة تخصهم، والجهة المسؤولة عن كل نظام، وكيفية إيقاف النظام عند تعطله. تنشئ هذه القاعدة سجلًا عامًا وإجراءً للتعليق. وهي تكمّل تقييم الأثر المسبق وحقوق الطعن الفردية، ولا تحل محلهما.

التعريفات

• النظام المؤتمت: برمجيات تنتج، باستخدام نماذج إحصائية أو تعلّم آلي أو قواعد، مخرجات (درجات أو تصنيفات أو توصيات أو مسودات أو قرارات) تُستخدم في قرار تتخذه هيئة تابعة للكيان السياسي بشأن شخص أو مجموعة أو تخصيص موارد عامة.
• الجهة المسؤولة: الهيئة التي تقرر استخدام النظام وتتحمل المسؤولية عن استخدامه.
• مستوى الدور: استشاري (تُستعان بالمخرجات في اتخاذ قرار بشري)، أو إداري (يصدر النظام قرارات روتينية ضمن قواعد محددة)، أو مستقل (يصدر النظام قرارات ملزمة من دون موافقة بشرية لكل حالة على حدة).

المادة 1. السجل

1. لا يجوز استخدام أي نظام مؤتمت في قرار تسري عليه هذه القاعدة ما لم يُدرج في السجل العام قبل استخدامه.
2. يبيّن كل قيد: اسم النظام وغرضه؛ والجهة المسؤولة وشخصًا محددًا للاتصال؛ ومستوى الدور؛ والقرارات التي يؤثر فيها والعدد التقريبي للأشخاص الذين تشملهم سنويًا؛ والمورّد ونوع النموذج؛ وفئات البيانات المستخدمة؛ والإشراف البشري المعمول به؛ وكيفية طلب مراجعة بشرية؛ وتاريخ آخر تقييم.
3. تُحدّث القيود خلال 30 يومًا من أي تغيير جوهري. وتظل الأنظمة المتوقفة مدرجة في السجل، مع الإشارة إلى توقفها، لمدة خمس سنوات.

المادة 2. التعليق

1. يجب على الجهة المسؤولة تعليق استخدام النظام والانتقال إلى الإجراء اليدوي الموثق، عندما يكون لديها ما يدعو إلى الاعتقاد بصورة معقولة بأن النظام ينتج مخرجات خاطئة أو تمييزية على نحو منهجي.
2. يجب أن يكون لكل نظام مسجل إجراء يدوي بديل موثق، وأن يكون قد اختُبر خلال الاثني عشر شهرًا السابقة.
3. تُسجّل حالات التعليق وأسبابها في السجل.

المادة 3. سلطة مستقلة للتعليق

1. يجوز لمجلس الرقابة، المستقل عن كل جهة مسؤولة، أن يأمر بتعليق أي نظام مسجل بمبادرة منه، أو بناءً على إحالة من أمين المظالم، أو التماس يقدمه 1% من الأعضاء.
2. يكون التعليق إلزاميًا عند ثبوت أي مما يلي: تجاوز معدل الخطأ في عينة خاضعة للرصد الحد المحدد في قيد السجل؛ أو اختلاف النتائج بين الفئات المحمية بما يتجاوز هامش التفاوت المحدد في القيد من دون مبرر يقبله المجلس؛ أو استخدام النظام خارج الغرض المسجل؛ أو عجز الجهة المسؤولة عن تقديم سجلات القرارات.
3. لا يجوز استئناف استخدام نظام معلّق إلا بعد اقتناع المجلس بمعالجة سبب التعليق. ويُنشر قراره مشفوعًا بأسبابه.

المادة 4. مراجعة القرارات السابقة

1. عندما يُعلّق نظام بسبب خطأ منهجي، تحدد الجهة المسؤولة جميع القرارات التي ربما تأثرت منذ بدء الخطأ وتراجعها، بدءًا بالقرارات التي فرضت دينًا أو عقوبة أو حرمت شخصًا من منفعة.
2. يتوقف تحصيل الأموال استنادًا إلى القرارات المتأثرة إلى حين اكتمال المراجعة.
3. يُبلّغ الأشخاص الذين تغيّرت قراراتهم خطيًا، ويُعوّضون بموجب قاعدة الميزانية.

المادة 5. الأنظمة المستقلة

1. لا يجوز تسجيل نظام ذي مستوى دور مستقل إلا بعد موافقة الجمعية، استنادًا إلى تقييم أثر منشور وتدقيق مستقل.
2. ينقضي التفويض الممنوح له بعد عامين ما لم يُجدّد وفق الإجراء نفسه.
3. يتضمن كل قرار يصدره إشعارًا بأنه اتُّخذ آليًا، وبيانًا لكيفية طلب مراجعته من قِبل إنسان خلال 30 يومًا.
4. لا يجوز لأي نظام مستقل أن يقرر سلب الحرية، أو الطرد من العضوية، أو إبعاد الأطفال، أو الحرمان من ضروريات المعيشة.