توقف عن الاستخدام فورًا! محكمة هولندية تقضي بأن نظام مراقبة الرعاية الاجتماعية ينتهك حقوق الإنسان
نظرت محكمة لاهاي الهولندية مؤخرا في قضية تتعلق بنظام مؤشرات المخاطر الذي تطبقه الحكومة الهولندية. وفي حكمها الأخير، أمرت المحكمة بتعليق استخدام أداة الكشف عن الاحتيال في الحصول على المزايا الاجتماعية SyRI على الفور لأنها تنتهك الخصوصية الشخصية ومعايير حقوق الإنسان وتنتهك الاتفاقية الأوروبية لحقوق الإنسان. ويعد هذا الحكم الأول من نوعه في هذا المجال. فهل سيكون بمثابة جرس إنذار لأنظمة الكشف الأخرى؟
الخصوصية في 29 أكتوبر 2019، تلقت محكمة لاهاي في هولندا دعوى قضائية. هذه مجموعة من المنظمات والأفراد الهولنديينأداة الكشف عن الاحتيال في مجال الرعاية الاجتماعية الهولندية SyRI (Systeem Risico Indicatie) تم رفع الدعوى.
في 5 فبراير 2020، أمرت محكمة لاهاي في هولندا بوقف فوري لاستخدام أداة SyRI التي تستهدف المجتمعات الفقيرة في هولندا لأنها تنتهك مبادئ الخصوصية وحقوق الإنسان ولا تتوافق مع متطلبات المادة 8 (2) من الاتفاقية الأوروبية لحقوق الإنسان.
ما هو بالضبط SyRI الذي تم حظره؟
ويقال إن نظام مؤشر المخاطر الحكومي الهولندي SyRI تم تطويره من قبل وزارة الشؤون الاجتماعية والتوظيف الهولندية على مدى العقد الماضي.نموذج حساب المخاطر الذي يتنبأ باحتمالية قيام شخص ما بارتكاب عمليات احتيال وإساءة استخدام المزايا والمخصصات والضرائب.
يتم نشر SyRI في المقام الأول في المجتمعات ذات الدخل المنخفض.باستخدام كميات هائلة من البيانات الشخصية الحساسة التي تجمعها الوكالات الحكومية،مثل سجلات التوظيف والديون الشخصية والفوائد، فضلاً عن تاريخ التعليم والإسكان، والتي يتم تحليلها بعد ذلك باستخدام خوارزمية سرية لتحديد الأشخاص الذين قد يكونون أكثر عرضة لخطر الاحتيال في الرعاية الاجتماعية.
باختصار،يقوم النظام بفحص المحتالين المحتملين استنادًا إلى بيانات الشؤون المدنية.
في جلسة استماع في أكتوبر 2019،رفضت الحكومة الكشف عن كيفية عمل نظام SyRI خوفًا من أن يؤدي شرح خوارزمية حساب المخاطر إلى السماح للمحتالين باستخدام النظام.
لكنهم كشفوا أن النظام ينتج نتائج إيجابية خاطئة (حيث يقوم النظام بتصنيف الأفراد بشكل غير صحيح على أنهم يشكلون خطراً على الاحتيال). وقالت الحكومة إنها ستستخدم هذه "النتائج الإيجابية الكاذبة" لتصحيح العيوب في نموذجها.
عندما يكتشف النظام أن شخصًا ما يشكل خطرًا للاحتيال، فإنه يخطر الوكالة الحكومية ذات الصلة، والتي يمكنها بعد ذلك التحقيق مع "المشتبه به". ومن الجدير بالذكر أن قائمة معلومات الموظفين التي يراقبها النظام يمكن لجميع الجهات الحكومية الاطلاع عليها.
إن الإفراط في مراقبة الخصوصية تسبب في استياء عام
وبشكل غير متوقع، تم عرض نظام اكتشاف المخاطر هذا، والذي استغرق تطويره سنوات عديدة، على المحكمة.
في 29 أكتوبر/تشرين الأول 2019، رفعت ست منظمات هولندية (بما في ذلك أكبر اتحاد نقابي في هولندا FNV وPrivacy First) والكاتبان تومي ويرينجا وماكسيم ماكسيمرورو دعوى قضائية ضد SyRI. وقالوا للقاضي "النظام متطرف للغاية، وكل مواطن يخضع للشبهة غير المشروطة".
وقال تحالف من جماعات حقوق الخصوصية والرعاية الاجتماعية:يستهدف برنامج SyRI المواطنين الأكثر فقراً بشكل غير متناسب؛وقد حدث ذلك في ظل غياب أي سلوك مشبوه يخالف معايير حقوق الإنسان.
وجاء في حكم المحكمة:ينتهك نظام SyRI المادة 8 (2) من الاتفاقية الأوروبية لحقوق الإنسان (ECHR).وبموجب هذا الحكم لا يجوز للمؤسسات العامة التدخل في خصوصية الحياة الخاصة والعائلية والسكن والمراسلات وما إلى ذلك.
وقرر القاضي أن نظام SyRI ليس لديه ما يبرره بشكل كاف للتدخل في الحياة الخاصة للأشخاص وبالتالي فهو غير قانوني.
وفي نهاية المطاف، قضت المحكمة بأن الحماية التي يوفرها قانون SyRI ضد انتهاكات الخصوصية غير كافية، وأن هناك "نقصًا خطيرًا في الشفافية" في كيفية تشغيله، وأمرت بوقف استخدام النظام.
وبطبيعة الحال، يمكن للحكومة الهولندية أيضًا استئناف القرار.
تعتبر هذه الحالة بمثابة جرس إنذار لأنظمة الكشف الأخرى
ومع تزايد استخدام الحكومات في جميع أنحاء العالم للذكاء الاصطناعي ونماذج المخاطر لإدارة المزايا والخدمات المالية الأخرى، فإن هذه القضية لها أهمية مرجعية مهمة للنزاعات القانونية الناجمة عن مثل هذه التقنيات.
وأشاد فيليب ألستون، المقرر الخاص للأمم المتحدة المعني بالفقر المدقع وحقوق الإنسان، بالحكم. وقال "إن هذا انتصار واضح لجميع أولئك الذين يخشون أن يشكل نظام SyRI تهديدا خطيرا لحقوق الإنسان".
وأشار أيضاً إلى أن هذه ممارسة شائعة في المحاكم حول العالم.ولأول مرة، تم منع وكالات الرعاية الاجتماعية من استخدام التقنيات الرقمية وكميات كبيرة من المعلومات الرقمية على أساس حقوق الإنسان.ويعد هذا قرارًا تاريخيًا يوفر مرجعًا للمحاكم الأخرى ويشكل جرس إنذار للسياسيين الآخرين.
وتعمل الحكومة البريطانية أيضًا على تسريع تطوير الروبوتات في نظام الرعاية الاجتماعية. وفي هذا الصدد، قال ستيفن تيمز، رئيس لجنة العمل والمعاشات التقاعدية في مجلس العموم: "يظهر هذا الحكم الذي أصدرته المحكمة الهولندية أن البرلمان يجب أن يبدأانتبه جيدًا إلى كيفية استخدام الحكومات للتكنولوجيا لحماية حقوق المواطنين في أنظمة الضمان الاجتماعي. "
-- زيادة--