Arrêtez Immédiatement De L'utiliser ! Un Tribunal Néerlandais Juge Que Le Système De Surveillance Du Bien-être Viole Les Droits De L'homme

Récemment, la Cour de La Haye aux Pays-Bas a entendu une affaire concernant le système d’indicateurs de risque du gouvernement néerlandais. Dans sa dernière décision, le tribunal a ordonné la suspension immédiate de l'outil de détection de fraude aux prestations sociales SyRI parce qu'il violait les normes relatives à la vie privée et aux droits de l'homme et violait la Convention européenne des droits de l'homme. Cette décision est la première du genre dans ce domaine. Cela servira-t-il de signal d’alarme pour d’autres systèmes de détection ?

Confidentialité Le 29 octobre 2019, la Cour de La Haye aux Pays-Bas a reçu une plainte. Il s'agit d'un groupe d'organisations et d'individus néerlandaisOutil néerlandais de détection de fraude sociale SyRI (Systeem Risico Indicatie) Litige déposé.

Le 5 février 2020, la Cour de La Haye aux Pays-Bas a ordonné l’arrêt immédiat de l’utilisation de l’outil SyRI ciblant les communautés pauvres aux Pays-Bas, car il violait les principes de confidentialité et de droits de l’homme et n’était pas conforme aux exigences de l’article 8(2) de la Convention européenne des droits de l’homme.

Qu'est-ce que le SyRI qui a été interdit exactement ?

Selon les rapports, le système d'indicateurs de risque SyRI du gouvernement néerlandais a été développé par le ministère néerlandais des Affaires sociales et de l'Emploi au cours de la dernière décennie.Un modèle de calcul des risques qui prédit la probabilité qu’un individu commette une fraude et abuse des prestations, des allocations et des impôts.

SyRI est principalement déployé dans les communautés à faible revenu.En utilisant les grandes quantités de données personnelles sensibles collectées par les agences gouvernementales,Tels que les dossiers d’emploi, de dettes personnelles et de prestations sociales, ainsi que les antécédents scolaires et de logement, qui sont ensuite analysés à l’aide d’un algorithme secret pour déterminer quelles personnes peuvent être plus à risque de fraude à l’aide sociale.

En bref,Le système sélectionne les fraudeurs potentiels en fonction des données des affaires civiles.

Lors d'une audience en octobre 2019,Le gouvernement a refusé de révéler le fonctionnement de SyRI, de peur qu'expliquer son algorithme de calcul des risques puisse permettre à des fraudeurs d'utiliser le système.

Mais ils ont révélé que le système produit de faux positifs (où le système signale à tort des individus comme présentant des risques de fraude). Le gouvernement a déclaré qu’il utiliserait ces « faux positifs » pour corriger les défauts de son modèle.

Lorsque le système détecte qu'une personne présente un risque de fraude, il en informe l'agence gouvernementale compétente, qui peut alors enquêter sur le « suspect ». Il convient de noter que la liste des informations sur le personnel surveillées par le système peut être consultée par toutes les agences gouvernementales.

La surveillance excessive de la vie privée a provoqué le mécontentement du public

De manière inattendue, ce système de détection des risques, dont le développement a pris de nombreuses années, a été porté devant les tribunaux.

Le 29 octobre 2019, six organisations néerlandaises (dont la plus grande fédération syndicale des Pays-Bas, FNV et Privacy First) et les écrivains Tommy Wieringa et Maxim Maximruru) ont déposé une plainte contre SyRI. « Le système est trop extrême et chaque citoyen est soumis à une suspicion inconditionnelle », ont-ils déclaré au juge.

Une coalition de groupes de défense de la vie privée et du bien-être social a déclaré :SyRI cible de manière disproportionnée les citoyens les plus pauvres ;Et cela s’est produit en l’absence de tout comportement suspect, qui viole les normes des droits de l’homme.

Le tribunal a déclaré dans sa décision :Le système SyRI viole l’article 8(2) de la Convention européenne des droits de l’homme (CEDH).Selon cette disposition, les institutions publiques ne doivent pas porter atteinte à la vie privée et familiale, au domicile, à la correspondance, etc.

Le juge a estimé que le système SyRI n’avait aucune justification suffisante pour porter atteinte à la vie privée des personnes et était donc illégal.

En fin de compte, le tribunal a jugé que les protections de la loi SyRI contre les violations de la vie privée étaient insuffisantes et qu’il y avait un « grave manque de transparence » dans son fonctionnement, et a ordonné l’arrêt de l’utilisation du système.

Bien entendu, le gouvernement néerlandais peut également faire appel de la décision.

Cette affaire sert de signal d’alarme pour d’autres systèmes de détection

Alors que les gouvernements du monde entier utilisent de plus en plus l’intelligence artificielle et les modèles de risque pour gérer les prestations et autres services financiers, cette affaire revêt une importance de référence importante pour les litiges juridiques causés par ces technologies.

Philip Alston, le rapporteur spécial des Nations Unies sur l'extrême pauvreté et les droits de l'homme, a salué la décision. « C’est une victoire claire pour tous ceux qui craignent que le système SyRI représente une grave menace pour les droits de l’homme », a-t-il déclaré.

Il a également souligné qu’il s’agit d’une pratique courante dans les tribunaux du monde entier.Pour la première fois, les organismes de protection sociale ont été empêchés d’utiliser les technologies numériques et de grandes quantités d’informations numériques au nom des droits de l’homme.Il s’agit d’une décision historique qui sert de référence à d’autres tribunaux et de signal d’alarme à d’autres politiciens.

Le gouvernement britannique accélère également le développement des robots dans le système de protection sociale. À cet égard, Stephen Timms, président de la commission spéciale du travail et des retraites de la Chambre des communes, a déclaré : « Cette décision du tribunal néerlandais montre que le Parlement devrait commencer àPortez une attention particulière à la manière dont les gouvernements utilisent la technologie pour protéger les droits des citoyens dans les systèmes de sécurité sociale. "

-- sur--