Anwendung Sofort Abbrechen! Niederländisches Gericht Urteilt, Dass Das Sozialüberwachungssystem Gegen Menschenrechte Verstößt

Vor kurzem wurde vor dem niederländischen Gerichtshof in Den Haag ein Fall verhandelt, der das Risikoindikatorsystem der niederländischen Regierung betraf. In seinem jüngsten Urteil ordnete das Gericht die sofortige Aussetzung des Sozialleistungsbetrugserkennungstools SyRI an, da es gegen die Privatsphäre und Menschenrechte sowie gegen die Europäische Menschenrechtskonvention verstoße. Dieses Urteil ist das erste seiner Art auf diesem Gebiet. Wird es als Weckruf für andere Erkennungssysteme dienen?

Datenschutz: Am 29. Oktober 2019 ging beim Haager Gericht in den Niederlanden eine Klage ein. Dies ist eine Gruppe niederländischer Organisationen und EinzelpersonenNiederländisches Tool zur Aufdeckung von Sozialbetrug SyRI (Systeem Risico Indicatie) Klage eingereicht.

Am 5. Februar 2020 ordnete der Gerichtshof in Den Haag in den Niederlanden ein sofortiges Ende der Nutzung des SyRI-Tools an, das sich gegen arme Gemeinden in den Niederlanden richtete, da es gegen Datenschutz- und Menschenrechtsprinzipien verstieß und nicht den Anforderungen von Artikel 8(2) der Europäischen Menschenrechtskonvention entsprach.

Was genau ist das verbotene SyRI?

Berichten zufolge wurde das Risikoindikatorsystem SyRI der niederländischen Regierung im letzten Jahrzehnt vom niederländischen Ministerium für Soziales und Arbeit entwickelt.Ein Risikoberechnungsmodell, das die Wahrscheinlichkeit vorhersagt, dass eine Person Betrug begeht und Sozialleistungen, Zulagen und Steuern missbraucht.

SyRI wird hauptsächlich in einkommensschwachen Gemeinden eingesetzt.Mithilfe der riesigen Mengen sensibler personenbezogener Daten, die von Regierungsbehörden gesammelt werden,Dazu gehören Angaben zu Beschäftigung, persönlichen Schulden und Sozialleistungen sowie zur Ausbildung und Wohnhistorie. Diese werden dann mithilfe eines geheimen Algorithmus analysiert, um festzustellen, bei welchen Personen ein höheres Risiko für Sozialbetrug besteht.

Zusamenfassend,Das System überprüft potenzielle Betrüger auf der Grundlage zivilrechtlicher Daten.

Bei einer Anhörung im Oktober 2019Die Regierung weigert sich, die Funktionsweise von SyRI offenzulegen, da sie befürchtet, dass Betrüger das System durch die Erklärung des Risikoberechnungsalgorithmus missbrauchen könnten.

Sie haben jedoch festgestellt, dass das System Fehlalarme erzeugt (d. h., das System kennzeichnet einzelne Personen fälschlicherweise als Betrugsrisiko). Die Regierung erklärte, sie werde diese „falschen Positivergebnisse“ nutzen, um Mängel in ihrem Modell zu beheben.

Wenn das System erkennt, dass bei jemandem ein Betrugsrisiko besteht, benachrichtigt es die zuständige Regierungsbehörde, die dann gegen den „Verdächtigen“ ermitteln kann. Es ist anzumerken, dass die Liste der vom System überwachten Personalinformationen von allen Regierungsbehörden eingesehen werden kann.

Übermäßige Überwachung der Privatsphäre hat zu öffentlicher Unzufriedenheit geführt

Unerwarteterweise wurde dieses Risikoerkennungssystem, dessen Entwicklung viele Jahre gedauert hatte, vor Gericht gebracht.

Am 29. Oktober 2019 reichten sechs niederländische Organisationen (darunter der größte niederländische Gewerkschaftsverband FNV und Privacy First) sowie die Schriftsteller Tommy Wieringa und Maxim Maximruru Klage gegen SyRI ein. „Das System ist zu extrem und jeder Bürger ist einem bedingungslosen Verdacht ausgesetzt“, erklärten sie dem Richter.

Eine Koalition von Datenschutz- und Sozialrechtsgruppen erklärte:SyRI zielt überproportional auf ärmere Bürger ab;Und dies geschah ohne jegliches verdächtige Verhalten, was einen Verstoß gegen Menschenrechtsnormen darstellt.

Das Gericht erklärte in seinem Urteil:Das SyRI-System verstößt gegen Artikel 8(2) der Europäischen Menschenrechtskonvention (EMRK).Gemäß dieser Bestimmung dürfen öffentliche Einrichtungen nicht in die Privatsphäre des Privat- und Familienlebens, der Wohnung, der Korrespondenz usw. eingreifen.

Der Richter befand, dass das SyRI-System keine ausreichende Rechtfertigung für den Eingriff in die Privatsphäre der Menschen biete und daher rechtswidrig sei.

Letztlich entschied das Gericht, dass der Schutz des SyRI-Gesetzes vor Datenschutzverletzungen unzureichend sei und dass es bei seiner Funktionsweise einen „ernsten Mangel an Transparenz“ gebe, und ordnete die Einstellung der Nutzung des Systems an.

Natürlich kann die niederländische Regierung auch gegen die Entscheidung Berufung einlegen.

Dieser Fall dient als Weckruf für andere Erkennungssysteme

Da Regierungen auf der ganzen Welt zunehmend künstliche Intelligenz und Risikomodelle zur Verwaltung von Sozialleistungen und anderen Finanzdienstleistungen einsetzen, hat der Fall eine wichtige Bezugsbedeutung für die Rechtsstreitigkeiten, die durch solche Technologien verursacht werden.

Philip Alston, UN-Sonderberichterstatter für extreme Armut und Menschenrechte, lobte das Urteil. „Dies ist ein klarer Sieg für alle, die befürchten, dass das SyRI-System eine ernste Bedrohung für die Menschenrechte darstellt“, sagte er.

Er wies auch darauf hin, dass dies vor Gerichten auf der ganzen Welt gängige Praxis sei.Zum ersten Mal wurde Sozialbehörden die Nutzung digitaler Technologien und großer Mengen digitaler Informationen aus Menschenrechtsgründen untersagt.Dies ist eine wegweisende Entscheidung, die als Vorbild für andere Gerichte und als Weckruf für andere Politiker dient.

Auch die britische Regierung forciert die Entwicklung von Robotern im Sozialsystem. Stephen Timms, Vorsitzender des Arbeits- und Rentenausschusses des Unterhauses, sagte hierzu: „Diese Entscheidung des niederländischen Gerichts zeigt, dass das Parlament beginnen sollte,Achten Sie genau darauf, wie Regierungen Technologien einsetzen, um die Rechte der Bürger in den Sozialversicherungssystemen zu schützen. "

-- über--