すぐに使用を中止してください。オランダの裁判所、福祉監視制度が人権侵害と判決

最近、オランダのハーグ裁判所は、オランダ政府のリスク表示システムに関する訴訟を審理しました。最新の判決では、裁判所は福祉詐欺検出ツール「SyRI」が個人のプライバシーと人権規範に違反し、欧州人権条約に違反しているとして、即時差し止めを命じた。この判決は、この分野では初の判決であり、他の検知システムに警鐘を鳴らすことになるのだろうか。

プライバシー 2019 年 10 月 29 日、オランダのハーグ裁判所は訴状を受け取りました。これはオランダのいくつかの組織や個人によって行われました。オランダの福祉詐欺検出ツール SyRI (Systeem Risico Indicatie) 訴訟が起こされた。

2020年2月5日、オランダのハーグ司法裁判所は、プライバシーと人権規範に違反し、第8条の要件に違反するとして、オランダの貧しいコミュニティを対象としたSyRIツールの使用の即時停止を命じた。 、欧州人権条約第 2 項。

禁止されているSyRIとは何ですか?

報道によると、オランダ政府のリスク表示システムである SyRI は、オランダ社会雇用省によって過去 10 年間にわたって開発されました。個人が詐欺を犯したり、福利厚生、手当、税金を乱用したりする可能性を予測するために使用されるリスク計算モデル。

SyRI は主に低所得コミュニティに導入されています。政府機関によって収集された大量の機密個人データを利用し、例としては、雇用、個人の借金、福利厚生の記録、学歴や住居履歴などが挙げられ、これらは秘密のアルゴリズムを使用して分析され、誰が福利厚生詐欺のリスクが高いかを判断します。

要するに、それはこのシステムは民事データに基づいて潜在的な詐欺師を選別します。

2019年10月に開催された公聴会では、政府は、リスク計算アルゴリズムを説明することでシステムが詐欺師に利用される可能性を懸念し、SyRIの仕組みを明らかにすることを拒否している。

しかし、彼らは、このシステムが誤検知（システムが誤って個人を不正リスクとしてフラグを立てること）を引き起こす可能性があることを明らかにしました。政府は、モデルの欠陥を修正するためにこれらの「偽陽性」を利用すると述べている。

システムは、誰かが詐欺の危険にさらされていることを検出すると、関連政府機関に通知し、「容疑者」を調査することができます。なお、このシステムで監視している人事情報の一覧は全省庁が閲覧できる。

プライバシーの過剰な監視は不満を引き起こす

開発に何年もかかったこの危険検知システムは、予想外にも法廷に持ち込まれることになった。

2019年10月29日、オランダの6団体（オランダ最大の労働組合連盟FNVとプライバシー・ファーストを含む）と作家のトミー・ウィリンガ氏とマキシム・マキシムルル氏がSyRIを相手に訴訟を起こした。 「この制度は行き過ぎであり、すべての国民が無条件の容疑にさらされている」と彼らは裁判官に語った。

プライバシーと福祉の権利団体の連合は次のように主張した。SyRI は貧しい国民を不当に標的にしており、そして、これは行為の疑いのない人権規範の違反です。

裁判所は判決の中で次のように述べたSyRI システムは欧州人権条約 (ECHR) の第 8 条第 2 項に違反しています。この規定によれば、公的機関は私生活や家族生活、住居、通信などのプライバシーを侵害してはならないと定められています。

裁判官は、SyRIシステムには人々の私生活を侵害する十分な正当な理由がなく、したがって違法であると認定した。

最終的に裁判所は、SyRI法におけるプライバシー保護は不十分であり、その運用方法には「重大な透明性の欠如」があるとの判決を下し、同システムの停止を命じた。

もちろん、オランダ政府はこの決定に対して控訴することもできる。

このケースは他の検出システムへの警鐘です

世界中の政府が福祉やその他の金融サービスを管理するために人工知能とリスクモデルをますます利用しているため、この訴訟はそのようなテクノロジーによって引き起こされる法的紛争にとって重要な参考となる重要性を持っています。

極度の貧困と人権に関する国連特別報告者のフィリップ・アルストン氏はこの判決を称賛した。 「これは、SyRIシステムが人権に深刻な脅威をもたらしていると懸念するすべての人にとって、明らかな勝利だ」と同氏は述べた。

同氏はまた、これは世界中の法廷で起きていることだと指摘した。福祉施設が人権を理由にデジタル技術と大量のデジタル情報の使用を初めて阻止された。これは他の裁判所への参考となるとともに、他の政治家への警鐘となる画期的な決定だ。

英国政府も福祉制度におけるロボットの開発を加速させている、下院労働年金特別委員会のスティーブン・ティムズ委員長は、「オランダの裁判所によるこの判決は、議会が開始すべきであることを示している」と述べた。政府が社会保障制度における国民の権利を守るためにテクノロジーをどのように活用しているかに細心の注意を払ってください。 」

- 以上 -