즉시 사용을 중단하세요! 네덜란드 법원, 복지 감시 시스템이 인권 침해 판결

최근 네덜란드 헤이그 법원은 네덜란드 정부의 위험 지표 시스템과 관련된 사건을 심리했습니다. 법원은 최근 판결에서 개인 정보 보호 및 인권 규범을 위반하고 유럽 인권 협약을 위반했다는 이유로 혜택 사기 탐지 도구인 SyRI의 즉각적인 정지를 명령했습니다. 이 판결은 이 분야에서 처음으로 내려진 판결입니다. 이것이 다른 탐지 시스템에 대한 경각심을 불러일으킬까요?

개인정보보호 2019년 10월 29일, 네덜란드 헤이그 법원은 소송을 접수했습니다. 이는 여러 네덜란드 조직과 개인의 공동 노력입니다.네덜란드 복지 사기 탐지 도구 SyRI(Systeem Risico Indicatie) 소송이 제기됨.

2020년 2월 5일, 네덜란드 헤이그 법원은 네덜란드의 빈곤층 커뮤니티를 대상으로 하는 SyRI 도구의 사용을 즉시 중단하라고 명령했습니다. 이는 이 도구가 개인정보 보호 및 인권 원칙을 위반하고 유럽인권협약 제8조(2)항의 요구 사항을 준수하지 않았기 때문입니다.

금지된 SyRI는 정확히 무엇입니까?

보도에 따르면, 네덜란드 정부의 위험 지표 시스템인 SyRI는 지난 10년 동안 네덜란드 사회복지부와 고용부에 의해 개발되었습니다.개인이 사기를 저지르고 혜택, 수당, 세금을 남용할 가능성을 예측하는 위험 계산 모델입니다.

SyRI는 주로 저소득 지역에 배치됩니다.정부 기관에서 수집한 방대한 양의 민감한 개인 데이터를 사용하여고용, 개인 부채 및 복지 기록, 교육 및 주택 이력 등을 비밀 알고리즘을 사용하여 분석하여 복지 사기에 더 큰 위험이 있는 사람을 판별합니다.

간단히 말해서,이 시스템은 민사업무 데이터를 기반으로 잠재적인 사기범을 걸러냅니다.

2019년 10월 심리에서정부는 SyRI의 작동 방식을 공개하기를 거부했습니다. 위험 계산 알고리즘을 설명하면 사기꾼이 시스템을 이용할 수 있다는 우려 때문입니다.

하지만 해당 시스템은 거짓 양성(시스템이 개인을 사기 위험 인물로 잘못 표시하는 것) 결과를 낸다는 사실이 밝혀졌습니다. 정부는 이러한 "거짓 긍정"을 활용해 모델의 결함을 바로잡을 것이라고 밝혔다.

시스템에서 누군가가 사기의 위험이 있다고 감지하면 관련 정부 기관에 알리고, 해당 기관에서는 그 "의심자"를 조사할 수 있습니다. 시스템에서 모니터링하는 인사정보 목록은 모든 정부기관에서 열람이 가능하다는 점이 주목할 만합니다.

과도한 개인정보 감시로 국민 불만 높아져

예상치 못하게도, 수년간 개발에 걸린 이 위험 감지 시스템이 법정에 서게 되었습니다.

2019년 10월 29일, 네덜란드의 6개 조직(네덜란드 최대 노동조합 연합인 FNV와 Privacy First 포함)과 작가 토미 비에링가, 막심 막심루루가 SyRI를 상대로 소송을 제기했습니다. "이 시스템은 너무 극단적이어서 모든 시민이 무조건적인 의심을 받고 있습니다."라고 그들은 판사에게 말했습니다.

개인정보보호 및 복지권리단체 연합은 다음과 같이 말했습니다.SyRI는 빈곤한 시민을 불균형적으로 표적으로 삼습니다.그리고 이런 일은 인권 규범을 위반하는 의심스러운 행동이 전혀 없는 상황에서 일어났습니다.

법원은 판결문에서 다음과 같이 밝혔다.SyRI 시스템은 유럽인권협약(ECHR) 제8조(2)항을 위반합니다.이 규정에 따르면 공공기관은 사생활 및 가족생활, 주거, 통신 등의 사생활을 침해해서는 안 됩니다.

판사는 SyRI 시스템이 사람들의 사생활을 침해할 만한 충분한 정당성이 없으므로 불법이라고 판결했습니다.

결국 법원은 SyRI법이 개인정보 침해에 대한 보호 조치를 충분히 취하지 않았으며, 이 법이 운영되는 방식에 "심각한 투명성 부족"이 있다고 판결하고, 해당 시스템 사용을 중단하라고 명령했습니다.

물론, 네덜란드 정부도 이 결정에 대해 항소할 수 있습니다.

이 사례는 다른 탐지 시스템에 대한 경각심을 불러일으키는 계기가 되었습니다.

전 세계 정부가 복지 및 기타 금융 서비스를 관리하기 위해 인공지능과 위험 모델을 점점 더 많이 활용함에 따라, 이 사례는 이러한 기술로 인해 발생하는 법적 분쟁에 대한 중요한 참고 자료가 됩니다.

극심한 빈곤과 인권에 관한 유엔 특별 보고관인 필립 알스턴은 이 판결을 칭찬했습니다. 그는 "이것은 SyRI 시스템이 인권에 심각한 위협을 가한다는 우려를 가진 모든 사람들에게 분명한 승리입니다."라고 말했습니다.

그는 또한 이것이 전 세계 법원에서 흔한 관행이라고 지적했다.처음으로, 복지기관은 인권을 이유로 디지털 기술과 방대한 양의 디지털 정보를 사용하는 것이 중단되었습니다.이는 다른 법원에 참고자료를 제공하고 다른 정치인들에게 경각심을 일깨우는 획기적인 결정입니다.

영국 정부 역시 복지 시스템에서 로봇 개발을 가속화하고 있습니다. 이와 관련해 하원 노동연금위원회 위원장인 스티븐 팀스는 "네덜란드 법원의 이번 판결은 의회가 시작해야 한다는 것을 보여준다"고 말했다.정부가 사회보장제도에서 시민의 권리를 보호하기 위해 기술을 어떻게 사용하는지 주의 깊게 살펴보세요. "

-- 위에--