사기 조직은 AI 고객 서비스를 이용해 사기를 저지르고 하루에 1,500건의 전화를 겁니다.

AI 지능형 고객 서비스 기술은 점점 더 성숙해지고 있습니다. 음성 합성 기술이 지속적으로 발전함에 따라 합성된 AI 음성은 진실과 거짓을 구분하기 어렵습니다. 자연어 처리와 여러 차례의 대화 지원과 더불어 AI 고객 서비스는 다양한 시나리오의 기능적 요구 사항을 충족할 수 있었습니다. 동시에 범죄자들에게는 기회도 제공한다.

60세가 다 된 왕 이모(가명)는 요즘 기분이 좋아서 마침내 자신이 많은 돈을 벌 차례가 되었다고 느낀다. 한 달 전, 그녀는 금융 상품을 추천하는 정중한 전화를 받았습니다. 고객 서비스 담당자는 목소리가 명확하고 상냥했으며, 그녀의 답변을 참을성 있게 들었습니다.

그녀는 고객 서비스의 안내에 따라 매일 다른 그룹 멤버들에게 투자에 대한 지도를 해주는 "선생님"이 있는 WeChat 그룹에 가입했습니다. 왕 이모는 더욱 조심스럽게 무리 속에 숨어서 다른 사람들이 하루 종일 열띤 대화를 나누는 것을 지켜보았습니다.

반 달 이상 관찰한 후, 왕 이모는 투자 교사와 그룹 구성원들이 높은 "수준"을 가지고 있으며 "교사"의 지도에 따라 많은 돈을 벌 수 있다는 확신을 점점 더 갖게 되었습니다.

왕 이모는 먼저 "선생님"이 추천한 특정 금융 APP에 5만 위안을 투자했습니다. 실제로 그날은 상당한 수익이 발생했습니다. 왕 이모는 평생 저축한 돈의 대부분을 꺼내어 60만 위안 가까이 되는 금액을 앱에 충전했습니다.

왕 이모는 계좌 잔액이 빠르게 늘어나는 것을 보고 기쁨을 참을 수 없어 가족에게 이 사실을 알렸습니다. 가족들은 뭔가 잘못되었다고 느껴 투자금을 돌려받고 싶어했지만, 오랫동안 돈을 받지 못했고, 고객센터 전화번호에 아무도 응답하지 않았다는 사실을 알게 되었습니다.

왕 이모는 그때 자신이 속았을지도 모른다는 것을 깨달았습니다. 그녀가 정신을 차렸을 때, 그녀는 투자 위챗 그룹에서 쫓겨났고, 한때 인내심 있고 열정적이었던 그녀의 투자 멘토에게는 더 이상 연락이 되지 않았습니다.

절박한 상황에 빠진 왕 이모와 가족은 경찰에 신고할 수밖에 없었습니다.

2개월 반 만에 사기단과 기술 제공자단이 무너졌습니다.

경찰은 2개월 남짓한 수사 끝에 용의자 19명을 체포하고 범죄에 사용된 컴퓨터와 휴대전화를 대량으로 압수했습니다.

5월 9일 낮:AI 고객 서비스 피싱, 하루 1500건 전화 가능

후난성 웨양시 경찰은 작업 중 다음과 같은 사실을 발견했습니다.웨양루구 신루커우에 위치한 정보서비스 회사가 불법적인 통신 사기 행위를 저지른 혐의를 받고 있습니다.이에 해당 회사 직원 7명이 조사를 위해 법 집행 센터로 압송됐습니다.

조사 결과, 회사 책임자인 황모화(남, 32세, 웨양시 출신)는인수한 'AI 플랫폼'의 지능형 고객센터는 하루에 1,000~1,500건의 전화를 걸어 투자 상품을 추천하는 언어를 사용해 피싱 전화를 건다..

현재 주식에 투자하고 있거나 투자할 의향이 있는 피해자들은 미리 만들어진 가짜 주식 거래 위챗 그룹으로 끌려가게 됩니다.

종종 수백 명의 사람 중에 속는 사람은 10명도 안 됩니다. 나머지는 공연에 협조하는 좀비 위챗 계정입니다. 그들은 매일 그룹 내에서 거짓 높은 수익을 전달한 다음 속은 사람들에게 사기를 칩니다.

황모화는 법에 따라 형사 구금 및 체포 승인을 받았으며, 회사 직원 7명은 법에 따라 치안 유지를 위해 구금되었습니다.

5월 12일:사기꾼 집단은 교육 수준이 낮습니다. 누가 기술을 제공했습니까?

심문 중에 경찰은용의자들은 대체로 교육 수준이 낮고 사기에 사용된 구체적인 수법에 대해 잘 알지 못하는 것으로 나타났습니다. 따라서 이들을 지원하는 다른 갱단이 있을 가능성이 높습니다.

이에 따라 5월 12일, 웨양타워 공안국은 이 사건의 배후에 있는 기술 공급업체에 대한 심층 조사를 실시하기 위해 특별수사팀을 신속히 구성했습니다.

특수경찰은 조사를 통해 자신들이 사용하고 있는 AI 고객 서비스 로봇이 광둥성의 AI 지능형 플랫폼에서 나온 것임을 발견했습니다.

이 플랫폼은 AI 음성 고객 서비스, WeChat 그룹 채팅 도우미 등 다양한 기능을 제공합니다. 또한 건강 관리, 재무 관리, 주식 등을 다루는 78개의 사기성 "대화 스크립트" 템플릿을 "고객"에게 제공합니다.

태스크포스 소속 경찰은 집중적인 분석과 판단을 거쳐 AI 스마트 플랫폼의 사장, 대리인, 영업, 기술, 재무 인력의 활동 궤적을 우선 파악했습니다.

7월 16일-18일:지방을 넘나드는 기술 갱단을 체포하면 사기보다 더 많은 돈을 벌 수 있다

7월 16일 오전, 광저우시 특수부대 본부의 통합 파견과 룽강, 선전, 황푸, 광저우시, 후이저우시 후이양 경찰의 강력한 지원을 받아 3개 특수체포조가 광둥성 후이저우 출신 잔모(남, 34세) 등 8명의 용의자를 성공적으로 체포하고, 현장에서 범행에 사용된 여러 대의 휴대전화와 컴퓨터를 압수했습니다.

7월 18일 오전, 심천 롱강 경찰의 지원을 받아 태스크포스가AI 지능형 플랫폼 기업 본사로 바로 가세요,주범인 리안무창(남, 37세, 광둥성 증청시 출신)과 다른 3명이 성공적으로 체포되었습니다. 범행에 사용된 휴대전화 20여 대와 컴퓨터 여러 대가 현장에서 압수되었고, 사건과 관련된 현금 100만 위안 이상이 압수되었으며, 사건과 관련된 자금 1,000만 위안 이상이 동결되었습니다.

놀랍게도 2020년 6월 현재 AI 스마트 플랫폼에 등록된 계좌는 123개로, 후난, 후베이, 광둥, 허난, 충칭, 베이징 등 12개 성시를 망라하고 있습니다. 이 계좌들은 모두 금융 사기를 저지른 혐의를 받는 소규모 갱단이었습니다.

2020년 3월말부터 7월초까지단 3개월 만에 스마트 플랫폼의 매출이 3,000만 위안을 돌파했습니다.

물론, 물을 파는 것이 금을 캐는 것보다 훨씬 더 많은 돈을 벌 수 있습니다.

현재 황모화를 포함한 주요 형사 용의자 12명은 모두 법에 따라 공안기관에 의해 형사 구금되었고, 7명은 법에 따라 행정구금되었습니다. 해당 사건에 대한 추가 조사가 진행 중입니다.

기술: 도우미인가, 공범인가?

지능형 대화와 음성 합성 기술 덕분에 AI 고객 서비스가 놀라울 정도로 향상되어 진짜와 가짜를 구분하기 어려워졌고, 범죄자에게 이를 악용할 기회를 제공하게 되었습니다.

2020년 상반기 전국적으로 통신·인터넷 사기 사건이 총 10만1000건 적발되었고, 용의자 9만2000명이 검거되었는데, 이는 전년 동기 대비 각각 73.71%, 78.41% 증가한 수치입니다.

검색엔진에 'AI 음성 로봇'을 입력하면 '텔레마케팅', '그룹 통화' 등의 추천 결과가 나옵니다.

로봇 판매 페이지 중 하나에서 기능 설명은 다음과 같습니다.음성에 대한 지능적 학습, 응답에 대한 정확한 인식, 한 번의 클릭으로 자동 그룹 통화, 고객 정보 관리...등.

기술이 원인인가? 기술이 가져오는 단점을 어떻게 개선할 수 있을까?

이는 우리가 기술의 부정적 영향에 직면할 때마다 논의하는 문제입니다. 하지만 단기적으로는 명확한 답이 나오지 않을 것임은 분명합니다.

전화를 걸어 사람들을 속이는 것은 기술이지만, 실제로는 다른 사람을 해치려는 의도를 품고 사기를 치는 것은 기술 뒤에 있는 사람들입니다.

기술적인 문제를 해결하고 싶다면, 가장 먼저 해결해야 할 문제는 바로 사람 문제입니다.

-- 위에--