단지! 3.15 갈라, AI 얼굴변환 사기 적발, 메인보드 불법거래 폭로, 2000위안짜리 휴대폰 20대 동시 출시
1991년 3월 15일, CCTV에서 "소비자의 친구 특별 저녁 파티"가 방송되었습니다. 그해부터 "3.15 만찬"은 춘절 만찬과 마찬가지로 정기적인 행사가 되었고, 수억 명의 중국인들의 관심을 끌게 되었습니다. 지난 수년간 수많은 회사가 이날 밤 사람들의 음식, 옷, 주택, 교통 등 모든 측면에 대해 "여론 조사 플랫폼"에 밀려났으며, 여기에는 누구나 아는 유명 회사도 많이 포함되었습니다.
예상했던 대로 올해의 "3.15 갈라"는 여전히 사람들을 분노와 두려움에 떨게 했습니다...
최근 몇 년 동안 새로운 기술이 사람들의 삶에 더욱 깊이 통합되면서 "악의적인 기술"도 조용히 성장해 왔습니다. 네트워크 보안, 데이터 남용 등의 문제가 '3.15 갈라'의 노출 목록에 자주 등장했으며, 올해도 예외는 아니었습니다.
오늘 밤 주목을 받은 현상은 다음과 같습니다.
* 해군용 마더보드
* 내화유리가 아닌 내화유리
* 저렴한 소화기
* 보존식 야채찜 돼지고기의 '나쁜 고기'
* 마법의 팅화주
* 정보보안연구소: AI 얼굴변조/음성변조 사기
* 데이트 및 결혼 플랫폼은 복잡한 구조를 가지고 있습니다.
* BMW 드라이브샤프트 불량
* 온라인 대출에서의 기프트 카드 사기
마더보드 블랙앤그레이 산업사슬: 2,000위안 원가, 네트워크 트롤이 IP주소 변경 가능
저녁 파티는 네트워크 정보 보안 문제에 대한 이야기로 시작되었는데, 그 주제는 가장 쉽게 간과되는 오래된 휴대전화에 관한 것이었습니다. 악덕 상인들은 오래된 휴대전화의 마더보드를 모아 "메인보드 컴퓨터"에 통합했습니다.
기자는 윈두테크놀로지를 방문했는데, 담당자는 자사 제품이 하나의 마더보드 섀시에 20개의 마더보드를 설치할 수 있다고 말했다. 한 대의 컴퓨터가 20대의 휴대폰을 제어할 수 있는데, 이는 20개의 계정에 해당합니다. 여러 대의 컴퓨터에 하나의 IP를 할당할 수도 있고, 한 대의 컴퓨터에 하나의 IP를 할당할 수도 있습니다. 관련 제조업체들은 자사 홍보물을 통해 자신들이 제조한 마더보드를 쌓아 올리면 수만 대의 휴대전화로 구성된 네트워크 매트릭스를 형성할 수 있다고 주장하기도 했습니다."휴대폰 사용자의 참여가 필요한 모든 활동은 마더보드로 제어할 수 있습니다."
또한, 윈두테크놀로지의 담당자는 마더보드 컴퓨터의 주요 기능 중 하나는 고객을 확보하는 것이라고 소개했습니다. 인터넷에 있는 마더보드 컴퓨터에 대한 홍보 영상은 자체 마더보드 컴퓨터를 사용하여 운영되고 있으며, IP 주소는 광저우, 선전 등 여러 지역에 분산되어 있습니다.
하지만 마더보드 컴퓨터의 불법적인 기능은 이보다 훨씬 더 광범위합니다. 기자는 지식이 풍부한 사람의 도움을 받아 Yunjixia(Shenzhen) Technology Co., Ltd.를 방문하여 마더보드를 생산하고 개조하는 회사 작업장을 둘러보았습니다. 생산공장 외부에는 아무런 표지판도 없지만, 내부에는 불법적인 산업 체인이 고속으로 뻗어 있다.
기자는 윈지샤의 메인보드 머신을 구성하는 마더보드가 공업정보화부의 네트워크 접속 기준을 충족하지 못한다는 사실을 발견했습니다. 그렇다면 이러한 마더보드는 어디에서 왔을까요?
담당자는 이러한 마더보드가 중고 휴대폰 시장에서 "수집"한 것으로 공급이 매우 부족하다고 소개했습니다.중고 휴대폰 메인보드 가격은 100~150위안 정도이고, 메인보드 기계 가격은 2,000위안 정도입니다.
운직샤의 담당자는 메인보드 컴퓨터는 현재 시장에서 생방송실의 트래픽을 늘리고, 홍보 마케팅 기사의 수를 늘리는 데 사용되고 있다고 소개했습니다. 기자의 권유에 따라 담당자는 기자를 "소규모 고객"의 메인보드 룸으로 데려갔다.안에 넣어주세요50개의 마더보드와 1,000개의 마더보드가 내장되어 있는데, 이는 1,000대의 휴대폰에 해당합니다.
또한 기자가 윈청미래과학기술유한공사를 방문했을 때, 마더보드를 구매하러 온 전자상거래 플랫폼의 홍보 매니저인 류 매니저를 만났습니다. 그에 따르면,이 회사는 마더보드를 사용하여 정보를 전파하고 고객 확보를 촉진합니다."번호만 있으면 낯선 사람에게도 보낼 수 있고, 그룹 링크로 활용할 수도 있어요. 이렇게 방대한 양의 정보 홍보에 현혹되는 소비자들이 아직도 많거든요."
더욱 충격적인 것은 조사가 심화되면서 제조사가 경계를 풀었다는 점이다.기자는 10,000개의 마더보드가 있는 컴퓨터실로 끌려갔는데, 그 마더보드 뒤에는 최소 200,000개의 계정이 있었습니다.
AI 음성변조 얼굴 사기, 186만 달러 송금
올해의 "정보보안 랩"에서는 AI 의성어/얼굴변환 사기가 구체적으로 폭로되었습니다.
"AI 얼굴변환 영상으로 금융사기 당해 186만 위안 유출"이라는 뉴스에 많은 독자들이 깊은 인상을 받았을 것이라 생각합니다. 산시성 시안의 재무 담당자인 장 씨는 상사로부터 영상 통화를 받았는데, 186만 위안을 지정 계좌로 이체해 달라는 매우 긴급한 요청이었습니다. 장 씨는 "목소리와 모습이 나와 똑같다"고 느껴 요청한 대로 이전을 완료했습니다.
하지만 그녀가 요구한 대로 회사 내부 재무 그룹에 전자증명서를 업로드하자, 그룹 내 상사가 그 정보를 보고 왜 돈을 이체했는지 물었습니다. 이때 장 여사는 자신이 사기를 당했다는 사실을 깨달았습니다. 그녀는 즉시 경찰에 신고했고, 경찰의 도움을 받아 송금의 일부를 가로채 156만 위안을 절약하는 데 성공했습니다.
우연히 또 다른 천 씨도 전화를 받았는데, 전화 반대편에서 들려온 목소리는 AI 의성어 기술을 사용해 녹음한 딸의 도움 요청 음성이었습니다.
풍 씨는 또한 친구로부터 국경을 넘는 영상 통화를 받았는데, 비행기표 구매에 도움을 요청하는 내용이었다.
요약하자면,모든 AI 모방/얼굴 바꾸기 사기에는 실제로 공통적인 허점이 있습니다. 바로 단기 콜입니다.
사기꾼들은 AI를 이용해 오디오와 비디오를 미리 모방하고 녹화하는 경우가 대부분입니다. 근본적으로, 얼굴 변조나 음성 합성을 이용해 지점 간 영상 통화에서 실시간 사기를 저지르려면 대규모 이미지 수집, 전문적인 알고리즘/모델 훈련, 높은 컴퓨팅 파워 보유 등 강력한 재정적, 기술적 지원이 필요하며, 현실적인 효과를 얻으려면 장기간의 반복 작업이 필요합니다.
전문가들은 실제 생활에서 다음과 같은 것을 제안합니다.의심스러운 영상통화를 접하게 되면 상대방에게 얼굴을 만져보거나 코를 눌러달라고 요청할 수 있습니다. 이러한 동작은 데이터 간섭을 일으키고 가짜 얼굴이 흔들릴 것입니다.
마지막 말
최근 몇 년 동안 3.15 갈라의 'AI 콘텐츠'는 점점 더 높아지고 있습니다. 오늘 밤 언급한 AI 의성어/얼굴변신은 실제로 사람들의 일상생활에서 매우 흔한 일이며, 관련 기술은 일정 수준의 성숙도에 도달했습니다. 예를 들어, 일부 알고리즘은 Stefanie Sun의 원래 오디오를 기반으로 Stefanie Sun의 버전인 "Hair Like Snow"와 "Mohe Ballroom"을 생성할 수 있는데, 이는 실제와 구별할 수 없다고 할 수 있습니다.
Tik Tok, Bilibili 등의 동영상 플랫폼에서는 점점 더 많은 네티즌이 AI가 생성한 이미지와 AI가 사운드를 합성하는 등의 기술을 활용해 풍부한 2차 창작물을 만들고 있습니다. 그러나 해당 플랫폼은 일반적으로 자체 감지 메커니즘을 기반으로 해당 영상에 "AI가 생성한 것으로 의심되는 콘텐츠, 사기에 주의하세요"라는 라벨을 붙입니다.
기술의 진보가 생산성 변화의 중요한 원동력이 될 것이라는 것은 사실입니다. 동시에, 첨단 기술은 흑백 산업 체인을 육성하는 온상이 될 수도 있습니다.
숨은 의도가 있는 사람이라면 누구나 AI 고객 서비스 담당자의 귀찮은 전화를 통해 10초 분량의 오디오 데이터를 쉽게 얻을 수 있으며, 이후 해당 모델을 사용해 위조 오디오를 생성하고 사기를 저지를 수 있습니다. 또한 실제 생활에서도 AI 애플리케이션이 대중화됨에 따라 소비자는 공공장소와 온라인 플랫폼에서 신원 인증을 위해 얼굴 정보를 사용해야 할 수밖에 없게 될 것입니다. 이 과정에서 얼굴 데이터의 보안도 중요하게 여겨져야 합니다.
소비자로서 우리는 예방에 대한 인식을 높이고 식별을 위해 모델의 허점을 이용하는 법을 배워야 합니다. 특히 금전 거래의 경우, 돈을 이체하기 전에 반드시 상대방에게 직접 확인해야 합니다.
저는 AI가 계속해서 악행을 저지르기 때문에 국가 차원에서 더 자세한 법률과 규정을 도입하여 더 엄격한 감독과 처벌을 제공할 것이라고 믿습니다. 동시에, 기술적 측면에서도 우리는 AI 사기 방지를 위한 새로운 결과가 나오기를 기대하고 있습니다.