詐欺集団は AI カスタマー サービスを利用して詐欺を行い、1 日あたり 1,500 件の電話をかけることができる

AI インテリジェント カスタマー サービス技術はますます成熟しており、音声合成技術の継続的な改善により、AI カスタマー サービスは、自然言語処理と複数ラウンドの対話のサポートにより、合成された AI の人間の音声の信憑性を区別することが困難になりました。多くのシナリオの機能要件を満たすことができると同時に、犯罪者にそれを悪用する機会を与えます。

もうすぐ60歳になる王叔母さん（仮名）は、最近ご機嫌が良く、いよいよ自分がたくさんお金を稼ぐ番だと感じています。 1 か月前、彼女は金融商品を勧める丁寧な電話を受けました。カスタマー サービスの声は明瞭で優しく、答えを辛抱強く聞いてくれました。

顧客サービスの指導に従って、彼女は WeChat グループに参加しました。「先生」は、グループの他のメンバーに投資するよう指導し、グループに潜んで、他の人々が一日中活発にチャットしているのを眺めていました。

半月以上様子を見続けた後、王おばさんは投資の先生やグループの友人たちは「レベル」が高く、「先生」の指導に基づいて大金を稼ぐことができるとますます確信するようになった。

王おばさんはまず、「先生」に勧められたある金融アプリに暫定的に5万元を投資した。案の定、その日は多額の利益が生まれました。王おばさんはすぐに貯蓄のほとんどを取り崩し、60万元近くをAPPにチャージした。

口座の数字が増え続けるのを見て、王おばさんは喜びを抑えきれず、家族に話しました。家族は何か問題があると聞き、投資を償還したいと考えましたが、資金が長期間受け取られておらず、顧客サービスの電話番号にも誰も出ないことがわかりました。

その時初めて、王おばさんは自分がだまされていたかもしれないと気づきました。気が付いたとき、彼女は投資WeChatグループから追い出されており、かつては忍耐強く熱心な投資指導者だった彼女とも連絡が取れなくなっていました。

絶望のあまり、王おばさんとその家族は警察に通報するしかありませんでした。

２カ月半で詐欺集団と技術提供集団が発覚した。

わずか 2 か月強の捜査の後、警察は最終的に 19 人の容疑者を逮捕し、犯罪に使用された大量のコンピューターと携帯電話を押収しました。

5月9日 日：AI カスタマー サービスのフィッシングでは 1 日あたり 1,500 件の電話をかける可能性がある

湖南省岳陽市の警察が作業中に発見した。岳陽楼区新鹿口のコミュニティにある情報サービス会社が、通信詐欺という違法な犯罪行為に関与した疑いがある。そのため、同社の従業員 7 名が捜査のため法執行事件センターに連行されました。

調査の結果、同社責任者、黄茂華さん（男性、32歳、岳陽市出身）は、購入した「AIプラットフォーム」のインテリジェントな顧客サービスは1日1000～1500件の電話をかけ、投資商品を勧めるフィッシング電話を掛けてくる。。

現在株式取引を行っている、または株式取引を行う予定のある被害者は、事前に設立された偽の株式取引 WeChat グループに引き込まれます。

グループには数百人がいますが、騙されるのは 10 人未満であることもよくあります。他にはパフォーマンスに協力するゾンビのWeChat IDがあり、毎日グループ内で偽りの高額な報酬を交換し、騙された人々を騙し取っています。

Huang Mouhua 氏は法律に従って刑事拘留され、同社の従業員 7 名が法律に従って拘留された。

5月12日:詐欺集団には文化がない、誰が技術を提供するのか？

警察は取り調べの過程で、犯罪容疑者は一般に学歴が低く、詐欺に実装された特定のテクノロジーについてあまり知らないことが判明したため、彼らの背後に技術サポートを提供する他のグループが存在するに違いありません。

そのため、岳陽楼公安局は5月12日、事件の背後にある技術提供者を徹底的に調査するための特別委員会を速やかに設置した。

この事件の警察は捜査を通じて、使用したAI顧客サービスロボットが広東省のAIインテリジェントプラットフォームからのものであることを発見した。

このプラットフォームは、AI音声カスタマーサービスやWeChatグループチャットアシスタントなどの複数の機能を提供し、ヘルスケア、財務管理、株式などをカバーする78セットの詐欺「音声」テンプレートも「顧客」に提供します。

集中的な分析と判断の後、対策本部の警察はまず、AIインテリジェントプラットフォームのボス、エージェント、営業、技術、財務担当者の活動軌跡を把握しました。

7月16日～18日:州全体でテクノロジー犯罪組織を捕まえれば、詐欺よりも儲かる可能性がある

7月16日朝、広州特殊作戦本部の統一出動のもと、深セン龍崗警察、広州黄埔警察、恵州恵陽警察の強力な支援により、3つの特別逮捕チームが容疑者ザン・モウ（男性、34歳）の逮捕に成功した。広東省恵州出身の老）ら8人、複数の携帯電話とコンピューターが現場で押収された。

7月18日朝、深セン龍崗警察の支援を受けて、対策本部はAIインテリジェントプラットフォーム企業の本社へ直行し、主犯格のリアン・モウチャンさん（男性、37歳、広東省増城市出身）と他の3人は無事に捕獲され、現場では20台以上の携帯電話と数台のコンピューターが押収され、事件に関与した現金は100万元以上となった。が押収され、関与した資金1000万元以上が凍結された。

予想外なのは、2020年6月の時点で、湖南省、湖北省、広東省、河南省、重慶市、北京市を含む12の省と都市をカバーする合計123のアカウントがAIインテリジェントプラットフォームに登録されているということです。これらのアカウントはすべて疑わしいものです。小さな金融詐欺集団のこと。

2020年3月下旬から7月上旬まで、わずか 3 か月で、このスマート プラットフォームの売上高は 3,000 万元以上に達しました。

案の定、水を売るほうが金を掘るよりもはるかに儲かります。

現在、黄牧華氏を含む主要容疑者12名は全員、法律に従って公安機関に刑事拘留されており、その他の7名も法律に従って拘留されており、関連事件についてはさらに捜査が進められている。

テクノロジー: 援助者か共犯者か?

インテリジェントな対話と音声合成テクノロジーにより、AI カスタマー サービスは驚くほど優れたパフォーマンスを発揮し、真実と虚偽を見分けることが困難になるだけでなく、犯罪者にそれを利用する機会も与えられます。

2020年上半期には、全国で合計10万1,000件の通信ネットワーク詐欺事件が摘発され、9万2,000人の容疑者が逮捕され、前年比それぞれ73.7%、78.4%増加した。

検索エンジンに「AI音声ロボット」と入力すると、「テレマーケティング」や「グループ通話」などのおすすめ結果が表示されます。

ロボットの販売ページのひとつには、機能紹介に次のように書かれている。インテリジェントな音声学習、回答の正確な認識、ワンクリックの自動グループ通話、顧客情報管理...等

テクノロジーには罪があるのか？テクノロジーによるデメリットをどう改善するか？

この問題は、テクノロジーの悪影響に直面するたびに議論されます。しかし、短期的には明確な答えが見つからないことは明らかです。

電話をかけ、人々をだまされるように誘惑するのはテクノロジーですが、害を与え、詐欺を始める意図を持っているのは常にテクノロジーの背後にある人々です。

技術的な問題を解決したい場合、最初に解決する必要があるのはやはり人間の問題です。

- 以上 -