内容の概要:深層合成サービスは、ユーザーのニーズを満たし、ユーザー エクスペリエンスを向上させる一方で、一部の悪意のある個人によって、違法な情報を作成、コピー、公開、配布したり、他人の評判や名誉を中傷したり軽視したり、他人の身元を偽装して詐欺行為や不正行為を行うためにも使用されます。最近、このテクノロジーを管理する規制がついにリリースされました。

キーワード:ディープフェイク深層合成規制   

最近、サイバースペース中国は「インターネット情報サービスの綿密な統合管理に関する規定」を発表し、この規定は中国サイバースペース局によって審査および承認され、工業情報化部および省によって承認されたと述べています。公安、2023 年 1 月 10 日から施行されます。

ブーツが地面に着くと、深層合成テクノロジーがギャップを検出して埋め始めます。

実際、中国サイバースペース局はすでに今年 1 月に「インターネット情報サービスの徹底的な統合に関する規則 (意見募集草案)」を発行し、一般からの意見を公募しました。11 か月後、このブーツは完成しました。ついに本格的に動き始めました。最近急成長を遂げているChatGPTですが、国内展開は一時停止ボタンを押さなければならないかもしれません。

今回正式に公開された管理規定では、深層合成技術の範囲と利用仕様がさらに明確化された。テキスト、画像、オーディオ、ビデオなどの複数の形式の関連テクノロジーをカバーします。

一般的な規定に加えて、管理規則には、データと技術的な管理仕様、監督、検査、および法的責任に関するより詳細な仕様と説明も記載されています。この記事では、いくつかの主要な規定をリストします。

虚偽ニュースの制作・流布の禁止 

深層合成サービスのプロバイダーおよびユーザーは、深層合成サービスを使用して虚偽のニュース情報を作成、コピー、公開、または流布することはできません。深層合成サービスに基づいて制作・公開されたニュース情報を転載する場合、インターネットニュース情報源部門が公開したニュース情報は法律に従って転載しなければなりません。

深層合成技術を使用するには実名認証が必要です 

深層合成サービスプロバイダーは、法律に従って、携帯電話番号、身分証明書番号、統一社会信用コード、または国家オンライン本人認証公共サービスに基づいて、深層合成サービスのユーザーの実際の身元情報を認証するものとします。情報公開サービスは、実際の身元情報を認証していない深層合成サービスのユーザーに提供することはできません。

複数の個人情報が含まれる場合は別途同意が必要です 

深層合成サービスプロバイダーおよび技術サポート者は、トレーニングデータの管理を強化し、トレーニングデータの安全性を確保するために必要な措置を講じる必要があります。トレーニングデータに個人情報が含まれる場合は、個人情報保護に関する関連規制を遵守する必要があります。

深層合成サービスプロバイダーやテクニカルサポーターは、顔や人の声などの生体情報編集機能を提供し、深層合成サービスの利用者は、法律に従って編集対象者に通知し、別途同意を得ることが求められます。

深層合成サービスを使用して生成または編集されたコンテンツには、独特のマークを付ける必要があります 

深層合成サービスを利用して生成・編集された情報コンテンツについては、ユーザーの使用に影響を与えないロゴを追加するための技術的措置を講じるべきであると規定されていますが、また、法律、行政規制および関連する国内規制に従ってログ情報を保存します。

深層合成サービス プロバイダーは、世間の混乱や誤解を引き起こす可能性のある次の深層合成サービスを提供しています。生成または編集された情報コンテンツは、適切な場所および領域に明確にマークされる必要があります。深層合成について一般に知らせるには:

(1) 自然人をシミュレートしてテキストを生成または編集するインテリジェントな対話、インテリジェントなライティング、およびその他のサービス。

(2) 人間の合成音声、模倣音声などの音声を生成したり、個人のアイデンティティ特性を大幅に変更したりする編集サービス。

(3) 顔の生成、顔の置き換え、顔の操作、ジェスチャー操作、その他のキャラクター画像およびビデオの生成、または個人のアイデンティティ特性の重大な変更などの編集サービス。

(4) イマーシブ シミュレーション シーンの生成または編集サービス。

(5) その他情報内容を生成または大幅に変更する機能を有するサービス。

深層合成サービスプロバイダーが前項で指定したもの以外の深層合成サービスを提供する場合、顕著な識別機能を提供し、深層合成サービスのユーザーに顕著な識別を実行するよう促す必要があります。

苦情と報告のためのポータルを改善し、プロセスとフィードバックの期限を標準化する 

深層合成サービスプロバイダーは、ユーザーからの苦情や一般の苦情や報告に便利な入り口を設定し、処理手順とフィードバック期限を公開し、結果を速やかに受け入れ、処理し、フィードバックする必要があります。

「インターネット情報サービス総合管理規程」を整備する。

深層合成技術治療への道は長く険しい 

近年では、ディープシンセティックコンテンツの量は爆発的に増加しています。清華大学人工知能研究所は多くの機関と協力し、「深層合成に関する10のトレンドレポート（2022年）」を発表した。

レポートでは、2021 年に新たにリリースされた深層合成ビデオの数が 2017 年と比較して減少していると指摘しました。10倍以上に増加し、映画やテレビの音楽、科学技術教育、生活、エンターテイメント、情報などの分野に関わります。

深層合成コンテンツの量は膨大であり、特定するのが困難です。監督および管理メカニズムを確立および改善するために、国内外で多くの試みが行われてきました。

2019年11月中国サイバースペース局、文化観光部、国家ラジオテレビ局は共同で「オンラインオーディオおよびビデオ情報サービスの管理に関する規則」を発行し、その中で「ディープラーニングに基づく新しいテクノロジーとアプリケーション、仮想現実等を虚偽のニュースの制作、出版、流布に利用してはならない。

2019年12月、中国サイバースペース局は、ディープラーニングや仮想現実技術を利用した違法行為を禁止する「ネットワーク情報コンテンツの生態ガバナンスに関する条例」を可決、発表した。

2020年12月中国共産党中央委員会は「法治社会構築のための実施要綱（2020～2025年）」を発表し、深層偽造などの新技術に対する標準化された管理措置の策定と改善を求めている。

また、米国および欧州連合も、深層合成技術に関する多数の関連法規を公布しています。

2019年12月、米国下院は「2020年度国防承認法」を可決し、国境を越えた組織的かつ政治的動機に基づく活動を伴うディープフェイク偽情報活動を立法機関に通報するよう政府に義務付けた。

欧州連合はテクノロジー大手に対し、ディープフェイクの取り締まりを強化する措置を講じるよう公的に要求しており、さもなければ世界売上高の最大6%という巨額の罰金を科せられることになる。

発売から1週間も経たずに棚から撤去を余儀なくされたZAO APPから、本物と偽物のオバマ、そしてアント・ヘイまで、深層合成テクノロジーは常に発展しており、政策や規制も時代に合わせて対応する必要があります。

深層合成技術の合法的、合理的かつ効果的な使用を促進することによってのみ、深層合成技術によってもたらされるリスクを積極的に防止し、軽減することによってのみ、インターネット情報サービスの健全な発展を促進し、サイバースペースの良好な生態系を維持することができます。