ディープフェイクは米国大統領選挙に影響を与えるだろうと考えていたが、ネットユーザーが過度に懸念していたことが判明した。
2020 年の米国選挙前、人々はフェイクニュースやフェイクビデオが選挙結果に影響を与えるのではないかという懸念でいっぱいでした。しかし、総選挙の暫定結果が出た今、皆さんが以前心配していたようなことはなかったようです。
世界の注目を集めるアメリカ大統領選挙が、アメリカ現地時間11月7日についに結果が出た。 4日間にわたる集中的な開票作業の結果、バイデンは270人以上の選挙人票を獲得し、多くのアメリカの主流メディアはバイデンが勝者であると宣言した。
選挙前から多くの人が、ディープフェイク動画が2020年の米国選挙で主導的な役割を果たし、選挙に干渉するだろうと予測していた。多くのソーシャルプラットフォームや米国下院さえも、事前にディープフェイクに対処する戦略を模索している。
2020 年の選挙が終わった今、選挙プロセス全体を振り返ってみると、誰もが懸念していたように、ディープフェイクは本当に米国選挙に影響を与えたのでしょうか?
自分を美しくして、相手を中傷しますか？トランプ大統領はディープフェイクが大好き
ディープフェイク技術は、その誕生以来、特に政治分野で悪用される運命にあったようだ。
米国のビジネスインテリジェンス企業であるクレオポイントが米国選挙の到来に合わせて9月に発表したレポートによると、インターネット上で公開されているフェイクビデオの数は過去 1 年間で 20 倍に増加しました。
その中で、フェイクビデオの主なターゲットは著名人や経営者であるとクレオポイントは述べた。同社のプラットフォームで見つかった偽動画の 60% は政治家をターゲットにしていました。
アメリカの政治をターゲットにしたこれらのフェイクビデオは一般に、一方の政党を称賛し、他方の政党を中傷します。また、この種の動画は誰の心にも残りやすく、拡散しやすいため、最終的には有権者の候補者に対する判断に影響を与える可能性があります。
栄光に満ちたトランプ
今年5月、Twitterユーザー@mad_liberalsがディープフェイク動画を投稿した。ビデオではトランプ氏がSF映画「インデペンデンス・デイ」のワンシーンに登場し、劇中のトーマス・ホワイトモア大統領に「転生」し、「我々は生き残るために戦わなければならない」と演説する。聴衆もトランプ氏を支持するホワイトハウスチームとして「顔が変わった」。
トランプ氏は当時喜んで偽動画を再投稿し、その夜その動画は1000万回以上再生された。
悪者にされたバイデン
トランプ大統領はまた、ライバルのバイデン氏を中傷するディープフェイク動画を転送することに非常に熱心である。
トランプ大統領は今年4月、バイデン氏が舌を突き出す偽動画を「ずさんなジョー」というテキストとともにリツイートし、バイデン氏のイメージを傷つけた。
しかし、トランプ氏が競合他社を中傷するような偽の動画や画像を再投稿することは、必ずしも自分に有利な結果をもたらすとは限らず、一部の有権者は「本物の大統領ならこんな奇妙なコンテンツを再投稿するはずはない」と失望した。
実際のところ、一定の判断力を持った人であれば、こうしたフェイクビデオの内容を信じる人はいないでしょう。しかし、一部のグループが依然として混乱し誤解され、最終的に総選挙での投票の選択に影響を与える可能性があることを避けるのは困難です。
メディアがディープフェイク動画を公開、ネチズンに深刻な結果を警告
2018年4月、アメリカの俳優ジョーダン・ピールはアメリカのオンラインニュースメディア会社バズフィードと協力し、AI技術を利用してオバマ大統領の演説のフェイクビデオを作成した。
このビデオは、ピール氏のスピーチをソースビデオとして使用し、その後、ピール氏の動きをオバマ氏の画像に移しています。
ビデオの中のオバマ大統領の表情や行動は非常に自然で、顔の変化の痕跡は見られない。プロデューサーのジョーダン・ピールとバズフィードが個人的に真実を明らかにしていなかったら、多くの人が騙されていただろう。
制作チームは、Adobe After EffectsとAI顔変更ツールFakeAppを使用して、このビデオの作成に合計60時間しか費やさなかったと述べました。
彼らはこのビデオを制作し、投稿したと述べています。これは、インターネット上で見聞きするもの、特にそのようなディープフェイク動画を信じないよう皆さんに訴え、注意を喚起するためのものです。
AI テクノロジーとさまざまな無料の顔変更および吹き替えソフトウェアの助けにより、フェイクビデオの敷居は継続的に低下しており、一部の技術専門家はこれらのテクノロジーがもたらす可能性のある影響を懸念しています。
「もし誰かがこの技術を使ってリアルなフェイクビデオを作成して虚偽の情報を広めたり、メディアや党チームさえもこれを使って虚偽のプロパガンダを実行したりすれば、悲惨な結果になるだろう。」
これは根拠のないことではありません。
今年2月、インドのデリー州議会選挙でインドインド人民党（BJP）の候補者の1人であるマノージ・ティワリ氏は、少数派言語を話す有権者の支持を得るためにビデオ詐欺技術を利用して自分自身について「語る」行為を行った。知らない言語で投票を呼びかける。
このビデオは良い結果をもたらし、一般の人には欠陥がまったく見えなかったので、最初は疑われなかっただけでなく、候補者へのより多くの票を獲得するなど、非常に熱狂的な反応を示しました。
結局、注意深いネチズンは依然としてビデオの信頼性を疑っていましたが、その後、テクノロジーメディアのバイスは、それが確かにディープフェイクビデオであり、インドインド人民党によって個人的に指示され、広報会社と共同で制作されたことを確認しました（詳細は、を参照してください「インド議会選挙、候補者らはディープフェイクを利用して方言動画を偽造し、投票を募る」）。
そのため、前述した米ビジネスインテリジェンス企業クレオポイントのジャン＝クロード・ゴールデンスタイン最高経営責任者（CEO）は、今回の米大統領選に深い懸念を表明した。
彼はこう言いました。「あなたが思っているよりも多くの偽ビデオが存在する。さらに恐ろしいのは、これらのビデオを作成するための技術とツールが、これらのビデオが解読される速度よりも速く発展しているということだ。」ゴールデンスタイン氏は、「大統領選挙は行われるべきだ」とさえ述べた。フェイクビデオ選挙と呼ばれる。」
ディープフェイクの悪影響を排除する方法: 検出と法規制を強化する
しかし、ありがたいことに、ディープフェイクは今年の米国選挙で波紋を起こさなかっただけでなく、脇役にすらなりませんでした。専門家の分析によると、これは主に次の 2 つの理由によるものと考えられます。
ソーシャル プラットフォームは雨の日に備えます: 正確な攻撃
選挙までの数か月間、主流のソーシャルメディアプラットフォームは、コンテンツをレビューして特定し、フェイクビデオなどの偽コンテンツを迅速に削除するためのより公的措置を講じてきた。
フェイスブック:
昨年9月、Facebookは ディープフェイク検出チャレンジ、開発したツールを政府やメディア、企業などによるフェイク動画の検出に利用することが目的。
今年1月、Facebookは選挙前にディープフェイク動画や誤解を招く情報を含むコンテンツを削除するとのブログ投稿を公開した。
ツイッター:
今年2月、Twitterは合成および操作されたメディアに関する新たなポリシーを発表し、継ぎ接ぎ、トリミング、吹き替え、または実在の人物の架空の映像など、重大な変更または捏造が行われたメディアコンテンツを取り締まると述べた。 Twitter はそのようなコンテンツに警告ラベルを貼ります。
例えば、以前、トランプ大統領を支持するユーザーが、バイデン氏を少し気が狂ったように見せるディープフェイク技術を使った動画を投稿した。同氏は「バイデンが米国大統領になることを想像できるだろうか？彼は簡単な質問や簡単な表現さえも答えることができない」と発言し、その後ツイッター社から警告ラベルを貼られた。
科学研究機関は検出アルゴリズムの改善に積極的に取り組んでいます。
選挙がディープフェイクによって妨害されるのを防ぐために、主要な科学研究機関やテクノロジー大手も、ディープフェイクコンテンツに対抗するためのアルゴリズムの開発に積極的に取り組んでいる。
グーグル：
昨年 9 月、Google は、公開されているさまざまなアルゴリズムを使用して制作された 3,000 本の AI 生成ビデオのオープンソース データベースをリリースしました。 Google は、ディープフェイク自動検出ツールのトレーニングとテストに役立つ多数のサンプルを作成するためにこのデータセットを作成しました。
インテルとビンガムトン大学:
今年 9 月、ビンガムトン大学とインテルの研究者は、次のようなアルゴリズムを開発しました。映像内の心拍信号を利用して映像が偽物かどうかを検知できるとされており、その精度は90%と同等と高い。それだけでなく、このアルゴリズムは、ディープフェイク動画の背後にある特定の生成モデル (Face2Face、FaceSwap など) を検出することもできます。
マイクロソフト:
選挙前夜の今年9月、Microsoftは「Video Authenticator」と呼ばれるディープフェイク検出ツールをリリースした。このツールは、ビデオの信頼度スコアや操作の「割合」を表示することでディープフェイクコンテンツかどうかを示す。
したがって、ソーシャル プラットフォームやメディア プラットフォームが偽コンテンツを検出できるようになると、そのようなビデオは最終的には芽が摘まれることになります。
同時に、これまでの関連する法的ギャップは徐々に改善されており、ビデオを偽造した者の悪影響に対する責任を問うことで、すべてが明確になるでしょう。
例えば、今年5月に我が国で成立した民法では、技術を利用してビデオを改ざんすることは肖像権の侵害であると規定されており、同法第1019条に明記されている（参照）「AIによる顔変更や音声改ざんなどが新版民法に明記される」）。
第 1019 条 [肖像権の否定的権限] いかなる組織または個人も、名誉を毀損し、または誹謗中傷してはならない。 または、情報技術手段を利用して他人の肖像権を偽造し、侵害する行為。法律に別段の定めがある場合を除き、肖像権者の許諾を得ることなく、肖像権者の肖像を制作、使用、公開することはできません。
テクノロジーと法律の二重の監視下では、フェイクビデオの制作者や拡散者は、政治に関与したいと思っても、より高い代償を払うことになるかもしれない。
この時点で、記事の冒頭で挙げた疑問は解決されました。ディープフェイクは今年の米大統領選に何の混乱も引き起こさなかったし、ましてや選挙に干渉したわけではないので、これは純粋にネチズンの過大評価の問題だった。しかし、今後も関連監督を緩和することはできず、テクノロジーによる悪事を常に防止しなければなりません。
- 以上 -