
ディープフェイク攻撃——人間を含むメディアを悪意を持って改ざんする行為——は、社会にとって深刻な懸念事項である。従来のディープフェイク検出手法は、事前に確認されたディープフェイクと実際のメディアを区別するための教師あり分類器を訓練するものである。しかし、こうした手法は過去に観測されたものと類似したディープフェイクのみを検出可能であり、ゼロデイ(未確認の)攻撃タイプには対応できない。現在のディープフェイク生成技術は驚くべき速さで進化しており、新たな攻撃手法が頻繁に登場しているため、これは重大な課題となっている。本研究の主な観察結果は以下の通りである:i)多くの有効なディープフェイク攻撃において、偽造メディアは誤った事実(人物の身元、発言、動作、外見に関する主張)を伴う必要がある。たとえば、オバマを模倣する場合、攻撃者は明示的または暗黙的に「このメディアはオバマを示している」と主張する。ii)現在の生成技術では、攻撃者が主張する誤った事実を完全に再現することは不可能である。この洞察に基づき、フェイクニュース検出から着想を得た「事実確認(fact checking)」という概念を導入し、ゼロデイディープフェイク攻撃の検出に応用する。事実確認は、主張された事実(例:人物はオバマである)が観測されたメディア(例:顔は本当にオバマのものか?)と整合しているかを検証するものであり、実際のメディアと偽造メディアを区別する能力を持つ。したがって、本研究では、顔交換および音声・映像同時生成という重要な攻撃シナリオにおいて有効な「FACTOR」という、実用的なディープフェイク事実確認の手法を提案する。FACTORは学習を必要とせず、市販の特徴量のみを用い、実装が容易であり、何らディープフェイクの事例を事前に見ることなく、既存の最先端手法を上回る検出精度を達成している。