ディジタルフォレンジック専門家のハニー・ファリード氏（GetReal共同創設者）は、生成AIの急速な進化により、一般人がメディアコンテンツの真偽を見極めることが実質不可能になっていると警告する。同氏は1999年に本分野の研究を開始以来、偽造技術の推移を継続的に追及してきた。初期の偽造画像は陰影の不一致や編集痕跡を残していたが、現在の生成AIは専門知識不要でキーボード操作のみにより、視覚・聴覚ともに現実と区別つかない映像や音声を生成可能だ。特にソーシャルメディアで流通する15秒から40秒程度の動画は、視覚的特徴からの判別が極めて困難な段階に至っている。 コンテンツの真偽鑑定には計算機学的・数学的分析が不可欠だが、AIが三次元物理法則を完全に理解していない点を突くことが現在の検知手法の中心だ。しかし鑑定には平均1時間を要し、その間に投稿は百万回以上の再生回数を記録して拡散してしまう。検証は事実上の事後対策に終始しており、真正性を証明する作業は偽造を解明するよりもはるかに困難を極める。 ファリード氏が最も懸念するのは、社会における共通の現実認識の喪失である。政策論争とは異なり、事実そのものを巡る対立が社会分断を加速させている。司法の証拠判定、報道の正確性、国際的な意思決定において事実の基盤が揺らぐことは、民主主義の安定に致命的な影響を及ぼす。検知技術の進化がコンテンツ生成速度を追いつかず、ディジタル証拠の信頼性を維持するための技術的・制度的な対策が急務となっている。