TikTok社は生成AIによる無断の顔写真や外見の模倣対策として、オプトイン方式のAI顔模倣検出ツールの実証実験を開始した。同ツールはまず米国の一部クリエイター向けに提供されており、TikTok米国のスポークスパーソンのZachary Kizer氏によると、今後は段階的に利用範囲を拡大する方針だ。 機能の利用には米国の身元確認サービスJumioを通じた本人確認が必須となる。利用者はリアルタイムのセルフィー撮影と身分証明書の提示を行う必要がある。TikTokは、身分証明書はサーバーに保存せず、顔情報も顔模倣の特定と無断使用の報告にのみ利用されると明言している。 本人確認が完了すると、システムが自動で利用者の顔が含まれる可能性のあるAI生成コンテンツをスキャンし、結果を作成者に通知する。作成者は報告対象をレビューし、許可されていない投稿やアカウントをTikTok側へ報告できるようになる。本機能は、先月に全成年ユーザーに提供を開始したYouTubeの類似ツールと並ぶ、主要プラットフォーム間のAI濫用対策の競争を反映している。 生成AIの急速な普及に伴い、クリエイターの権利やリピュテーションをめぐる問題が顕在化する中、同ツールの実証結果は今後のプラットフォーム側のガイドライン策定への影響が注目される。今後はテスト範囲の拡大や機能強化が進められ、ユーザー保護と表現の自由のバランスを取るための技術基準とガバナンス枠組みの構築が課題となる。