メタ、新AIで児童虐待誘導広告を検出

メタプラットフォームズは2026年上半期、フェイスブックおよびインスタグラムにおける子供性的虐待関連コンテンツの対策強化を発表した。対応検出件数は3,320万件に達し、その97％以上がユーザー通報前にAIシステムによって特定された。インドでは530万件が処理され、検出率は98％を上回っている。 同社は悪意ある行為者が一見無害な広告を通じて外部の違法サイトへユーザーを誘導するサインポスト型手口への対応として、新たなAI検知ツールを導入した。これはクリック後の移動先URLを分析する大規模言語モデル（LLM）を採用し、広告自体には違法コンテンツが含まれていなくても誘導先がポリシー違反と判断された場合にブロックおよびアカウント措置を実施する仕組みだ。加えて、従来のシステムで検知漏れとなっていたコンテンツを補完する追加AIスキャン、内部の防御体制をテストするレッドチームAIエージェント、BANされたユーザーによるアカウント再作成を検知する機能も整備した。 今回のAI強化は、2026年8月に米国29州と合意した180億ドルの訴訟解決金支払いを受けてのプラットフォーム安全対策の全面見直しの一環である。メタは今年度、保護者向けコントロール機能を相次ぎ実装。Meta AIの保護者機能設定、WhatsAppのプレティーン向けアカウント仕様、Instagramにおける自傷関連検索時の保護者通知に加え、9月にはWhatsAppでチャンネル利用の制限やステータス・グループ追加の公開範囲設定を拡充した。同社はAI検知精度の向上と保護者機能の充実により、未成年者のプラットフォーム利用環境の安全確保を最優先課題として位置づけ、継続的なシステム更新を進めている。