メタ、AIアプリ「クルッシュAI」による不適切広告に対処へ 诉讼も提起

主な要約 主な関係者または組織 Meta（旧Facebook）: 氏名を特定せずにユーザーの画像を「脱衣」するAIアプリの広告掲載に対処するため、法的措置をとっている。 Joy Timeline: 香港 domiciledの企業で、「脱衣」AIアプリであるCrush AIの広告を大量に配信していた。 CBS News: 数百本のこのような広告がMetaのプラットフォームに掲載されていることを調査し報告した。 San Francisco: 16のAI「脱衣」深伪ウェブサイトに対し、法的措置をとった。 出来事の時系列と背景 2025年初頭、CBS NewsがMetaのプラットフォーム（Facebook、Instagram、Messenger、Threads）で数百の「脱衣」AIアプリの広告が掲載されていることを調査報告しました。これらのアプリは、ユーザーの同意なしにその人の衣服をCGによって取り除く機能を提供しており、特に女性や有名人に対して不適切に利用される傾向があります。 出来事の原因、経過、結果 Joy Timelineは香港の企業であり、その製品であるCrush AIの広告をMeta平台上で大量に配信しました。2025年1月、Faked Up newsletterの著者Alexios MantzarlisがCrush AIが2週間で8,000以上の広告を掲載し、そのうちの大部分がFacebookやInstagramから来ていることを指摘しました。Joy TimelineはMetaの広告審査プロセスを回避するために、数十の広告アカウントを設定し、ドメイン名を頻繁に変更していました。 Metaはこのような広告の掲載を繰り返し削除していましたが、Joy Timelineが再度広告を出稿するため、最終的にMetaはJoy Timelineを提訴しました。Metaは、「この法的措置は当社がかかる搾取行為を真剣に取り組んでいることを示すものであり、コミュニティを保護するため最善の努力をするという当社のコミットメントを強調しています」と述べました。 重要な事実、突破口、転機 Metaは新しい技術を開発して、広告の中になんらかの不正行為を隠蔽している広告を検出し削除する能力を向上させています。具体的には、広告に露出がない場合でもAI「脱衣」サービスの広告を見つけ出すための一致マッチング技術を使用しています。また、Metaは悪質行为者のネットワークを解体する従来の手法を活用し、2025年に入ってからすでに4つのネットワークを阻止しました。 関連する背景情報 Metaだけでなく、他のソーシャルメディアプラットフォームも同様の問題に直面しています。X（元Twitter）、Reddit、YouTube等でもAI「脱衣」アプリへのリンクが急増しています。2024年には、これらのリンクがこれらの平台で大きく増えたことが報告されています。特に未成年者が这些アプリの使用にさらされる可能性が高く、そのためにMetaとTikTokはキーワード検索でのAI「脱衣」アプリの広告掲載禁止措置を講じています。さらに、Tech CoalitionのLanternプログラムを通じて各社が協力して子供の性的搾取防止に取り組んでいます。 背景の補足 専門家や業界のコメント この問題には多くの研究者が注意を払っており、特に未成年ユーザーのセキュリティとプライバシーへの影響に懸念を示しています。Tech Coalitionのメンバー各社は、子供のオンライン安全確保のための情報共有プログラムLanternに積極的に参加し、互いのプラットフォーム上で同種の問題の発生を未然に防ぐことに全力を尽くしています。 企業または組織のプロフィール Metaは長年、ユーザーの安全とプラットフォームの健全性の維持に力を入れてきており、今回の法的措置はその一環と言えます。同時に、Metaはテクノロジーの進歩に合わせて、有害コンテンツの検出と削除に関する新たな挑戦にも対応しています。 広範な影響や対応 これらのAI「脱衣」アプリは、ユーザーの同意なく個人情報を悪用し、脅迫や「sextortion」などの犯罪につながります。特に女性や有名人が標的にされやすく、広範な社会的な問題を引き起こしています。Metaやサンフランシスコ市の法的措置は、この問題に対する社会的な認識を高め、他の企業や組織にも同様の対策を促す効果が期待されます。 今回の法的措置は、技術者と法務チームにとって大きな課題となりますが、ユーザーのプライバシーと安全を守るためには不可欠なものと考えられます。今後もMetaは、不適切な広告への対応や子供のオンライン安全を确保するための立法支持を積極的に推進していく方針です。