ディスコードは5月以降、AI自動審査システムのバグにより無害な画像を有害コンテンツと誤判定し、8,000人以上のユーザーアカウントを不当に停止していたことを公式に認めた。同プラットフォームは現在、影響を受けた全アカウントの復旧作業を進めている。 問題のAIシステムは、アップロードされた画像を既知の有害データベースと照合してフィルタリングを行う設計だが、バグにより人間の審査員による再確認ステップをバイパスし、即時アカウント停止が実行されていた。誤判定の対象は、表計算ソフトのグリッド線、チェス盤、ゲーム開発者のテクスチャ画像、白やグレーの透過背景など、日常的に利用されるコンテンツが多数を占めた。ユーザーはゲーム制作やコミュニティ運営など、プラットフォームを業務や長期的な交流の基盤とする層を中心に大きな被害を受け、SNS上で強い不満と懸念が表明されている。特にグリッドパターンへの過剰な反応は、過去に性的搾取コンテンツを回避するために悪用された手法に関連するアルゴリズムの感度調整が起因ではないかとの指摘もある。 ディスコードは公式Xアカウントにて対応を公表し、再発防止のため審査プロセスに更なる安全装置を追加すると謝罪した。今回の件は、大規模プラットフォームがAIモデレーションへ過度に依存する際に生じる誤検知のリスクを浮き彫りにした。メタが運営するインスタグラムやFacebook、Tumblrなどでも同様の不透明な自動停止が相次いで報告されており、業界全体でアルゴリズムの透明性確保と審査基準の見直しが緊急課題となっている。