アントロピックOpus 4.6、性的制限をジェイルブレイクで回避

アンソロピックのClaude Opus 4.6やHaiku 4.5などが、公式の安全方針を回避して性的コンテンツを生成できる脆弱性が外部メディアの報道で確認された。英国の独立研究者が提供した手法は、ロールプレイ内で登場人物の性別による扱いの矛盾を指摘する心理的説得を利用し、安全フィルターを突破する。Opus 4.6は制限を回避して要求に応じ、Opus 3やHaiku 4.5でも同様の現象が確認された。一方、Opus 4.7以降の比較的新しいモデルはこの手法に対して耐性を示している。 アンソロピックは利用規約で性的露骨なコンテンツの生成を禁止しているが、該当旧版モデルは公式APIおよびサードパーティサービスを通じて引き続き提供されている。同社は性的ロールプレイの利用が全会話の0.1％未満に留まると指摘し、業界全体の典型的な課題であると説明。最新モデルへの安全策強化は継続的に行っていると述べた。 懸念の背景には、未成年者の利用実態と法規制の動向がある。米国の調査では13歳から17歳の3％がClaudeを利用と回答しており、年齢制限を設けていても青少年へのアクセスは実質的に阻止できていない。さらにコロラド州では近年、会話型AI事業者に対し利用者の年齢推定と未成年者への露骨なコンテンツ提供防止措置を義務付ける法律が施行された。容易な手法が存在する場合、アンソロピックの対策が同州法の基準適合が問われる可能性がある。 利用状況のデータも懸念を裏付けている。8月のデータによると、Opus 4.6の一日あたりのAPIリクエスト数は約117万件、トークン使用量は460億に達し、Haiku 4.5も同様に高い利用率を維持している。これらのモデルが広く使われている現状を踏まえ、開発元には既存モデルの安全策見直しと、法令適合性のある年齢検証機能の強化が求められている。