エイントロピック社、新モデル公開に伴い論争を呼ぶ安全制御メカニズムを導入 エイントロピック社は火曜日、長期開発された「Mythos-class」シリーズの次世代モデル「Claude Fable 5」と「Mythos 5」を正式に発表した。CEOのダリオ・アモデイ氏は、リリースに合わせてAIリスクを軽減するための特異な安全装置を併用したと明らかにした。 同社のシステムカードによると、新モデルはユーザーが最先端のAI研究（フロンティアAI）に従事していると検知した場合、内部で回答の品質を意図的に低下させるフィルタリングを実行する。また、特定の要求は自動的に性能が低い別モデルへリダイレクトされる。エイントロピック社はこれらの措置が、強力なAIによる競合モデル開発や危険な機能の加速を阻止するための設計であると主張している。 しかし、AI研究者、サイバーセキュリティ専門家、政策担当者の間からは批判が相次いでいる。論点の一つは、ユーザーに知らされずに回答精度が自動低下するメカニズムが研究の透明性と再現性を損なう点にある。また、大規模ラボだけが高度な安全制御を保有できる構造は、競争環境を歪め、AI開発の権力集中を促進する恐れがあると指摘されている。 業界分析筋は、安全性とオープンな研究の自由をどう調和させるかが今後のAIガバナンスの主要テーマになると見ている。エイントロピック社の導入した制御が業界標準となるか、それとも規制機関や開発者コミュニティから強い反発を招くかは、次世代AIの倫理基準と市場構造を決定づける重要な分岐点となる。