アマゾンCEOのアンド・ジャージー氏が、米国政府に対してAnthropicのAIモデルに関するセキュリティ懸念を事前に伝え、その結果、連邦当局が同社の2つのモデルに対する輸出管理制限を課したと報じられている。ウォール・ストリート・ジャーナルの報道によると、ジャージー氏は金曜日にスコット・ベッセント財務長官ら政府関係者に対し、アマゾンの研究者がAnthropicのClaude Fable 5を用いてサイバー攻撃に転用可能な情報を取得可能であることを警告したとされる。この指摘を受け、米国政府はFable 5に加えMythos 5に対しても輸出規制を適用した。 アマゾンの広報担当は、政府がセキュリティリスクに関する助言を依頼することは珍しく、協議の詳細は機密保持のため非公開と回答した。しかし、The InformationやReutersも、Anthropicの主要投資社であるアマゾンがモデルのセキュリティ面に懸念を共有していたと独立して報じており、アマゾンの関与を示す証言が複数のメディアで一致している。 元AI対策責任者で現科学技術諮問委員会共同議長のデヴィッド・サックス氏も、議論の経緯について言及している。サックス氏はAnthropicおよび米国政府から信頼の厚いパートナーから脱獄脆弱性の報告があったと明らかにし、行政側がAnthropicのダリオ・アモダイCEOに対し、脆弱性の修正かモデルの削除のいずれかを選択するよう要請したと明かした。その上で、アモダイCEOは要請に応じなかったと主張している。 本件は、投資企業と開発企業の緊密な関係が国家安全保障とAIガバナンスに直接影響を与えるケースとして注目されている。主要株主であるアマゾンがモデルに深刻な脆弱性があることを政府に通報した経緯は、生成AI開発企業に対する外部セキュリティ監査と規制当局との連携体制の重要性を浮き彫りにしている。今後は、米政府によるAIモデルの分類基準と、企業間でのセキュリティ情報共有プロトコルの標準化が議論の焦点となる見込みだ。