HyperAIHyperAI

Command Palette

Search for a command to run...

米政府、AnthropicとAIセキュリティ基準を策定へ

米ホワイトハウスとAI企業Anthropicは、次世代大規模言語モデルのセキュリティ脆弱性評価に関する共通基準の設定を巡り、協議を加速させている。両者の対話は当初、Anthropicの最新モデル「Fable 5」および「Mythos 5」におけるJailbreak(規制回避攻撃)の深刻度をめぐる見解の相違から対立し、ホワイトハウスは同モデルへの海外輸出制限を発動した。しかし、技術の進展が政府の規制インフラを大きく超えている実態を受け、懲罰的な措置から予防的なガバナンス枠組みの構築へ重心を移す方向で合意に至っている。 協議の中心には、セキュリティ侵害の重大度を測定する統一ベンチマークの策定がある。ホワイトハウスのノースサイバーディレクターSean Cairncross氏と商務長官Howard Lutnick氏、Anthropic創業者Tom Brown氏、CEO Dario Amodei氏の間で週末から始まった緊密な対話を経て、技術者が商務省を訪問し実務レベルでの調整が進められている。Anthropic側は完全なハッキング耐性を備えたAIモデルは存在しないとの立場を示し、政府がリスク測定ルールを明示する必要性を強調。G7閣僚・CEO会合での議論とも整合し、産業全体が技術標準化による事前ガードレール設置に一致した見解を示している。 協議を主導するAnthropic公共政策担当のSarah Heck氏やTom Brown氏は、今後適用される評価基準において、防御策の回避度、露呈した能力、違反による実質的な影響の三要素を指標化することを提案している。輸出制限は解除されていないものの、実務的な基準策定に向けた交渉の進展は、米政府がAIセキュリティ規制を罰則中心から技術基準中心へ転換しつつあることを示している。今後の標準化プロセスが、米国発AIモデルの安全保障と産業競争力の両立にどう影響するか、注目される。

関連リンク