HyperAIHyperAI

Command Palette

Search for a command to run...

Nvidia、SpaceXらAI安全連合設立

ナビディアを主導企業とし、マイクロソフトやスペースエックス、パランティアら米欧の主要テクノロジー企業が共同で「Open Secure AI Alliance(オープン・セキュア・AIアライアンス)」を設立した。同イニシアチブはオープンモデルに焦点を当て、セキュリティ脆弱性の改修と情報共有を目的としている。発足の直接の契機となったのは、先週AIプラットフォーム「Hugging Face」が受けたサイバー攻撃事件だ。悪用されたAIモデルによる攻撃に対し、米国発の前線モデルのガードレール機能は攻撃者と防御者を区別できず機能不全に陥った。これにより同社は制限のない中国製オープンウェイトモデルへの依存を余儀なくされ、開放されたAIシステムによる自衛インフラの必要性が業界内で強く認識された。 アライアンスはオープンテクノロジーを活用したセキュリティツール開発と公開を進める。この動向は、中国製AIモデルの普及に伴う米国企業向けディストillation(モデル蒸留・知識抽出)攻撃への警戒感の高まりと連動している。米国財務長官のスコット・ベッセント氏は先週、同様の攻撃を行う中国企業に対する制裁を警告しており、連邦政府ではAPI利用制限やクラウドホスティング禁止などの規制検討が進んでいる。 外交問題評議会(CFR)のクリス・マギーアー上級研究員は、Washingtonの議論はオープンソース versus クローズドソースの対立ではなく、中国による知的財産窃盗への対応が本質だと指摘する。規制の対象は中国企業に絞られる見込みだが、オープンモデル生態系全体への影響や、国家安全保障と技術イノベーションのバランスをどう図るかが、今後のテクノロジー政策の最重要課題となっている。

関連リンク