HyperAIHyperAI

Command Palette

Search for a command to run...

AI安全規制、企業と政府の対立が研究者を揺るがす

アントロピックが6月9日に公開したAIモデル「Fable 5」を巡る運用制限と即時撤回騒動を巡り、研究界隈で議論が激化している。科学的研究促進を謳う同モデルは、公開直後から基礎的な生物学問い合わせでさえ拒否されるなど安全策が過剰だった。さらに、先端的なAI研究クエリに対しユーザーに通知されず機能を低下させる仕様が発覚し、研究の透明性への懸念が広がった。 研究者らは企業によるアクセス管理の恣意性を批判した。αXiv創設者は、不可視な介入により実験結果の検証が不可能になると指摘。バイオ研究者は専門家対話なく一律制限を科した判断を問題視し、実用的なリスク管理の欠如を訴えた。 批判が高まる中、6月12日、トランプ米政権は国家安全保障を理由に輸出管理指令を発動。外国籍者を対象に使用を禁止し、アントロピック社はFable 5および過去に公開中止した「Mythos 5」を即時オフラインへと切り替えた。この政府介入により、企業規制と国家要請が交差する中、研究者が制御不能なツールの利用を強いられている現状が浮き彫りになった。 本件はAI開発と研究の自由、規制のバランスを問う転換点となっている。学者らは独立した第三者評価機関の早期設立を緊急課題として提起する。同時に、構造公開型オープンソースAIの開発加速への機運も高まっている。モデル撤回の速さは、現在のAI研究が少数企業や政府判断に依存せざるを得ない脆弱性を示しており、透明性のあるガバナンスと独立検証体制の構築が業界の最重要課題となっている。

関連リンク

AI安全規制、企業と政府の対立が研究者を揺るがす | 人気の記事 | HyperAI超神経