Base Labs、Hugging FaceとAI安全提携開始

Baseten傘下の研究組織Base Labsは、Hugging FaceおよびGoodfire AIと連携し、オープンウェイトAIモデル向けの安全基準と監視インフラの構築に乗り出すと発表した。本取り組みは、オープンソースAIモデルの安全性をめぐる議論が激化する中で発表された。近年、モデルの安全防護を意図的に除去するアブレーション技術の普及により、Hugging Face上には防護解除されたモデルが6,000モデル以上公開されており、課題の規模は拡大の一途を辿っている。 Base Labsは今後、オープンモデルのトレーニングからデプロイに至る過程に安全基準を組み込む手法を開発・公開する予定だ。同社は、安全対策を事後追加するのではなく基盤に内蔵する標準の確立を目指し、情報の透明性と検証可能性を強調している。公式見解では、開放性はAI安全にとって強みであり、モデルの動作を可視化し、研究結果を実行可能な透明な制御に転換する手段を提供すると主張している。 技術的な詳細は現時点で公開されていないが、モデルの意思決定プロセスを可視化する解釈性プラットフォームを専門とするGoodfire AIが、安全機能の基盤構築に深く関与する可能性が高い。本連携には両社の資金力も背景にある。Basetenは6月に15億ドルのシリーズF調達を完了し企業価値を130億ドルに押し上げた。Goodfire AIも今年初めにB Capitalなどから1億5,000万ドルのシリーズB調達を実施している。 Base Labsは今後、開発者エコシステム全体を対象にインフラ構築への参画を呼びかける。共同発表では、安全かつ誰もがアクセス可能なオープンモデルの生態系を共に構築するとの方針が示されており、業界標準の策定とオープンAIの健全な普及に向けた協調体制が本格化している。