Hugging FaceとVirusTotalが共同でAIセキュリティ強化に向けた協業を開始した。この提携により、世界最大の機械学習モデル・データセット共有プラットフォームであるHugging Face Hub上の公開リポジトリが、継続的にVirusTotalのマルウェア分析データベースでスキャンされる。現在、Hubには220万以上の公開モデルやデータセットが保管されており、その安全性確保が急務となっている。 AIモデルは高度なバイナリファイルや依存関係を含む複雑なデジタル資産であり、悪意のあるコードや改ざんされたファイルが隠れているリスクがある。今回の協業により、ユーザーがモデルやデータをダウンロード・利用する前に、ファイルがマルウェアや脅威に関連しているかどうかをリアルタイムで確認できるようになる。 具体的には、リポジトリやファイルページにアクセスするたびに、Hubが自動的に該当ファイルのVirusTotalスキャン結果を取得。スキャン結果は、ファイルが何個のセキュリティベンダーから警告を受けているか、どのようなリスクが検出されたかといった情報を含み、ユーザーに明確なセキュリティインサイトを提供する。 この仕組みは、開発者や研究機関がオープンソースAI資産を利用する際のリスクを大幅に低減。特に、サードパーティのモデルやデータセットを採用する際に、信頼性の確認が迅速かつ確実に行える点が大きな利点となる。 Hugging Faceは「オープンでありながら、セキュリティを設計の中心に置く」というビジョンを掲げており、今回の協業はその実現に向けた重要な一歩である。コミュニティ全体の安全なAI協働環境の構築に向けて、より多くの開発者や企業の参加を呼びかけている。詳細や協業への関与希望は、[email protected]まで連絡可能。