HyperAIHyperAI

Command Palette

Search for a command to run...

Microsoft、FoundryでHugging Faceモデルをデプロイ

Microsoft Build 2026において、MicrosoftはAIエージェントプラットフォーム「Microsoft Foundry」の新たな機能として「Foundry Managed Compute」と、Hugging Faceエコシステム由来のオープンウェイトモデルを統合したカタログの提供を開始したと発表した。Foundryは既存のフロントティアモデルやカスタムモデルを統合エンドポイントで管理する基盤だが、今回導入されたManaged Computeはオープンソースおよび独自ウェイトモデルを対象とした管理型GPU PaaSとなる。ユーザーはパラメータ数やコンテキスト長、レイテンシ最適化かスループット最適化かを指定するだけで、Microsoftが裏側のGPUトポロジーやコンテナ管理を担うため、開発者はモデルの運用みに集中できる。 Hugging Faceモデルの統合は、エンタープライズがオープンモデルを実装する際の運用障壁を解消する狙いがある。Hugging Faceコミュニティで注目を集めたモデルを週次で選定し、ライセンス適合性やセキュリティレビュー、サフェティテンソス形式への変換などを経てFoundryカタログに登録する。重みはAzure上に事前配置され、vLLM、SGLang、TEI、llama.cppなどモデルアーキテクチャに最適なインフレンスランタイムが自動適用されるため、外部ネットワークへの依存なく社内プライベートネットワークでの展開が可能だ。CVEスキャンやランタイムアップグレードも自動実行され、モデルの再デプロイ作業は不要となる。 デプロイはテンプレート選択からSDKやCLI経由で完了し、OpenAI SDK互換の統一エンドポイントで推論スコアリングやエージェント連携、リアルタイム監視、単一課金管理が実施できる。現在、NVIDIA A100、H100、AMD MI300Xアクセラレータに対応したプレビューが提供中であり、今後は対応ハードウェアの拡大や、顧客がファインチューニングした独自モデルを同じガバナンス枠組みで展開する「Bring Your Own Weights」機能の実装を予定している。 本統合により、オープンソースAIの柔軟性とカスタマイズ性、およびMicrosoftのエンタープライズ基盤によるセキュリティ・運用の堅牢性が一体化した。開発者は複雑なインフラ構築やランタイム最適化の工数を削減しつつ、大規模なエージェントワークロードやドメイン固有のAI実装を安全にスケーラブルに運用できるようになる。

関連リンク