Hugging Face、WebGPUカーネル200超公開
Hugging FaceのWebAIチームは、ブラウザ内AI推論の高速化と利便性向上を目的とし、Hugging Face Hub上で動作する最適化WebGPUカーネルコレクションおよびロードライブラリ「@huggingface/kernels」を公開した。初期版として207個のカーネルが提供され、Apache-2.0ライセンスで公開されている。 各カーネルはWGSLシェーダーテンプレート、正確性テスト、ベンチマークケース、マニフェストをパッケージ化した個別リポジトリとしてバージョン管理されており、ランタイムの実装依存を排除した透明な基盤を構築している。JavaScriptからの利用はnpmパッケージ「@huggingface/kernels」により簡素化され、リポジトリIDとバージョンを指定するだけで演算を実行可能だ。 併せて公開されたブラウザベースのベンチマークツール「Fleet」は、ユーザーデバイスのGPUパフォーマンスと正誤判定を匿名収集する仕組みを採用している。収集された実機データは、特定ハードウェアでの遅延バグや実装選択アルゴリズムの最適化に活用され、汎用テスト環境では見えない性能課題の解消を目指す。 Apple M4環境でのORT WebGPUとの比較テストでは、幾何平均で約2.57倍、中央値で約1.90倍の高速化を記録。特定条件のEinsum演算では最大1万倍以上の差が観測され、専用最適化カーネルの恩恵が明確になった。GPU内部の純粋演算時間に限定した計測結果ではあるが、低レベル演算の最適化が推論パイプライン全体に与える影響の大きさを実証している。 本コレクションは、CUDAやMetalなど他プラットフォーム向けカーネルと同様にHub上で一元管理され、開発者のカスタム演算実装時の参照例としても機能する。今後は高レベルモデルツールとの連携強化と演算カバー範囲の拡大を進め、WebAIエコシステムにおける高速ローカル推論の実装標準化を推進する。
