HyperAIHyperAI

Command Palette

Search for a command to run...

Google、軽量多モーダル埋め込みモデル「EmbeddingGemma 2」公開

Googleは昨年2,000万回以上のダウンロードを獲得した軽量テキスト埋め込みモデルEmbeddingGemmaの後継として、マルチモーダル対応のEmbeddingGemma 2を正式に公開した。本モデルはGemma 4アーキテクチャを採用し、Apache 2.0ライセンスの下で提供される。総パラメータ数は7億400万であり、コード、画像、動画、音声、テキストを一つの埋め込み空間に統合する設計となっている。 テキスト処理のみを必要とするワークロードでは2億7000万パラメータで動作し、視覚と音声のエンコーダを任意で追加可能。Matryoshka Representation Learning技術を採用することで、出力ベクトルを768次元から512、256、128次元へ動的に圧縮可能であり、ローカルベクトルデータベースでのストレージ使用量を最大6分の1に削減できる。また、コンテキストウィンドウは8,000トークンに拡大され、5分半の音声や29枚の画像、58フレームの動画を直接処理できる。 性能面では、10億パラメータ未満のモデルとしてMTEBコードやMAEBなどの主要ベンチマークでトップクラスの成績を記録。特にコード性能は前作から9.92ポイント向上し、ローカルコードベースのインデックス作成やセマンティック検索、コーディングエージェントの知識取得に適している。テキスト処理は従来と同様の多言語対応を維持しつつ、ビジョンやオーディオタスクにおいても同等以上の大規模モデルを上回る品質を実現した。 端末推論への最適化も大幅に進められている。Google Pixel 11 Proにおける実測では、テキスト専用で約191MB、フルマルチモーダル版で約567MBのアクティブRAMで動作可能。これにより、消費者向けのハードウェア上でプライバシーを優先した検索ツールやRAGパイプラインの構築が現実的なリソース制約内で実現する。昨年公開の初代モデルが開発者コミュニティで急速に普及した背景を受け、次世代EmbeddingGemmaはオンデバイスAIの実装標準をさらに押し上げるものと期待される。

関連リンク