Google lance EmbeddingGemma 2, modèle multimodal léger
Google a officiellement lancé EmbeddingGemma 2, la deuxième génération de son modèle d'embedding multimodal conçu pour fonctionner directement sur les appareils grand public. Successeur de la version initiale qui a dépassé les vingt millions de téléchargements, cette nouvelle mouture élargit les capacités du précédent outil en unifiant désormais le texte, le code, les images, les vidéos et l'audio dans un espace d'embedding commun. Développé sur l'architecture Gemma 4 et distribué sous licence Apache 2.0, le modèle compte 740 millions de paramètres, un format optimalement adapté à l'inférence locale. Conçu pour rivaliser avec des solutions bien plus volumineuses, EmbeddingGemma 2 affiche des performances de premier plan parmi les modèles inférieurs à un milliard de paramètres. Il se distingue notamment sur les benchmarks MTEB et MAEB, tout en conservant une efficacité remarquable en matière de texte multilingue et de traitement du code, avec une progression de près de dix points sur ce dernier. Grâce à une architecture modulaire, les développeurs peuvent désactiver les encodeurs visuels et audio pour alléger les charges de travail textuelles, ne consommant ainsi que 270 millions de paramètres. À l'inverse, l'ajout des modules complémentaires permet une prise en charge complète de la multimodalité. L'efficacité mémoire est au cœur du design du modèle. En s'appuyant sur l'apprentissage de représentation matryoshka, les ingénieurs peuvent réduire dynamiquement la dimension des vecteurs de sortie, passant de 768 à 512, 256 ou 128 dimensions. Cette fonctionnalité permet de diviser par six l'espace de stockage nécessaire aux bases de vecteurs locales, tout en préservant la précision des requêtes. Sur le plan matériel, le modèle est profondément optimisé pour les contraintes des appareils mobiles. Sur un smartphone Pixel 11 Pro, il ne requiert que 191 mégaoctets de mémoire vive pour les poids textuels et 567 mégaoctets pour la version multimodale complète. Le contexte de traitement a également été quadruplé par rapport à la génération précédente, atteignant huit mille jetons. Cette évolution permet d'analyser directement sur appareil des séquences audio de cinq minutes et demi, vingt-neuf images ou cinquante-huit trames vidéo, ou toute combinaison de ces formats. Ces capacités positionnent EmbeddingGemma 2 comme un atout majeur pour le développement d'outils de recherche locale et de pipelines de récupération augmentée préservant la vie privée. Il facilite également l'indexation de bases de code et la recherche sémantique au sein de projets informatiques complexes. La disponibilité du modèle sous une licence commerciale permissive encourage son intégration rapide dans les écosystèmes de développement. Google propose désormais des guides techniques détaillés pour associer EmbeddingGemma 2 au framework LiteRT, permettant aux équipes de déployer des solutions performantes directement sur le matériel de l'utilisateur, sans dépendre des serveurs cloud.
