Liquid AI open-source d1, modèles de décision pour l'edge
Liquid AI vient de publier deux nouveaux modèles décisionnels ouverts, d1-3B et d1-omni-600M, conçus spécifiquement pour le traitement des données directement sur les appareils périphériques. Contrairement aux modèles génératifs classiques qui produisent des tokens séquentiellement, ces solutions s'appuient sur les Liquid Foundation Models pour délivrer une réponse structurée en un seul passage direct. Cette architecture permet d'optimiser considérablement la latence et la consommation de ressources. Les benchmarks réalisés sur sept jeux de données publics, couvrant la compréhension de texte, la détection de toxicité, la classification d'intention, les questions-réponses médicales et la compréhension multilingue, démontrent l'efficacité de ces nouveaux modèles. Le d1-3B atteint une moyenne de 82,9 points, surpassant directement le modèle Decider 4B. Le d1-omni-600M, de taille plus réduite, obtient 78,4 points tout en utilisant seulement un quart des paramètres du Decider 2B, prouvant son rapport performance-taille particulièrement intéressant. Tous deux prennent en charge l'entrée de données multimodales, incluant le texte, l'image et l'audio. Le modèle d1-3B conserve notamment les capacités visuelles de son architecture de base. La rapidité d'exécution constitue le point fort principal de cette génération. En collaboration avec NVIDIA, des tests ont été menés sur une gamme d'appareils allant des puces Apple aux modules embarqués Jetson, ainsi que sur des cartes graphiques haut de gamme. Sur les dispositifs périphériques, le d1-3B répond à une question unique en moins de cinquante millisecondes. Sur les accélérateurs GPU, ce temps descend sous la dixième de milliseconde, avec le traitement d'une image en moins de dix-huit millisecondes. Cette efficacité permet des inférences en temps réel adaptées aux environnements contraints en énergie et en calcul. Ces modèles sont conçus pour des tâches décisionnelles rapides et structurées, notamment lorsqu'elles impliquent des entrées multimodales. Le d1-3B est recommandé pour les scénarios exigeant une qualité décisionnelle maximale, tandis que le d1-omni-600M s'adresse aux déploiements où l'encombrement mémoire est critique. Ils sont accessibles en poids ouverts sur la plateforme Hugging Face et s'intègrent directement via les outils open source standard. Les développeurs peuvent les déployer en quelques lignes de code en activant simplement le chargement du modèle. Cette publication vise à accélérer l'adoption de l'intelligence artificielle décisionnelle au plus près des données, réduisant la dépendance au cloud pour des traitements nécessitant réactivité et confidentialité. Liquid AI confirme ainsi sa volonté de rendre les architectures spécialisées accessibles à l'écosystème open source, tout en posant les bases de nouvelles applications industrielles et embarquées.
