ZML lance un outil gratuit pour l'inférence IA multi-puces
ZML, une startup française spécialisée dans l'intelligence artificielle, a mis en libre accès ZML/LLMD, un serveur dédié au traitement de l'inférence des grands modèles de langage. Cette solution logicielle permet d'exécuter des architectures open source sur une vaste palette de puces, incluant les références de Nvidia, AMD, Google, Apple et Intel, ainsi que les nouveaux processeurs européens émergents. L'inférence, correspondant au calcul en temps réel des réponses générées par l'IA, est devenue un enjeu critique autant que l'entraînement des modèles. ZML/LLMD vise explicitement à dissiper les verrouillages propriétaires et à optimiser les performances matérielles, offrant aux entreprises la possibilité de mutualiser différents types de processeurs pour réduire leurs coûts et leur consommation énergétique. Fondée et dirigée par Steeve Morin, ancien cadre de Zenly, la société parisienne s'appuie sur une équipe resserrée de vingt ingénieurs pour garantir agilité et rapidité de développement. Le projet bénéficie du parrainage de Yann LeCun, lauréat du prix Turing, et a levé vingt millions de dollars auprès de fonds spécialisés tels que 20VC, Kima Ventures et LocalGlobe. Le capital-tableau intègre également des acteurs historiques de la tech, dont Solomon Hykes et les fondateurs de Hugging Face, témoignant de la confiance accordée à cette initiative européenne. Morin précise que la gratuité initiale du produit répond à une volonté de mesurer son adoption réelle avant d'envisager un modèle économique, tout en positionnant ZML pour des collaborations poussées de co-conception silicium-logiciel à l'avenir. Dans un marché de l'inférence en pleine expansion, confronté à des acteurs comme Baseten, Inferact ou RadixArk, ZML se distingue par son architecture matérielle agnostique et son ambition de démocratiser l'accès aux ressources de calcul. En levant les barrières logicielles habituelles entre fabricants et développeurs, la startup contribue à renforcer l'autonomie technologique du continent. Cette libération de ZML/LLMD consolide la position de l'entreprise comme acteur incontournable de l'optimisation des charges de travail IA, tout en ouvrant la voie à une fragmentation plus équilibrée du marché des semi-conducteurs.
