Nunchux AI accélère l'inférence multimodale avec Nunchaku

Récemment, Li Muyang, titulaire d'un doctorat du MIT et ancien élève du professeur Song Han, a officiellement lancé Nunchux AI, une startup dédiée à l'accélération de l'inférence pour les modèles génératifs multimodaux. Il co-fonde l'entreprise avec Zhu Junyan, professeur associé au Carnegie Mellon University, ainsi que Yujun Lin et Zhekai Zhang, ses anciens collaborateurs de laboratoire. Le professeur Han a vivement salué cette initiative, soulignant le long parcours de recherche des fondateurs dans l'optimisation des intelligences artificielles. La genèse de Nunchux AI s'ancre dans sept années d'investigation scientifique. Li Muyang s'est attaché à résoudre un défi central : rendre les modèles génératifs assez rapides, économiques et fiables pour un usage quotidien. Son travail a progressivement traversé plusieurs générations de technologies, des réseaux antagonistes génératifs aux modèles de diffusion et aux modèles mondiaux actuels. Ses recherches ont conduit au développement de SVDQuant, une méthode de quantification avancée permettant d'exécuter de grands modèles de diffusion en 4 bits, réduisant drastiquement les besoins en puissance de calcul. Par la suite, l'équipe a conçu Nunchaku, un moteur d'inférence en code ouvert qui optimise les systèmes à un niveau fondamental. Ce logiciel a rapidement séduit la communauté des développeurs et permet désormais de faire tourner sur un ordinateur portable des tâches de génération d'images nécessitant auparavant des stations de travail puissantes. Sur cette base technique, Nunchux AI a déployé Modelverse, une interface commerciale proposant un accès unifié par API à plus de trente modèles d'images, de vidéos et d'avatars virtuels. Les développeurs peuvent choisir entre un mode priorisant la vitesse d'exécution et un autre optimisant les coûts. Contrairement aux plateformes concurrentes qui se contentent d'agréger des API et de gérer des ressources cloud, Nunchux AI mise sur une intégration verticale, allant des algorithmes de quantification aux noyaux de calcul optimisés. Le moteur Nunchaku reste gratuit et en code ouvert, tandis que l'entreprise génère ses revenus via des services d'infrastructure, des optimisations personnalisées pour les entreprises et l'accès à son écosystème API. L'entreprise a déjà levé des fonds auprès de fonds reconnus comme Emergence Capital et le fonds E14 du MIT Media Lab. La création de Nunchux AI s'inscrit dans une tradition académique productive. L'équipe poursuit ses publications scientifiques, comme en témoigne une récente contribution sur le framework de quantification intégrale en 4 bits FourTune. Dans un marché de l'inférence IA déjà compétitif, marqué par des acteurs spécialisés dans l'accélération matérielle ou l'écosystème communautaire, Nunchux AI se distingue par sa stratégie matérielle-logiciel coordonnée et son engagement à préserver la qualité des résultats. Les fondateurs réitèrent que la réduction de la latence et des coûts est essentielle pour ne pas entraver le flux créatif des utilisateurs, une quête qui reste un marathon exigeant persévérance et innovation continue.