HyperAIHyperAI

Command Palette

Search for a command to run...

Nunchux AI startet Multimodal-Inferenz-Beschleuniger

MIT-Professor Han Song und sein Team haben mit der Gründung von Nunchux AI einen weiteren Meilenstein in der Karriere der HAN-Lab-Absolventen gesetzt. Der KI-Fokus des Startups liegt auf der Beschleunigung multimodaler Generierungsmodelle, um deren Einsatz im industriellen Maßstab zu ermöglichen. CEO und Mitgründer Li Muyang, Doktorand bei Han Song, führt das Unternehmen zusammen mit CMU-Dozent Zhu Junyan sowie den Langzeitkooperationspartnern Yujun Lin und Zhekai Zhang. Han Song begleitete die Gründung öffentlich und unterstrich die lange Forschungsarbeit des Teams an effizientem Machine Learning. Die technische Basis von Nunchux AI bildet das im Jahr 2024 eingeführte Open-Source-Inferenz-Engine Nunchaku sowie die dazugehörige Quantisierungsmethode SVDQuant. Diese ermöglicht die Ausführung großer Diffusionsmodelle in extrem niedriger Präzision, wodurch Rechenkosten und Latenz drastisch sinken. Die Forschungsleitung von Li Muyang hat die Effizienzsteigerung seit dem Bachelor bereits auf GANs, Diffusionsmodelle und aktuelle Weltmodelle ausgeweitet. Die jüngste wissenschaftliche Veröffentlichung FourTune zeigt, dass das Team seine akademische Produktion nach der Firmengründung fortführt. Das Startup folgt damit der erfolgreichen Tradition von Han Songs Labor, aus der bereits DeepPhi, OmniML und Eigen AI hervorgingen. Kommerziell positioniert sich Nunchux AI mit der Serviceplattform Modelverse, die über eine einheitliche API mehr als dreißig Bild-, Video- und Virtual-Image-Modelle bereitstellt. Nutzer können zwischen einer auf Geschwindigkeit optimierten und einer auf Kostenminimierung ausgelegten Inferenzstufe wählen. Während die Kernsoftware Nunchaku weiterhin offen zugänglich bleibt, generiert das Unternehmen Einnahmen durch unternehmensspezifische Optimierungen und API-Zugriffe. Frühkapital wurde bereits von Emergence Capital und dem MIT Media Lab nahestehenden E14 Fund zugesagt. In einem stark umkämpften Markt, der von Anbietern wie fal.ai und Replicate dominiert wird, differenziert sich Nunchux AI durch die vollständige vertikale Integration von Quantisierungsalgorithmen bis hin zu maßgeschneiderten Inferenzkernen, anstatt lediglich GPU-Cluster zu orchestrieren. Das übergeordnete Ziel des Teams ist die simultane Optimierung von Geschwindigkeit, Kosten und Modellqualität, ohne Abstriche bei der Generativqualität zu machen. Die Gründung markiert einen strategischen Shift in der KI-Branche: Während die Aufmerksamkeit lange auf dem Training größerer Parametermodelle lag, verlagern sich Ressourcen nun auf skalierbare, kosteneffiziente Deployment-Infrastrukturen. Nunchux AI positioniert sich an dieser Schnittstelle mit dem Anspruch, multimodale KI-Generierung für Entwickler und Unternehmen wirtschaftlich zugänglich zu machen.

Verwandte Links