Nvidia kauft kanadisches AI-Start-up CentML für bis zu 400 Mio. USD

Nvidia, der weltgrößte Chip-Hersteller gemessen am Marktwert und bekannt für seine GPU-Technologie, hat die kanadische KI-Start-up CentML für mehr als 400 Millionen US-Dollar erworben. Dieser Deal übertreffen die Erwartungen der Investoren, die insgesamt 30,9 Millionen US-Dollar in das Unternehmen aus Toronto investiert hatten. Die Start-up hatte unter anderem von Google’s Gradient Ventures, Deloitte Ventures und Thomson Reuters Ventures unterstützt worden. Nvidia selbst war auch in einer 27-Millionen-US-Dollar-Samenfinanzierungsrunde im Oktober 2023 beteiligt. CentML hatte Software entwickelt, die zwischen den KI-Modellen der Nutzer und den Chips, die diese Modelle antreiben, operiert. Das Ziel war es, ungenutzte Hardwarekapazitäten zu nutzen und andere Methoden anzuwenden, um die Systeme effizienter zu machen. Das Unternehmen bot Abonnements für seine Software an und schloss Einnahmeabkommen mit Cloud-Providern, die die Technologie in ihre eigenen Dienstleistungen integrierten, um Kunden zu helfen, die richtige Hardware für ihre Maschinenlearning-Modelle auszuwählen, um deren Leistung zu verbessern und Kosten zu senken. Das Team hinter CentML ist bemerkenswert jung und hochqualifiziert. Der Co-Gründer und ehemalige CTO, Shang Sam Wang, wurde 1995 in Qingdao, China, geboren und absolvierte sein Bachelor-, Master- und Doktoratsstudium an der University of Toronto. Wang hatte bereits bei Google, Intel und Huawei interniert und war vor der Gründung von CentML als Ingenieur bei Nvidia tätig, wo er sich auf die Optimierung von Trainingsworkloads konzentrierte, um die GPU-Leistung zu steigern. Zusammen mit seinem Mentor, Prof. Gennady Pekhimenko, gründete Wang 2022 die Firma CentML. Pekhimenko, der ehemalige CEO von CentML, ist nun Senior Director für KI-Software bei Nvidia und bleibt gleichzeitig als Professor an der University of Toronto. Die anderen Co-Gründer, Anand Jayarajan und Akbar Nurlybayev, übernahmen Managerpositionen bei Nvidia, während mindestens 18 weitere technische Mitarbeiter des Start-ups im Juni 2025 zu Nvidia wechselten. CentMLs erster großer Durchbruch kam mit der Veröffentlichung einer Reihe von wissenschaftlichen Arbeiten, darunter zwei Top-Paper im Jahr 2020 und 2021. In der Arbeit von 2020 verbesserte Wang die Skalierbarkeit des Backpropagation-Algorithmus durch eine Neufassung als Scan-Operation, was die Trainingsgeschwindigkeit von Rekurrenten Neuronalen Netzen (RNNs) um bis zu 2,75-mal und die Backpropagation-Geschwindigkeit um bis zu 108-mal erhöhte. Das Papier von 2021 untersuchte die Effizienz von GPU-Clustern bei typischen Deep-Learning-Trainingsaufgaben und stellte fest, dass einzelne Accelerator-Aufgaben oft wiederholt gestartet werden, ohne die Hardware vollständig auszunutzen. Wang und sein Team entwickelten daraufhin das Horizontally Fused Training Array (HFTA), eine Bibliothek, die Modelle aus verschiedenen wiederholten Aufgaben bis auf Operator-Ebene zusammenführt und ermöglicht, sie auf geteilten Acceleratoren synchron zu trainieren. HFTA konnte die Trainingsdurchsatzrate bei sechs Deep-Learning-Modellen um bis zu 15,1-mal steigern. Im Mai 2025, kurz vor der Übernahme durch Nvidia, veröffentlichte CentML ein weiteres Paper, das einen neuen Inferenz-Engine namens Seesaw vorstellte. Seesaw optimierte die Durchsatzrate für aufschalldominierte Aufgaben durch dynamische Model-Resharding-Techniken, die die Parallelisierungsstrategien in verschiedenen Phasen dynamisch anpassten. Mit methodischen Ansätzen wie hierarchischen KV-Cache-Puffern und minimalen Übergangsscheduling konnten die Autoren die Kostenaufwendigkeit reduzieren und die Batch-Verarbeitungseffizienz maximieren. Im Vergleich zu anderen führenden Inferenz-Engines konnte Seesaw die Durchsatzrate um bis zu 1,78-mal (im Durchschnitt 1,36-mal) erhöhen. Die Software von CentML, insbesondere der Open-Source-Maschinenlearning-Compiler Hidet, kann nahtlos mit Nvidias vLLM-basierter Service-Engine CServe verbunden werden. Dies ermöglicht Entwicklern, verschiedene Open-Source-Modelle wie Llama, Mistral oder DeepSeek auf unterschiedlichen Hardwareplattformen zu deployen, von Nvidia H100, AMD MI300X bis hin zu TPUs. Die Performance-Optimierung und -Bereitstellung dieser Modelle wird dann automatisch vom CentML-Technologiestack übernommen. Wang und sein Team zeigten in ihren Tests, dass die Optimierung von DeepSeek-R1-Modellen durch Hidet und Hexcute, einer domain-spezifischen Sprache, die Geschwindigkeit der Mixture-of-Experts (MoE)-Schicht um bis zu 11-mal steigern konnte. Zudem entwickelte CentML eine spekulative Decodierungstechnologie namens EAGLE, die die Geschwindigkeit von Inferenz-Aufgaben um bis zu 2-mal erhöhte. Die Akquisition von CentML entspricht Nvidias strategischem Ansatz, innovative Technologien und Talente im Bereich Künstliche Intelligenz zu sammeln. Im letzten Jahr und halb hat Nvidia mehrere Start-ups erworben, die sich mit der effizienteren Nutzung von Hardware für KI-Anwendungen befassen, darunter Deci, OctoAI und Run:ai. Diese Deals stützen Nvidias Position als führender Anbieter von GPU-Technologie und helfen dem Unternehmen, seine eigenen Cloud-Dienstleistungen weiter auszubauen. Die Integration des CentML-Teams in Nvidia wird das Unternehmen dabei unterstützen, seine KI-Software-Stack weiter zu verfeinern und zu erweitern. Wang und seine Kollegen bringen tiefgreifende Kenntnisse in die Optimierung von KI-Workloads und die effiziente Nutzung von Hardware, die Nvidia in seinen zukünftigen Projekten nutzen kann. Die Akquisition von CentML zeigt auch, dass Nvidia nicht nur auf seine eigenen Entwicklungen setzt, sondern auch bereit ist, externe Innovationen einzubeziehen, um seine technologische Führung zu stärken. Die Übernahme von CentML erfolgte kurz nachdem AMD die kanadische KI-Start-up Untether AI erworben hatte, was die wachsende Bedeutung von KI-Technologien in der Halbleiterindustrie unterstreicht. Experten sehen in diesen Deals ein Zeichen dafür, dass sowohl Nvidia als auch AMD intensiv daran arbeiten, ihre Angebote im KI-Segment zu erweitern und zu verbessern. Die Fähigkeit, KI-Modelle effizient zu trainieren und zu deployen, wird zukünftig ein entscheidender Wettbewerbsvorteil in der Technologiebranche sein. Die Akquisition von CentML ist nicht nur ein finanzieller Triumph für die Gründer und Investoren, sondern auch ein wichtiger Schritt für die KI-Community. Sie zeigt, dass junge, talentierte Forscher und Entwickler die Chance haben, ihre Ideen in der Praxis umzusetzen und damit die Entwicklung von KI-Technologien voranzubringen. Die Integration von CentMLs Technologie in Nvidias Portfolio wird dazu beitragen, die Leistungsfähigkeit und Effizienz von KI-Systemen weiter zu steigern, was für Entwickler und Unternehmen gleichermaßen von Vorteil ist. Insgesamt belegt die Akquisition von CentML, dass Nvidia weiterhin aktiv daran arbeitet, seine technologische Führung im KI-Segment zu festigen. Die jungen, hochqualifizierten Gründer und ihre fortschrittlichen Technologien werden das Unternehmen dabei unterstützen, innovative Lösungen zu entwickeln und die Grenzen der KI-Technologie weiter zu erweitern.