Das AI-Infrastruktur-Ökosystem zeigt eine deutliche Trendwende: Open-Source-Tools, die ursprünglich in akademischen Laboren entstanden sind, werden zunehmend zu hochbewerteten Startups. Das jüngste Beispiel ist RadixArk, die kommerzielle Tochtergesellschaft von SGLang, einem Tool zur Beschleunigung und Kostensenkung von KI-Modellen während des Inference-Prozesses. Laut zwei Quellen wurde RadixArk kürzlich mit rund 400 Millionen US-Dollar bewertet, nach einer Finanzierungsrunde, die von Accel angeführt wurde – ein beachtlicher Wert für ein Unternehmen, das erst im August 2023 gegründet wurde. TechCrunch konnte die genauen Zahlen nicht bestätigen. SGLang entstand 2023 im Labor von Ion Stoica, dem Co-Gründer von Databricks, an der University of California, Berkeley. Die Technologie optimiert den Inference-Ablauf – die Phase, in der KI-Modelle bereits trainiert sind und zur Ausführung von Aufgaben eingesetzt werden – und ermöglicht eine deutlich effizientere Nutzung von Hardware. Dies ist entscheidend, da Inference einen erheblichen Teil der Serverkosten bei KI-Diensten ausmacht. Unternehmen wie xAI und Cursor nutzen SGLang bereits, um ihre Modelle schneller und kostengünstiger laufen zu lassen. Die Führungsspitze des Projekts wechselte nun in die kommerzielle Welt: Ying Sheng, ehemalige Forschungsingenieurin bei Databricks und frühere Mitarbeiterin bei Elon Musks xAI, trat als Co-Gründer und CEO bei RadixArk an. Sie war eine zentrale Figur bei der Entwicklung von SGLang. Weitere frühe Investoren umfassten Intel-Chef Lip-Bu Tan. Weder Sheng noch Accel oder Tan gaben Stellungnahme. RadixArk bleibt weiterhin an der Open-Source-Entwicklung von SGLang beteiligt und entwickelt zudem „Miles“, ein spezialisiertes Framework für Reinforcement Learning, das Unternehmen dabei unterstützt, KI-Modelle kontinuierlich zu verbessern. Obwohl die Kern-Tools weiterhin kostenlos bleiben, führt das Unternehmen nun Hosting-Dienstleistungen mit Gebühren ein. Dieser Trend ist nicht isoliert: vLLM, ein ähnliches Projekt aus demselben Berkeley-Labor, hat bereits eine ähnliche Entwicklung genommen. Laut Forbes plant vLLM eine Finanzierungsrunde von bis zu 160 Millionen US-Dollar bei einer Bewertung von etwa einer Milliarde Dollar, mit Andreessen Horowitz als Hauptinvestor – eine Aussage, die der Co-Gründer Simon Mo als ungenau zurückwies. Die Nachfrage nach effizienter Inference-Infrastruktur wächst rasant. Baseten sicherte kürzlich 300 Millionen US-Dollar bei einer Bewertung von fünf Milliarden Dollar, während Fireworks AI im Oktober 250 Millionen bei vier Milliarden Dollar aufbrachte. Bewertung: Diese Entwicklung unterstreicht den wachsenden strategischen Wert des Inference-Stacks in der KI-Ökonomie. Experten wie Brittany Walker von CRV sehen darin einen „kostensensiblen Schlüsselbereich“, der für die Skalierbarkeit von KI-Produkten entscheidend ist. Die Transformation von akademischen Projekten in skalierbare Unternehmen zeigt, dass Open-Source-Initiativen nicht nur Innovation fördern, sondern auch eine solide Basis für kommerziellen Erfolg bieten können. RadixArk und vLLM repräsentieren eine neue Generation von KI-Infrastruktur-Startups, die auf wissenschaftliche Tiefe und technische Exzellenz setzen, um Marktführer in einem schnell expandierenden Segment zu werden.