Un nouveau modèle se dessine dans le paysage de l’infrastructure de l’intelligence artificielle : des outils open source populaires se transforment en startups bien financées, valorisées à plusieurs centaines de millions de dollars. Le dernier exemple est RadixArk, la société commerciale derrière SGLang, un outil de plus en plus utilisé pour accélérer et réduire les coûts d’exécution des modèles d’IA. Selon deux sources proches du dossier, RadixArk a été valorisée à environ 400 millions de dollars lors d’un tour de financement mené par Accel. Bien que TechCrunch n’ait pas pu confirmer cette estimation, l’information souligne l’attrait croissant de ce segment. Cette levée de fonds intervient alors que plusieurs membres de l’équipe ayant contribué à SGLang, un projet initialement développé en 2023 au laboratoire d’Ion Stoica à l’Université de Californie à Berkeley (co-fondateur de Databricks), ont rejoint la jeune entreprise. RadixArk a d’abord été soutenue par des investisseurs angéliques, dont Lip-Bu Tan, PDG d’Intel. Ying Sheng, une des principales contributeurs de SGLang et ancienne ingénieure chez xAI, a quitté l’entreprise d’Elon Musk pour devenir co-fondatrice et PDG de RadixArk, comme l’a annoncé sur LinkedIn en avril dernier. Ni Sheng, ni Accel ni Lip-Bu Tan n’ont répondu aux sollicitations de TechCrunch. SGLang et RadixArk se concentrent sur l’optimisation du traitement d’inference — l’étape où un modèle d’IA répond à une requête — permettant de faire fonctionner les modèles plus vite et plus efficacement sur le même matériel. Combinée au prétraitement (training), l’inference représente une part majeure des coûts serveur des services d’IA. Des outils comme SGLang peuvent donc générer des économies immédiates et significatives. RadixArk n’est pas le seul cas de figure. vLLM, un projet plus avancé d’optimisation d’inference, a également fait le saut vers le monde des startups. Selon Forbes, la société issue de vLLM aurait négocié un tour de financement de plus de 160 millions de dollars à une valorisation d’environ 1 milliard de dollars. Andreessen Horowitz serait au cœur de ce round, bien que les détails exacts restent flous. Simon Mo, co-fondateur de vLLM, a qualifié certaines informations de « factuellement inexactes », sans préciser lesquelles. Comme SGLang, vLLM a vu le jour dans le laboratoire d’Ion Stoica, figure emblématique de l’écosystème tech californien, co-fondateur de Databricks et de plusieurs autres startups. Aujourd’hui, de grandes entreprises utilisent déjà vLLM pour leurs charges de traitement d’inference, tandis que SGLang a connu une popularité croissante ces derniers mois, selon Brittany Walker, partenaire général chez CRV, qui n’a pas investi dans les deux projets. RadixArk poursuit le développement de SGLang en tant qu’outil open source, tout en construisant Miles, un cadre spécialisé pour le apprentissage par renforcement — une méthode qui permet aux modèles d’acquérir de la sagesse au fil du temps. Bien que ses outils restent gratuits, la société a commencé à facturer des services d’hébergement, selon une source proche de l’entreprise. Ce phénomène s’inscrit dans une tendance plus large : les startups offrant des infrastructures d’inference pour développeurs connaissent une croissance fulgurante en matière de financement. Baseten a récemment levé 300 millions de dollars à une valorisation de 5 milliards de dollars, tandis que Fireworks AI avait obtenu 250 millions à 4 milliards de dollars en octobre dernier. Ces chiffres illustrent la montée en puissance de l’inference comme pilier stratégique de l’industrie de l’IA.