Le secteur de l'intelligence artificielle connaît un basculement structurel vers l'inférence. Alors que la phase d'entraînement monopolisait l'essentiel des ressources par le passé, les prévisions indiquent que l'inférence absorbera environ les deux tiers de la puissance de calcul mondiale d'ici 2026. Cette transition, accélérée par la démocratisation des modèles à code ouvert, a fait émerger un nouvel écosystème : les services de cloud d'inférence. En l'espace d'un mois, plus de 5,5 milliards de dollars ont été investis dans ce segment. Fireworks AI s'impose comme l'un des acteurs phares avec une levée de fonds de 1,5 milliard de dollars annoncée le 16 juillet, portant sa valorisation à 17,5 milliards de dollars et incluant le soutien de Nvidia. L'entreprise a été fondée par Lin Qiao, ancienne ingénieure chez Meta et contributeur majeure de PyTorch, qui avait anticipé que l'inférence deviendrait le principal défi une fois l'IA déployée à grande échelle. Aujourd'hui, Fireworks génère plus d'un milliard de dollars de revenus annuels et traite quotidiennement plus de 40 billions de tokens. Son modèle économique consiste à louer des capacités de calcul, à optimiser les performances via des moteurs logiciels propriétaires et à proposer l'exécution de modèles ouverts ou privés à la demande, facturée au token. En s'appuyant sur une architecture multi-cloud, l'entreprise ajuste dynamiquement les ressources pour maximiser l'efficacité et contenir les coûts. Cette croissance repose sur deux tendances convergentes. D'une part, les modèles ouverts comme DeepSeek atteignent désormais des performances rivalisant avec les solutions propriétaires, tout en offrant un rapport qualité-prix nettement supérieur, jusqu'à cinq à dix fois moins cher. D'autre part, les entreprises cherchent à sécuriser leurs données et à éviter le verrouillage technologique, privilégiant des solutions modulaires et personnalisables. Cette dynamique a attiré des capitaux vers d'autres prestataires tels que Baseten, Groq, Together AI et SambaNova, qui accélèrent leurs déploiements et leurs innovations logicielles. Le modèle rencontre cependant des limites économiques. Les marges brutes des services tiers se situent autour de 50 %, bien inférieures à celles du secteur logiciel pur, en raison du coût élevé des GPUs et de la pression concurrentielle. Les principaux fournisseurs de modèles réduissent progressivement le prix de leurs propres API et développent des puces dédiées à l'inférence, ce qui pourrait réduire l'avantage tarifaire des infrastructures indépendantes. À long terme, les acteurs purement logiciels devront probablement intégrer des composants matériels personnalisés ou devenir des partenaires stratégiques intégrés aux écosystèmes cloud existants. Au-delà des enjeux commerciaux, cette montée en puissance confirme l'émergence d'une nouvelle couche intermédiaire dans les infrastructures IA. La compétition ne repose plus uniquement sur la puissance algorithmique brute, mais sur la capacité à orchestrer, optimiser et délivrer une inférence rapide, fiable et économique à l'échelle industrielle. Cet écosystème en construction positionne déjà l'ingénierie des performances et la flexibilité d' déploiement comme les nouveaux critères de différenciation majeurs.