Thinking Machines lance Inkling, modèle IA ouvert
Thinking Machines Lab, la startup fondée par l'ex-directe technique d'OpenAI Mira Murati, a présenté Inkling, son premier modèle d'intelligence artificielle à poids ouverts. Développé en environ neuf mois, ce système de mélange d'experts compte 975 milliards de paramètres mais n'en active que 41 milliards par tâche, une architecture optimisant la vitesse et réduisant les coûts. Il a été entraîné sur 45 billions de tokens combinant texte, image, audio et vidéo, et raisonne nativement de manière intermodale. Contrairement aux modèles fermés dominants, Inkling est conçu pour être téléchargé et modifié par les entreprises via la plateforme Tinker. Cette stratégie vise à permettre aux organisations de conserver la maîtrise de leurs données et d'ajuster les systèmes à leurs besoins spécifiques. Cette approche gagne en crédibilité, comme l'ont récemment souligné Satya Nadella et Clem Delangue, qui mettent en garde contre les risques liés à l'externalisation des connaissances vers des laboratoires propriétaires. Un partenariat avec le fonds Bridgewater Associates a d'ailleurs démontré le potentiel de cette méthode, atteignant 84,7 % de réussite sur des tests de raisonnement financier à un coût d'exécution nettement inférieur. Bien que Thinking Machines ne prétende pas qu'Inkling soit le modèle le plus puissant du marché, il mise sur une performance équilibrée. Il propose des réponses calibrées, signale explicitement les incertitudes et permet aux utilisateurs de moduler leur effort de calcul pour équilibrer précision et rapidité. Sur un benchmark de programmation, il utilise un tiers des tokens requis par le modèle Nemotron 3 Ultra d' Nvidia pour obtenir des résultats similaires. Concernant ses données d'entraînement, l'entreprise a recours à des modèles ouverts existants pour générer des données initiales, mais assure que son prochain modèle reposera exclusivement sur des processus internes. Sur le plan infrastructurel, Thinking Machines a signé un partenariat avec Nvidia pour déployer une capacité de calcul massive et s'est entraîné sur ses serveurs. Son modèle économique ne dépendra pas de l'accès au modèle lui-même, mais de ses services de personnalisation, d'entraînement et d'hébergement. L'effectif de l'entreprise se stabilise à environ 200 collaborateurs, tandis que sa culture organisationnelle privilégie la continuité opérationnelle au-delà des figures médiatiques.
