Baseten, Hugging Face et Goodfire sécurisent l'IA ouverte
Baseten a annoncé le lancement d une nouvelle norme de sécurité destinée aux modèles ouverts, en partenariat avec Hugging Face et Goodfire AI. Cette initiative, portée par la division recherche Base Labs, vise à créer une infrastructure complète d évaluation et de surveillance pour sécuriser les intelligences artificielles accessibles au public. L annonce survient dans un contexte de débats intenses sur la sûreté des systèmes ouverts. La technique dite abliteration permet désormais aux utilisateurs de désactiver facilement les garde-fous intégrés aux modèles. Sur la plateforme Hugging Face, plus de six mille systèmes ont déjà été modifiés de cette manière, illustrant l ampleur du défi. Contrairement aux approches classiques qui ajoutent la sécurité a posteriori, le partenariat cherche à intégrer directement les protocoles de protection durant la formation et le déploiement des réseaux. Baseten considère l ouverture comme un atout majeur pour la sécurité. Selon l entreprise, la transparence du code et des données offre une visibilité supérieure sur le comportement des systèmes et permet de transformer les recherches en contrôles concrets et vérifiables. Goodfire AI, spécialiste de l interprétabilité des modèles, devrait jouer un rôle clé dans cette intégration technique en démystifiant les mécanismes internes des réseaux de neurones. Le projet bénéficie du soutien financier solide des structures impliquées. Baseten a levé 1,5 milliard de dollars en série F en juin, portant sa valorisation à 13 milliards de dollars. De son côté, Goodfire AI a récemment finalisé une levée de 150 millions de dollars en série B pour développer sa plateforme de compréhension des modèles. Aucun détail technique précis n a été divulgué, mais les partenaires ont souligné leur volonté de collaborer ouvertement. Baseten a d ailleurs lancé un appel à contribution auprès de la communauté des développeurs pour enrichir le cadre de travail proposé. Cette initiative s inscrit dans une volonté plus large de concilier innovation ouverte et responsabilité. En institutionnalisant la sécurité dès la conception, les acteurs visent à garantir que les intelligences artificielles ouvertes restent à la fois accessibles et fiables. La réussite de cette norme dépendra de l adoption par la communauté technique et de sa capacité à s imposer comme une référence indépendante face aux géants du secteur. Si le cadre se généralise, il pourrait redéfinir les standards de l industrie et orienter les pratiques de développement vers une transparence systématique.
