Le PDG de Microsoft, Satya Nadella, critique avec discrétion le double standard des fournisseurs d'IA concernant la distillation des connaissances
Le PDG de Microsoft, Satya Nadella, a récemment critiqué les principaux laboratoires d’intelligence artificielle pour leur position sur la distillation des modèles. Cette technique consiste à entraîner un système plus léger à partir des résultats produits par un modèle plus puissant. Selon Nadella, il est hypocrite que des entreprises exploitant des données publiques pour former leurs propres réseaux dénoncent ensuite des restrictions sur la distillation, tout en conservant le droit d’utiliser les données d’interaction des clients pour leurs propres apprentissages. Bien que les noms ne soient pas explicitement cités, ces propos visent particulièrement Anthropic. Début d’année, le dirigeant du laboratoire, Dario Amodei, avait dénoncé l’utilisation de Claude par des concurrents chinois, notamment Alibaba, pour copier les capacités du modèle à moindre coût. Anthropic avait par ailleurs alerté des sénateurs américains sur ce qu’il qualifiait de plus grande attaque par distillation jamais enregistrée. Parallèlement, Elon Musk a reproché à Anthropic de prélever massivement des données d’entraînement sans autorisation. Nadella souligne que, si l’accès équitable aux contenus publics est nécessaire à l’innovation, l’industrie ne peut accepter que la valeur générée reste captée uniquement par les fournisseurs d’infrastructures. Il met en garde les entreprises contre une dépendance excessive envers un seul prestataire, soulignant qu’elles risquent de céder leurs données propriétaires tout en continuant à payer pour les utiliser. Pour y remédier, Microsoft recommande aux organisations de développer leur propre infrastructure d’IA, de réaliser leurs propres évaluations et de maintenir une boucle d’apprentissage interne. Le dirigeant insiste sur la nécessité d’établir une limite de confiance stricte pour les données des employés et des clients, garantissant que tout échange d’information reste soumis à un consentement explicite. Ces interventions rejoignent un débat plus large sur la souveraineté des données, la propriété intellectuelle et les modèles économiques de l’industrie des grands modèles de langage.
