Anthropic a annoncé cette semaine limiter la diffusion publique de son nouveau modèle, baptisé Mythos, justifiant cette décision par le risque que celui-ci représente pour la sécurité d'Internet. Le laboratoire de pointe explique que Mythos possède des capacités exceptionnelles à identifier des failles de sécurité dans les logiciels critiques utilisés mondialement. Plutôt que de le mettre à disposition du grand public, Anthypic a choisi de le partager exclusivement avec un groupe restreint de grandes entreprises et d'organisations opérant des infrastructures en ligne vitales, telles qu'Amazon Web Services ou JPMorgan Chase. Cette stratégie vise à permettre à ces entités de se prémunir contre les acteurs malveillants susceptibles d'utiliser des modèles de langage avancés pour pénétrer des systèmes sécurisés. OpenAI envisagerait d'ailleurs de suivre la même approche pour son prochain outil de cybersécurité. Cependant, cette restriction soulève des questions sur les motivations réelles de cette stratégie, au-delà de la simple sécurité. Dan Lahav, fondateur du laboratoire de cybersécurité Irregular, souligne que la découverte d'une faille par une IA ne garantit pas son exploitabilité réelle. Selon lui, la valeur d'une vulnérabilité dépend de nombreux facteurs complexes, notamment la façon dont elle peut être combinée avec d'autres éléments pour former une chaîne d'attaque efficace. Par ailleurs, l'hégémonie supposée de Mythos est contestée. Aisle, une startup spécialisée dans la cybersécurité par IA, a déclaré avoir obtenu des résultats comparables à ceux annoncés par Anthropic en utilisant des modèles ouverts beaucoup plus petits. Cette observation suggère qu'il n'existe pas un seul modèle de deep learning universel pour la cybersécurité, mais que l'efficacité dépend fortement de la tâche spécifique à accomplir. Une autre raison potentielle de cette restriction réside dans les enjeux économiques et stratégiques. En limitant l'accès à ses modèles les plus puissants aux grandes entreprises, les laboratoires de pointe créent un cercle vertueux pour leurs contrats d'entreprise tout en freinant la capacité de leurs concurrents à reproduire ces technologies via la distillation. Cette technique permettrait à des tiers d'entraîner de nouveaux modèles de langage moins chers en s'appuyant sur les modèles de pointe. David Crawshaw, directeur exécutif de la startup exe.dev, a suggéré sur les réseaux sociaux que cette restriction sert de couverture marketing pour verrouiller l'accès aux modèles de haut niveau. Selon lui, en réservant l'accès aux entreprises, Anthropic s'assure que les sociétés de distillation restent au second rang, préservant ainsi un flux constant de revenus provenant des contrats d'entreprise qui constituent la majeure partie des financements du secteur. Cette dynamique reflète une fracture croissante au sein de l'écosystème de l'IA, opposant les laboratoires de pointe développant les modèles les plus puissants aux entreprises comme Aisle qui misent sur une combinaison de modèles et sur les sources ouvertes. Si l'on ignore toujours si Mythos constitue véritablement une menace pour la sécurité du web, la mise en place progressive de cette technologie semble être une approche responsable. Anthropic n'a pas commenté les questions liées aux préoccupations de distillation, mais il est probable que l'entreprise ait trouvé une méthode ingénieuse pour protéger à la fois l'infrastructure numérique et ses propres intérêts financiers.