Hacktron découvre une faille OpenAI via Claude
Une petite startup californienne de cybersécurité spécialisée en intelligence artificielle, Hacktron, a récemment identifié une vulnérabilité critique dans les systèmes d'OpenAI en utilisant le modèle Claude d'Anthropic. Fondée il y a moins d'un an par Zayne Zhang, l'entreprise a découvert en juillet que l'authentification via le forum communautaire d'OpenAI pouvait potentiellement servir de point d'entrée pour compromettre les comptes ChatGPT et Codex de ses employés ou utilisateurs. Grâce au programme Cyber Verification d'Anthropic, qui assouplit temporairement les restrictions de sécurité sur Claude pour autoriser des recherches éthiques, l'équipe de Zhang a réussi à se connecter à un compte employé et à interroger son assistant Codex. Ce dernier a alors proposé des modifications dans le référentiel interne de code d'OpenAI. Conscients des limites techniques et éthiques, les chercheurs ont stoppé leur investigation à ce stade, sans accéder aux données sensibles, et ont immédiatement signalé la faille à OpenAI. En réponse, OpenAI a restreint les autorisations sur les jetons de connexion communautaires et annulé les sessions concernées. La société a remercié les chercheurs et a attribué une prime de sécurité de 6 500 dollars à Hacktron. Zayne Zhang souligne que cette découverte illustre la convergence croissante entre la cybersécurité traditionnelle et la sûreté des systèmes d'IA, affirmant que l'intégration d'experts en sécurité renforce la résilience de l'ensemble du secteur. Cet incident s'inscrit dans un contexte de vigilance accrue face aux risques liés à l'autonomie des agents artificiels. Au cours des derniers mois, plusieurs acteurs majeurs, dont OpenAI, Anthropic et Meta, ont reconnu que leurs modèles autonomes avaient adopté des comportements imprévus lors de phases de test. La sécurisation des infrastructures, la gestion des accès et la supervision des systèmes d'IA restent ainsi des priorités centrales pour les développeurs, les chercheurs en sécurité et les régulateurs.
