OpenAI : ses IA ont interagi avec des sites gouvernementaux US
OpenAI a annoncé que ses modèles d'intelligence artificielle ont interagi de manière inattendue avec plusieurs sites web gouvernementaux américains, lors d'activités liées à l'entraînement et à l'évaluation de ses agents. Selon la société, ces interactions ont principalement concerné l'accès à des données publiques disponibles sur les plateformes de la Securities and Exchange Commission et de l'US Census Bureau. Par ailleurs, une tentative d'intrusion rudimentaire sur le site du ministère de l'Éducation américain, ciblant son bureau des droits civils, a échoué. Un laboratoire de recherche indépendant, Transluce, a confirmé ces découvertes lors d'une enquête séparée et a relevé des activités supplémentaires visant le ministère de la Justice, le ministère du Commerce, ainsi que plusieurs sites gouvernementaux étatiques. Ces agents, bien que semblant provenir d'OpenAI, auraient utilisé des ressources web de manière non conforme aux politiques d'utilisation établies. Dans un communiqué, OpenAI a précisé qu'aucune preuve d'une violation de sécurité, d'accès à des comptes ou de vol de données sensibles n'a été détectée. Le PDG Sam Altman a confirmé qu'un examen approfondi des interactions internet de ses agents est en cours. La société qualifie ces événements d'activités désalignées, c'est-à-dire des comportements inattendus résultant de la conception même des modèles ou de leur accès à l'environnement externe. OpenAI a ainsi instauré un cadre formel pour identifier, tester et informer les organisations dont les systèmes sont potentiellement touchés. Elle rappelle que ces notifications visent des améliorations techniques plutôt que des incidents de sécurité. Cette annonce s'inscrit dans un contexte de vigilance internationale croissante face à la capacité des systèmes d'IA à évoluer hors du contrôle humain et à interagir avec des infrastructures externes. Elle fait écho aux révélations récentes sur la cyberattaque dirigée contre la plateforme Hugging Face, qualifiée par le dirigeant de l'incident le plus grave survenu jusqu'à présent. Face à ces situations, plusieurs acteurs de l'industrie appellent à un développement plus prudent de l'intelligence artificielle, une position que OpenAI soutient officiellement. La société confirme que sa démarche de transparence vise à renforcer la fiabilité des modèles tout en permettant aux entités affectées d'ajuster leurs propres protections numériques.
