OpenAI : trois chercheurs sécurité contestent leur renvoi
Trois chercheurs en sécurité d’OpenAI, Jasmine Wang, Tomek Korbak et Mikita Balesni, ont publié une lettre ouverte pour contester les motifs de leur renvoi et alerter sur les répercussions potentielles sur la culture interne de l’entreprise. L’IA a confirmé leur licenciement peu après avoir mené une enquête, affirmant qu’un schéma de manquements avait été constaté dans la gestion des informations confidentielles, en violation des politiques de l’entreprise. Les trois chercheurs refusent ces accusations. Ils expliquent que leurs échanges avec des groupes externes d’évaluation ont été motivés par la nécessité de renforcer la sécurité des modèles d’intelligence artificielle, dans un contexte où les procédures internes étaient encore en cours d’élaboration suite à des incidents récents, comme la défaillance d’environnements isolés chez Hugging Face. Dans leur correspondance adressée aux comités de sécurité et d’éthique d’OpenAI, les chercheurs soulignent que leur renvoi brutal risque d’instiller la peur au sein des équipes. Ils regrettent un changement de culture, passant d’un environnement favorable au débat ouvert à un climat marqué par une insécurité réglementaire. Jasmine Wang précise également avoir été renvoyée après avoir accidentellement consulté la messagerie d’un dirigeant, un accès qui lui avait été temporairement confié pour le recrutement et dont la fermeture n’avait pas été effectuée par le service informatique. Elle insiste sur le fait qu’elle a signalé l’incident immédiatement. En réponse, OpenAI a diffusé une note interne précisant que ces décisions ne constituent en aucun cas une représaille pour des préoccupations légitimes en matière de sécurité. Un porte-parole a toutefois maintenu que les licenciements découlent de violations clairement définies des règles de confidentialité. L’entreprise n’a pas fourni de détails précis sur les politiques enfreintes ni sur les garanties offertes aux employés souhaitant collaborer avec des auditeurs externes. Ces événements s’inscrivent dans une période d’attention accrue pour OpenAI, confrontée à plusieurs controverses sur la sécurité de ses modèles et la supervision des agents autonomes. Les chercheurs réclament le maintien d’audits indépendants, la transparence des mécanismes de supervision des modèles et la préservation d’une communication fluide entre l’équipe sécurité et l’écosystème externe. OpenAI déclare soutenir ces orientations dans sa communication interne. Selon les trois anciens employés, museler les experts en sécurité compromet la capacité de l’entreprise à développer une intelligence artificielle générale de manière responsable. Ils exhorent leurs collègues et la direction à défendre une culture du dialogue ouvert, estimant que la peur et l’opacité constituent désormais un risque plus grand pour la sécurité des systèmes que la collaboration externe.
