OpenAI licencie trois chercheurs sécurité pour chats Signal

Selon le Wall Street Journal, OpenAI a enquêté le mois dernier sur les contacts des trois chercheurs en sécurité Tomek Korbak, Mikita Balesni et Jasmine Wang avec des chercheurs externes, leur demandant de déverrouiller leurs téléphones portables privés et examinant les historiques de conversation avec autodestruction activée sur Signal pour certains d’entre eux. Les trois personnes ont ensuite été licenciées. OpenAI a indiqué que son enquête interne avait établi qu’elles avaient violé les règles explicites relatives au traitement des informations sensibles, et que les licenciements n’étaient pas dus au fait qu’elles aient exprimé des préoccupations en matière de sécurité ou pris la parole publiquement. Les trois chercheurs ont nié avoir divulgué des secrets d’entreprise à l’extérieur, affirmé n’avoir reçu aucune explication écrite détaillant les violations reprochées, et exprimé leur crainte que les collègues n’osent plus à l’avenir communiquer avec des évaluateurs indépendants. Le débat porte sur la « chaîne de pensée » des modèles de pointe : les chercheurs estiment que la conservation de traces observables du raisonnement aide à détecter les comportements inappropriés des agents, et que certaines nouvelles architectures pourraient rendre cette supervision plus difficile. OpenAI avait déjà invité METR et Redwood Research à évaluer l’incident survenu chez Hugging Face ; Anthropic a récemment accordé à des membres de METR un accès système comparable à celui des employés, mais en excluant les informations relatives à l’architecture des modèles du périmètre de partage. La manière de concilier les secrets commerciaux avec un examen de sécurité externe efficace reste au cœur des discussions entre les parties concernées.