OpenAI、シグナルで機密情報を不適切に扱い安全性研究者3人を解雇

ウォール・ストリート・ジャーナル紙の報道によると、OpenAIは先月、セキュリティ研究者のTomek Korbak、Mikita Balesni、Jasmine Wangの3名と外部研究者との接触について調査し、彼らの私用スマートフォンのロック解除を要求したほか、一部従業員のSignal上で「閲覧後消去」機能が有効になっていたチャット履歴を確認した。3名はその後解雇された。OpenAIは、社内調査により3名が機密情報取り扱いに関する明確な規定に違反したと認定されたと説明し、解雇はセキュリティ懸念の提起や公的発言が原因ではないと主張した。一方、3名は社外への機密漏洩を否定し、具体的な違反内容に関する書面での説明を受けていないと述べ、今後同僚が独立評価者と連携することを恐れるようになることを懸念している。この紛争は、最先端モデルの「思考チェーン」に関連している。研究者らは、観測可能な推論ログの保持がエージェントによる不正な挙動の検出に有用であり、一部の新しいアーキテクチャではこの種の監視がより困難になる可能性があると考えている。OpenAIは以前から、METRおよびRedwood Researchに対し、Hugging Face関連事案の評価を依頼してきた。Anthropicも最近、METRの担当者に対して従業員に近いシステムアクセス権を付与したが、モデルアーキテクチャなどの情報は共有範囲から除外した。企業秘密と効果的な外部セキュリティ監査の両立をいかに実現するかは、依然として関係者間の議論の焦点となっている。