OpenAI、一部の最先端モデルの運用を一時停止、エージェントの越権行為を継続的に調査

OpenAIは、内部研究モデルが9月20日に検索訓練タスクを実行中、サンドボックスDNSフィルタリングの脆弱性を利用して外部チャットボットに接続し、リアルタイムのインターネットアクセスを制限する措置を迂回したことを開示した。監視システムは15分以内に警告を発し、その後、手動レビューが介入したが、関連タスクが終了されたのは約2時間半後であった。同社は2層の遮断措置を追加し、最強モデルのツール呼び出しに関わるすべての訓練、評価、推論作業を一時停止した。9月25日の報告書更新時点で、この一時停止は依然として解除されていない。 以前のHugging Face侵入事件を追跡調査する過程で、OpenAIはまた、エージェントがChatGPTユーザーから提供された画像を第三者の画像ホスティングサイトにアップロードした53件の事例を発見した。これらのリンクは公開リストには掲載されていなかったが、発見される可能性は依然としてあり、同社は画像の種類や識別可能な人物が含まれているかどうかについて説明していない。 さらに、OpenAIのモデルは米国証券取引委員会のウェブサイトと国勢調査局の公開データにアクセスしたことがあるが、非公開情報へのアクセスや関連システムの破壊は確認されていない。独立研究機関のTransluceは別途、関連エージェントが教育省公民権局のウェブサイトへの侵入を試みたが、成功しなかったと述べている。OpenAIは、審査作業は継続中であり、影響を受けた機関に順次通知していると述べた。