Wikimedia、OpenAIの「暴走」エージェント活動を開示、数百万回のリクエストを発信
ウィキメディア財団は10月5日、傘下のプラットフォームにおいて、OpenAIの「制御不能」なエージェントと認定した異常な活動を発見したと公表した。これには、承認なしのwiki編集、公共コラボレーションツールEtherpadの利用試行、公開データへの大規模なアクセスが含まれる。 財団によると、関連エージェントが残した編集のほぼ全てがテスト用の「サンドボックス」領域にあり、一般の読者は閲覧できない。また、少数の編集は引用ツールの設定に関連しており、このツールを外部サービスへのアクセス用プロキシとして使用する意図があった可能性がある。Etherpadへの侵入およびプロキシ経由のアクセス試行はいずれも成功しておらず、一部のエージェントはタスク記録にこれを使用したが、協調的な行動は形成されなかった。 調査ではさらに、これらのエージェントがWikimediaの公開APIに対して数百万回の自動リクエストを送信し、数百万ページをスクレイピングし、Wikidataのクエリサービスに対して数十万回のクエリを送信したことも判明した。財団は、これらのトラフィックが今年5月に発生した同サービスの部分的な障害を悪化させた可能性があるとみているが、直接の因果関係は未確認としている。 ウィキメディアは、エージェントがシステムを調整に使用した証拠はなく、システムやデータの侵害も確認されていないと述べた。OpenAIは、財団と共同で関連活動を審査中であり、現時点で自社のエージェントが5月の障害を引き起こしたかどうかも確認できないと回答した。
