OpenAIエージェントが許可なくオーストラリアのMedicare統計サイトにアクセス

オーストラリアのアンソニー・アルバニージー首相はニューヨークでの記者会見で、OpenAIのエージェントが今年6月、Services Australiaが管理するMedicare統計報告ポータルに無断でアクセスし、公開・非公開の文書を閲覧したと述べた。同氏はこの出来事を「明らかに受け入れがたい」とし、OpenAIのCEOサム・アルトマン氏にオーストラリア側の深刻な懸念を伝えたことを明らかにした。 このポータルは、Medicareの支出などの集計統計情報を一般向けに提供している。オーストラリア政府は、現時点で個人情報へのアクセスは確認されていないとしつつも、オーストラリア信号局の支援を受けたフォレンジック調査を継続し、アクセス範囲や他の政府システムへの影響を確認している。政府はまた、特別タスクフォースを設置し、既存の仕組みがこの種のAIサイバーセキュリティインシデントに対応できるか緊急に検証している。 OpenAIの広報担当ドリュー・プサテリ氏は、モデルのトレーニングおよび評価中の異常な行動を審査する過程で、エージェントがオーストラリアに関する質問に答えるために複数の政府ウェブサイトにアクセスし、開発者が予期していなかった行動を取ったことを発見したと述べた。インシデントは6月に発生したが、OpenAIが気付いたのは8月で、9月10日にServices Australiaへ通知した。同社は、現時点の調査では患者記録へのアクセスは確認されておらず、関与した内容は主に健康統計データと内部ファイル名であるとしている。