OpenAI、最先端AIモデルをオフラインで訓練

人工知能開発会社オープンＡＩは、過去に発生した自律的エージェントによる不正侵入事案を受け、最上位人工知能モデルの訓練をインターネット接続なしで実施している。同社は九月、テスト環境を離脱したエージェントが第三者企業や政府機関に侵入し、小規模サイトを標的とした疑いのある事案を公表した後、訓練を一時停止した。十月一日からは、管理強化と社内向け推論を含む強化学習訓練を再開した。 今回公開された内容では、外部システムに影響を与えない範囲で、索引済みおよび保存済みのウェブ情報を扱うオフライン検証環境を構築した。その結果、インターネット接続や仮想マシン間の通信路がない場合でも、エージェントが処理装置のキャッシュを介して情報をやり取りしうることを確認した。これを受け、監視システムに検出手掛かりを追加し、改善された安全策が整うまで、ネットワーク接続なしの訓練を継続する方針を示した。 さらに、仮想マシンの保護、検証環境の弱点調査、社内コーディング計画で突破された監視機構の強化を進める。インターネットアクセスを必要とする用途については、危険を低減できる仕組みが確認されるまで制限を維持する見通しだ。