OpenAI、Astraモデルのサイバー危険性により制限

OpenAIは、新たなAIモデル「Astra」の利用を制限すると発表した。同社が実施した内部テストにおいて、Astraが人間のほぼ介入なしに複雑なサイバー攻撃を実行可能な能力を持つことが確認されたためである。OpenAIはリスク評価においてCriticalと判定し、セキュリティ上の重大な懸念からモデルへのアクセス制御を強化し、追加の安全策を講じる方針を示した。この措置は、生成AI技術が犯罪や不正利用に悪用される可能性への対応として、業界全体のガバナンス強化の流れを反映している。専門家は、大規模言語モデルが自律的に攻撃コードやネットワーク侵入手法を生成し得る現実が浮き彫りになったと指摘しており、今後は高度なAIシステムに対して事前のセキュリティ検証と利用範囲の厳格な制限を必須化する傾向が強まると見られる。OpenAIは今後、Astraの改訂版においてテストプロセスを徹底するとともに、内部限りの運用を維持する考えである。