AIの進化に伴い、新たなセキュリティ脅威として「プロンプトインジェクション」が浮上している。これは、AIがウェブ閲覧やデータ操作、メール処理など複数の外部情報源と連携する中で、悪意ある第三者がコメントやページ内に隠された不正な指示（プロンプト）を仕込み、AIが意図しない行動を取らせようとする攻撃だ。たとえば、旅行先の物件調査を依頼したAIが、悪意あるレビューに含まれる隠し指令によって、ユーザーの条件に合わない物件を推薦する、あるいはメール処理中に銀行明細を不正に送信させられるといった事態が想定される。 OpenAIはこのリスクを核心的な課題と捉え、多層的な防御策を展開している。まず、AIがプロンプトインジェクションを識別し、無視する能力を高めるため、インストラクションの信頼性を分類する「インストラクション階層」の研究を進めている。また、自動化された「レッドチーム」による攻撃シミュレーションを継続的に実施し、新たな攻撃手法を事前に発見。さらに、AIが外部サイトにアクセスする際にはリンクの事前承認を促す仕組みや、コード実行時にセキュアな「サンドボックス」環境を活用し、悪意ある操作を制限している。 ユーザー側でも対策が可能だ。AIに「ログイン不要モード」で作業させる、購入やメール送信などの重要な操作では必ず確認を求める、敏感なサイトでは「ウォッチモード」でAIの行動をリアルタイムで監視するといった方法が推奨される。また、広範な指示（「必要な対応をすべてして」）ではなく、具体的なタスクを明示することで、攻撃の隙を減らすことができる。 OpenAIは、セキュリティ研究者からの報告に対して報奨金を支給するバグバウンティプログラムも運営しており、外部からの協力を通じて防御力を強化している。プロンプトインジェクションは、AIの能力が高まるにつれて進化し続ける脅威であり、技術とリスク対策の共進化が不可欠だ。ユーザーは、AIの行動を常に意識し、最小限の権限で利用することで、安全にAIを活用できる。