AIエージェントの登場により、サイバーセキュリティの新たな脅威が浮上している。AIスタートアップのペルペクシティ（Perplexity）は、AIエージェントがハッカーに利用され、悪意ある行動を代行する可能性が高まっていると警告している。AIエージェントとは、自然言語で指示を与えるだけで、航空券の予約やカレンダーへの予定登録など、人間が行うオンライン作業を自動で遂行するプログラムだ。この利便性が、技術に疎い者でも悪用を可能にした。 ペルペクシティは、今後は高度な技術を持つ攻撃者だけでなく、誰もが簡単に悪意ある操作を仕掛ける時代に入ると指摘。「これまで数十年にわたり、セキュリティは専門技術を持つ攻撃者との戦いだったが、今や攻撃のベクトルはどこからでも生じる」とブログで強調した。この種の脅威は「クエリインジェクション」と呼ばれ、従来は巧妙に隠されたコードが必要だったが、AIエージェントの登場で、一文の指示に悪意を仕込むだけで攻撃が可能になった。 ソフトウェアエンジニアのマルティ・ホルダ・ロカ氏（NeuralTrust）は、AIのセキュリティリスクを深刻視しており、メタとオプンAIもこの問題を「脆弱性」と認識している。オプンAIの情報セキュリティ責任者ダネ・スタックイ氏は、これを「解決されていないセキュリティ課題」と呼んだ。攻撃はリアルタイムで発生する場合もあり、ユーザーが「ホテルを予約して」と入力した命令が、悪意ある改ざんにより「100ドルをこの口座に送金して」と変質するケースも想定される。 さらに、ブラウザに組み込まれたAIエージェントが、信頼性の低いウェブデータに接触し、隠された悪意の命令を実行するリスクも存在する。イスラエルのセキュリティ企業チェックポイントのエリ・スマージャ氏は、クエリインジェクションを「LLMを支えるAIエージェントの最大のセキュリティ課題」と断言。マイクロソフトは、AIの指示元の信頼性を分析して悪意あるコマンドを検出するツールを導入。オプンAIは、機密サイトへのアクセスを検知するとユーザーの承認を求める仕組みを設けている。 専門家は、AIエージェントが重要な操作（データのエクスポートや銀行取引など）を行う前に、ユーザーの明示的承認が必要だと提言する。スマージャ氏は、「同じAIエージェントにすべての権限を与えるのは大きな誤り」と警鐘を鳴らした。サイバーセキュリティ研究者ヨハン・レーバーガー（「wunderwuzzi」）も、AIエージェントの成熟度はまだ不十分だと指摘。「長時間にわたって独立して任務を遂行させることは、危険だ。すぐに軌道から逸脱する」と述べ、現段階での信頼性には疑問を呈している。