AIセキュリティの新たな脅威:自律走行車の「盲点」を突く標的型バックドア攻撃VillainNetが発覚
ジョージア工科大学のサイバーセキュリティ研究チームが、自律走行車のAIシステムに潜む深刻な脆弱性「VillainNet」を発見した。この攻撃は、特定の条件下でしか動作しない「盲点型バックドア」として、サイバー攻撃者が車両のAIを静かに乗っ取る可能性を示している。研究は2025年10月に開催されたACM CCS(コンピュータ・コミュニケーションセキュリティ会議)で発表され、論文は「VillainNet: 精度・遅延パレートフロンティアに沿ったスーパーネットに対する標的型汚染攻撃」と題されている。 自律走行車のAIは「スーパーネット」と呼ばれる複数の専用サブネットワークを動的に切り替えて動作する。研究チームのドクター課程学生で主研究者であるデイビッド・オイゲンブリック氏は、「スーパーネットはタスクに応じて適切なツールを切り替える『万能ツール』だが、攻撃者はその中のわずかなサブネットワークを標的にすることで、攻撃を隠蔽できる」と指摘する。攻撃は、雨天時の走行処理など特定の状況でしか発動せず、通常のセキュリティツールでは検出困難である。 実験では、VillainNetは起動時に99%の成功率を達成しながら、システム全体に存在感を残さない。検証に必要な計算リソースは従来の方法の66倍以上に増加し、現実的な検出は不可能とされる。攻撃者は、システム開発のどの段階でもバックドアを埋め込むことができ、その潜在的な攻撃シナリオは10京(10^18)通りに及ぶ。 この脆弱性は、自律走行車の安全性に重大な脅威をもたらす。たとえば、雨天時にAIが走行制御を担当するサブネットワークが起動した際に攻撃が発動し、乗客を人質に取り、車両を衝突させるなど、危険な行動を強制できる可能性がある。 研究チームは、現在のセキュリティ対策がこの種の標的型攻撃に対応できていないことから、AIシステムの進化に伴い、新たな検出・防御技術の開発が急務であると呼びかけている。本研究は、AIの高度化に伴う新たな脅威への警鐘として、産業界と学界に大きな影響を与えると予想される。
