人工知能モデルの数兆変種が音声アシスタント大量攻撃を阻止

ジョージ・メイソン大学のクアン・ゼン准教授と博士課程の学生イエン・メンは、音声アシスタントを狙う大量攻撃を防ぐ技術「ディブネット」を、2026年夏に英国ケンブリッジでの移動体システム関連国際会議で発表した。人間に聞こえない悪意ある音声指示を音楽などに混ぜ、機器に解錠や送金などの操作を促す攻撃が対象で、同一の人工知能モデルが多数の機器に載るため、一つの攻撃音で複数機器を操る危険がある。 ディブネットは、正常音声の認識にほぼ影響しないが攻撃の成否に関わる重みを機器ごとに細かく変更し、多数の派生モデルを作る。既存方式では攻撃成功率が大きく下がり、正常な認識精度の低下は最小限に抑えた。大規模な再学習や音声認識時の追加遅延も要らず、高性能半導体を用いた学習コストを大きく増やさない。 実験では数ミリ秒で派生モデルを生成できる。変種が膨大で、機器が定期的に切り替われば攻撃の再利用も難しい。チームは公開資料と特許出願で商用化を狙う。既存機器への負担を抑え、音声による不正操作のリスクを低減する成果だ。