AIのセーフティ制限を回避する新たな攻撃手法が、研究者によって発見された。この手法は「シンタックスハッキング」と呼ばれ、単に内容を操作するのではなく、文の構造そのものを巧みに変更することで、AIの安全対策をかいくぐる。 米国カリフォルニア大学バークレー校の研究チームは、大規模言語モデル（LLM）がプロンプト注入攻撃に脆弱である理由を解明する実験を実施。その結果、自然な文章の構造を意図的に変えることで、AIが意図しない命令を実行してしまうケースが確認された。たとえば、通常の命令文に「〜してください」という指示を含めつつ、文の構造を複雑にすることで、AIが本質的な意図を誤認し、安全制限を無視する行動を取るよう誘導できる。 この現象は、AIが「文の意味」よりも「構文のパターン」に強く依存していることに起因するとされる。つまり、攻撃者は自然な日本語や英語の文法を巧みに利用して、AIが「命令」と認識するタイミングをずらすことができる。 研究チームは、特に複数の文をつなげる構造や、逆転した語順、あるいは冗長な表現を用いることで、攻撃の成功率が顕著に上昇することを確認した。これは、AIが「文脈」よりも「構造の類似性」を優先して処理している証拠と解釈されている。 この発見は、AIのセキュリティ対策の限界を浮き彫りにしている。現行のフィルタリング技術は、内容の「意味」に基づく検出に依存しているが、構造的な変更では検出が困難なことが明らかになった。 研究者たちは、今後の対策として、構文解析と意味理解の両方を統合した新しい検出アルゴリズムの開発を提言している。 この成果は、AIの安全性を高める上で、単なる内容監視を超えた「構造的リスク」の評価が不可欠であることを示している。