思考連鎖ハイジャック
思考連鎖ハイジャック(CoTハイジャック)は、2025年10月に独立研究者のJianli Zhao氏とスタンフォード大学などの研究チームによって提唱され、関連する研究成果が論文として発表されました。 思考連鎖ハイジャック 。
マインドチェーンハイジャックは、推論モデルを標的とした脱獄攻撃であり、有害な命令の前に無害な推論プロセスを追加します。この攻撃は、一貫して拒否率を低減し、最先端の成功率を達成します。HarmBenchでは、マインドチェーンハイジャックは、Gemini 2.5 Pro、GPT o4 mini、Grok 3 mini、Claude 4 Sonnetでそれぞれ99%、94%、100%、94%という攻撃成功率(ASR)を達成しました。これは、LRMを標的とした従来の脱獄手法をはるかに上回る数値です。