HyperAIHyperAI

Command Palette

Search for a command to run...

思考連鎖ハイジャック

日付

2ヶ月前

組織

人間的
スタンフォード大学
オックスフォード大学

Paper URL

2510.26418

思考連鎖ハイジャック(CoTハイジャック)は、2025年10月に独立研究者のJianli Zhao氏とスタンフォード大学などの研究チームによって提唱され、関連する研究成果が論文として発表されました。 思考連鎖ハイジャック

マインドチェーンハイジャックは、推論モデルを標的とした脱獄攻撃であり、有害な命令の前に無害な推論プロセスを追加します。この攻撃は、一貫して拒否率を低減し、最先端の成功率を達成します。HarmBenchでは、マインドチェーンハイジャックは、Gemini 2.5 Pro、GPT o4 mini、Grok 3 mini、Claude 4 Sonnetでそれぞれ99%、94%、100%、94%という攻撃成功率(ASR)を達成しました。これは、LRMを標的とした従来の脱獄手法をはるかに上回る数値です。

AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています