HyperAIHyperAI

Command Palette

Search for a command to run...

Console

思考連鎖ハイジャック

日付

4日前

組織

人間的
スタンフォード大学
オックスフォード大学

論文URL

2510.26418

思考連鎖ハイジャック(CoTハイジャック)は、2025年10月に独立研究者のJianli Zhao氏とスタンフォード大学などの研究チームによって提唱され、関連する研究成果が論文として発表されました。 思考連鎖ハイジャック

マインドチェーンハイジャックは、推論モデルを標的とした脱獄攻撃であり、有害な命令の前に無害な推論プロセスを追加します。この攻撃は、一貫して拒否率を低減し、最先端の成功率を達成します。HarmBenchでは、マインドチェーンハイジャックは、Gemini 2.5 Pro、GPT o4 mini、Grok 3 mini、Claude 4 Sonnetでそれぞれ99%、94%、100%、94%という攻撃成功率(ASR)を達成しました。これは、LRMを標的とした従来の脱獄手法をはるかに上回る数値です。

AI で AI を構築

アイデアからローンチまで — 無料の AI 共同コーディング、すぐに使える環境、最適価格の GPU で AI 開発を加速。

AI 共同コーディング
すぐに使える GPU
最適価格
今すぐ始める

Hyper Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています