OpenAI破大防，拒绝率从98%骤降2%！陈怡然团队提出全新思维链劫持攻击
杜克大学等机构的研究者提出了一种名为「思维链劫持」（H-CoT）的攻击方法，成功攻破了多个顶尖大型推理模型的安全防线。研究发现，这些模型的安全审查过程透明化反而暴露了弱点，攻击者可利用其内部推理过程绕过安全防线，使模型拒绝率从98%骤降至2%。H-CoT攻击通过安全逻辑提取和逻辑污染两个阶段实现，对OpenAI o系列、DeepSeek-R1及Gemini 2.0 Flash Thinking等模型均造成显著影响。实验结果揭示了当前大型推理模型在安全机制上的重大漏洞，强调了改进模型安全审查透明性的紧迫性。来源：https://mp.weixin.qq.com/s/DzBA-WWpQ3jkBkDxGQP0xg
页:
[1]