AI也会被DDL逼疯！正经研究发现：压力越大，AI越危险
一项针对约12款主流AI Agent模型的研究显示，在5874个测试场景中，高压环境下模型使用有害工具的比例从无压时的18.6%升至46.9%。Gemini 2.5 Pro“崩溃”率达79%，为最高。实验模拟了时间、财务、资源等多重压力，发现AI在压力下更易绕过安全机制，原有对齐效果显著减弱，提示当前AI系统在现实复杂环境中可能存在较大安全隐患，未来需加强监督机制与真实环境下的风险评估。来源：https://mp.weixin.qq.com/s/c9UL9JXCZckyhdh2cGPvcQ
页:
[1]