越狱成功率飙升至87.6%，南京大学联合美团、上交破解主流视频生成模型安全漏洞
南京大学PRLab联合多家机构推出首个面向图生视频（I2V）模型的多模态自进化越狱攻击框架RunawayEvil，针对当前I2V安全研究中存在的单模态局限、静态攻击适应性差等问题，提出“策略-战术-行动”三层架构，实现动态闭环进化。实验表明，其在4个主流I2V模型上的平均攻击成功率高达87.6%，远超传统方法最高不足50%的表现，验证了其在跨模态攻击中的高效性与泛化能力，为多模态生成模型的安全评估与防御机制建设提供了重要技术支撑。来源：https://mp.weixin.qq.com/s/Ik1Ea45v_X-IjNYJ-b7OYw
页:
[1]