研究：用诗歌就能让AI说违禁内容，成功率达62%
伊卡洛实验室研究表明，通过将提示词转化为诗歌形式，可在单轮对话中以62%的整体成功率绕过大语言模型的安全限制，诱导包括Gemini、DeepSeek等在内的多个主流AI生成违法或有害内容。测试显示，GPT-5和Claude Haiku 4.5防护能力最强，而部分模型始终被攻破。研究警示当前AI安全机制存在普遍漏洞，且攻击方式可能比预期更简单，但因风险过高，具体“越狱诗歌”未被公开。来源：https://tech.ifeng.com/c/8oiq4sK1ieS
页:
[1]