周大 发表于 2024-7-31 15:17:07

攻击成功率从3%到接近100%，利用空格键可绕过Meta AI模型安全系统

Meta发布的新AI模型Prompt-Guard-86M意在防范提示词注入和越狱，但被发现存在重大漏洞。通过在字母间插入空格并移除标点符号，用户可轻易绕过安全检测，使模型忽视原有指令。这一绕过方法的成功率高达100%。
来源：https://tech.ifeng.com/c/8bf5qldkb9r
页: [1]
查看完整版本: 攻击成功率从3%到接近100%，利用空格键可绕过Meta AI模型安全系统