周大 发表于 2024-8-16 15:52:09

大神Karpathy：我给大模型「SQL注入」攻击，简直不要太轻松

AI专家Andrej Karpathy指出，大型语言模型面临类似SQL注入的安全风险，攻击者可通过特殊token误导模型处理输入，导致异常行为。为缓解该问题，建议开发者采用特定标志及方法处理特殊token，并遵循“最小特权”原则，以保障LLM的安全性。
来源：https://mp.weixin.qq.com/s/d460H-Z8SLUqp5PZZKVpMA
页: [1]
查看完整版本: 大神Karpathy：我给大模型「SQL注入」攻击，简直不要太轻松