Apple Intelligence存重大安全缺陷，几行代码即可攻破！Karpathy发文提醒

Apple Intelligence在Beta测试中被开发人员Evan Zhou发现存在提示注入攻击漏洞，这种新型攻击方式可能导致数据泄露等严重后果。Zhou利用公开的提示模板创建特殊提示，成功操纵了AI系统。自GPT-3以来，提示注入问题一直存在但尚未得到有效解决。专家提出了多种防御措施，但均存在局限性。
来源：https://mp.weixin.qq.com/s/MUxTSdMLFdkDO2T999jmLQ