NTU等联合提出A-MemGuard：为AI记忆上锁，投毒攻击成功率暴降95%
针对LLM智能体面临的记忆投毒攻击风险，研究团队提出首个专用防御框架A-MemGuard。该框架通过分析2293条交互数据发现，恶意记忆引发的推理路径在结构上与正常路径重叠率不足1%，具备可分离性。基于此，A-MemGuard采用共识验证机制识别偏离主流的异常推理，并利用双重记忆结构将错误经验存入独立“教训库”，实现主动学习与规避。实验表明，该框架可将攻击成功率降低超95%，在医疗等复杂场景中将成功率从100%压至2%，且对正常任务性能影响极小，展现出高实用性与扩展性。来源：https://mp.weixin.qq.com/s/ZRLnTkTDYXpQktwUkD92EQ
页:
[1]