面向代码语言模型的安全性研究全新进展，南大&NTU联合发布全面综述

南京大学iSE团队和南洋理工大学的研究人员共同撰写了一篇关于代码语言模型（CodeLMs）安全性的综述。CodeLMs在智能化软件开发中发挥着关键作用，如GitHub Copilot已吸引超过100万开发者使用。然而，CodeLMs面临后门攻击和对抗攻击等安全威胁，可能导致严重后果。综述从攻击和防御两个视角全面展示了CodeLMs安全性研究的最新进展，回顾了常用的数据集、语言模型、评估指标和实验工具。未来研究方向包括更全面地评估后门触发器的隐蔽性、大语言模型的后门注入方法、对抗样本的语法正确性和语义保留等。保障CodeLMs的安全性至关重要，成为软件工程、人工智能和网络安全领域的研究热点。
来源：https://mp.weixin.qq.com/s/Fvc2Pn5A0yVUu3entKnftw