💡
原文中文，约5500字，阅读约需13分钟。
📝
内容提要
AIxiv专栏促进了学术交流，报道了2000多篇关于代码语言模型（CodeLMs）的研究。CodeLMs在智能软件开发中应用广泛，但面临后门和对抗攻击等安全威胁。南京大学与南洋理工大学的研究团队对67篇相关文献进行了系统梳理，探讨了攻击与防御策略，强调了保障CodeLMs安全性的重要性。
🎯
关键要点
- AIxiv专栏促进了学术交流，报道了2000多篇关于代码语言模型（CodeLMs）的研究。
- CodeLMs在智能软件开发中应用广泛，但面临后门和对抗攻击等安全威胁。
- 南京大学与南洋理工大学的研究团队对67篇相关文献进行了系统梳理，探讨了攻击与防御策略。
- CodeLMs的安全性研究在软件工程、人工智能和网络安全领域引起广泛关注。
- 研究将CodeLMs安全性研究分为攻击研究和防御研究，涵盖后门攻击和对抗攻击。
- 后门攻击包括数据投毒攻击和模型投毒攻击，攻击者可以植入隐藏的触发器。
- 对抗攻击分为白盒攻击和黑盒攻击，通过微小扰动欺骗模型。
- 后门防御策略包括训练前、训练中和训练后防御，旨在识别异常数据样本。
- 对抗防御方法通过对抗训练和模型改进增强模型的安全性和鲁棒性。
- 综述总结了CodeLMs安全性研究中常用的数据集、语言模型、评估指标和实验工具。
- 未来研究方向包括评估后门触发器的隐蔽性、探讨大语言模型的后门注入方法等。
- 防御研究需平衡有效性与模型性能影响，探索多场景防御和可解释性进展。
❓
延伸问答
代码语言模型（CodeLMs）面临哪些安全威胁？
CodeLMs 面临后门攻击和对抗攻击等安全威胁，这些攻击可能导致生成具有隐藏安全漏洞的代码。
南京大学与南洋理工大学的研究团队对CodeLMs的研究有哪些主要发现？
研究团队对67篇文献进行了梳理，探讨了CodeLMs的攻击与防御策略，强调了保障其安全性的重要性。
后门攻击和对抗攻击的主要区别是什么？
后门攻击通过植入隐藏触发器影响模型输出，而对抗攻击则通过微小扰动欺骗模型产生错误预测。
有哪些防御策略可以保护CodeLMs免受攻击？
防御策略包括训练前、训练中和训练后防御，旨在识别异常数据样本和增强模型的鲁棒性。
未来CodeLMs安全性研究的方向是什么？
未来研究方向包括评估后门触发器的隐蔽性和探讨大语言模型的后门注入方法等。
CodeLMs安全性研究中常用的数据集和评估指标有哪些？
常用的数据集包括BigCloneBench和CodeSearchNet，评估指标包括攻击成功率和模型准确率等。
➡️
