该文综述大语言模型红队攻防研究，提出综合攻击框架与基于梯度的红队技术，可自动生成攻击提示并提升模型安全性；开发多轮自动红队方法MART及令牌级对抗提示检测；构建对抗评估数据集，测试模型在计算推理任务中的表现，并探索基于提示的对抗训练以增强鲁棒性。