BriefGPT - AI 论文速递 · 2023-10-19T00:00:00Z 大型语言模型的红队和防御攻击指令生成 💡 原文中文，约300字，阅读约需1分钟。 📝 内容提要 该文介绍了一种攻击框架，通过手动和自动方法生成攻击提示，训练大型语言模型并模仿人类生成的提示，增强受攻击模型对红队攻击的安全性。在不同的大型语言模型上进行广泛实验证实了攻击和防御框架的有效性，并发布了一系列攻击提示数据集（SAP）。 🏷️ 标签 大型语言模型 安全性 攻击提示 攻击框架 数据集 语言模型 阅读原文 生成长图 分享链接 已复制链接
