BriefGPT - AI 论文速递 · 2023-09-21T00:00:00Z 一份包含恶意内容的用于 LLMs 的中文 Prompt 攻击数据集 💡 原文中文，约2300字，阅读约需6分钟。 📝 内容提要 该文介绍了一份针对大型语言模型的汉语 Prompt 攻击数据集（CPAD），测试结果显示，该 Prompt 对语言模型具有显著的危害，攻击成功率约为 70％。作者将发布 CPAD 以鼓励对 Prompt 攻击和防御的进一步研究。同时，该文列举了多篇相关研究，探讨了如何防止生成不良信息的重要问题。 🏷️ 标签 CPAD Prompt 攻击 prompt 对抗性样本生成 数据集 语言模型 防御 阅读原文 生成长图 分享链接 已复制链接
