BriefGPT - AI 论文速递 · 2025-03-12T00:00:00Z 探测大语言模型中的潜在子空间以增强人工智能安全性：识别和操控对抗状态 📝 内容提要 本研究解决了大语言模型（LLM）在对抗性操作下的脆弱性问题，特别是通过提示注入攻击绕过安全机制生成有害内容的风险。我们提出了一种新颖的方法，通过提取隐藏激活状态，识别安全与被监狱化状态之间的潜在子空间，并通过扰动向量诱导模型向监狱化状态转变，从而实现预防性防御的可能性。 🏷️ 标签 人工智能 大语言模型 子空间 安全性 阅读原文 生成长图 分享链接 已复制链接
