BriefGPT - AI 论文速递 · 2024-11-18T00:00:00Z Steering Language Model Refusal with Sparse Autoencoders 💡 原文英文，约100词，阅读约需1分钟。 📝 内容提要 本研究提出了一种新方法，通过稀疏自编码器引导语言模型在不安全提示下识别并拒绝回答，而无需更新模型权重。这种方法增强了语言模型的安全性，但特征引导可能对性能产生负面影响，需进一步研究。 🏷️ 标签 model 不安全提示 安全性 特征引导 稀疏自编码器 语言模型 阅读原文 生成长图 分享链接 已复制链接
