BriefGPT - AI 论文速递 · 2024-10-16T00:00:00Z Exploring Sensitive Directions in GPT-2: Comparative Analysis of Improved Baselines and SAE 💡 原文英文，约100词，阅读约需1分钟。 📝 内容提要 研究探讨语言模型中的敏感方向，提出改进的扰动方向基线。通过分析稀疏自编码器的重建误差，发现低L0稀疏特征对模型输出影响更大，而端到端SAE特征影响不明显。这为语言模型的理解和改进提供了新视角。 🏷️ 标签 gpt 扰动方向 敏感方向 稀疏自编码器 语言模型 重建误差 阅读原文 生成长图 分享链接 已复制链接
