棱镜：在语言潜在空间中映射可解释的概念和特征

在人工智能领域中，对更易理解和可解释的基础模型和嵌入的需求日益增加。

当前的基础模型和嵌入对人类来说过于不透明，难以理解。

解决理解差距是构建现代AI系统和信息接口的关键。

本文探索了一种可扩展和自动化的方法，通过探测小型语言模型中的嵌入向量，映射出可解释属性的特定方向。

稀疏自编码器可以发现文本嵌入模型中的数万个可解释特征。

通过对嵌入空间的干预，可以进行精确的语义编辑。

作者分享了语义编辑的示例，并讨论了未来更丰富的界面和应用的潜力。

可解释的嵌入在调试和调整嵌入方面具有重要价值。

当前生成语言模型需要用户用明确的语言指定编辑，缺乏直接的风格编辑功能。

作者展示了一个公开的演示工具，供用户探索嵌入模型和稀疏自编码器。

稀疏自编码器的训练和架构选择对结果有显著影响。

使用GPT-4自动标记和评分特征，提高了特征解释的效率。

未来的工作将扩展到更大规模的模型和多模态嵌入模型。

理解嵌入的能力将推动与基础模型和信息的更直接的交互方式。