BriefGPT - AI 论文速递 · 2023-11-07T00:00:00Z

线性表示假设与大语言模型的几何性质

📝

内容提要

研究发现，大语言模型（LLM）可线性表示事实陈述的真实性或虚假性。通过对LLM内部激活进行训练，可推断LLM是否在讲真话。研究介绍了一种新技术，质量均值推断法，比其他技术更具推广性和相关性。使用高质量真/假语句数据集，从三个方面获得证据。

🏷️

标签

大语言模型 数据集 真实性 虚假性 质量均值推断法