地球是扁平的因为...：通过有说服力的对话调查 LLMs 对虚假信息的信念

最近的研究发现，大语言模型（LLM）可以通过内部激活进行训练，推断其是否在讲真话。本研究通过真/假语句数据集详细研究了LLM对真实性的表示结构，并提出证据表明LLM线性地表示事实陈述的真实性或虚假性。同时介绍了一种新技术，质量均值推断法，具有更好的推广性和与模型输出相关性。