小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

本文介绍了一种基于大型语言模型(LLM)的真实性检测方法,旨在提高文本的可靠性。研究通过高质量的真/假语句数据集,分析LLM对真实性的表示结构,发现其线性表示事实的真实性或虚假性。提出的质量均值推断法具有更好的推广性,并探讨了LLM的幻觉问题,提出自我评估和自对齐方法以增强事实准确性。

大型语言模型的内在表示与幻觉

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-03T00:00:00Z

本文探讨大型语言模型在知识获取中的有效性,特别是通过设计启示策略提高上下文真实性。研究表明,现有技术在引导某些概念(如真实性)方面表现良好,但在适应性和幽默等新概念上仍需改进。此外,提出了一种新技术——质量均值推断法,以提升推断的推广性和准确性。

语言模型中的真值判断:信念方向是上下文敏感的

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-04-29T00:00:00Z

最近的研究发现,通过对大语言模型(LLM)的内部激活进行训练,可以推断其真实性。本研究详细研究了LLM对真实性的表示结构,并提出证据表明LLM线性地表示事实陈述的真实性或虚假性。同时,介绍了一种新技术,质量均值推断法,具有更好的推广性和与模型输出相关性。

利用局部内在维度表征大型语言模型生成的真实性

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-28T00:00:00Z

最近的研究发现,大语言模型(LLM)可以通过内部激活进行训练,推断其是否在讲真话。本研究通过真/假语句数据集详细研究了LLM对真实性的表示结构,并提出证据表明LLM线性地表示事实陈述的真实性或虚假性。同时介绍了一种新技术,质量均值推断法,具有更好的推广性和与模型输出相关性。

地球是扁平的因为...:通过有说服力的对话调查 LLMs 对虚假信息的信念

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-12-14T00:00:00Z

研究发现,大语言模型(LLM)可线性表示事实陈述的真实性或虚假性。通过对LLM内部激活进行训练,可推断LLM是否在讲真话。研究介绍了一种新技术,质量均值推断法,比其他技术更具推广性和相关性。使用高质量真/假语句数据集,从三个方面获得证据。

线性表示假设与大语言模型的几何性质

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-11-07T00:00:00Z

该研究探讨了大语言模型(LLM)对真实性的表示结构,提出证据表明语言模型线性地表示事实陈述的真实性或虚假性。同时,介绍了一种新技术,质量均值推断法,具有更好的推广性和更多地与模型输出相关。

真实的几何:大型语言模型在真假数据集表示中的出现线性结构

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-10-10T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码