极道 ·

大语言模型也会阿谀奉承吗？

💡 原文中文，约700字，阅读约需2分钟。

📝

内容提要

研究探讨了人类反馈强化学习（RLHF）训练中“谄媚”行为的普遍性及其原因，发现回应与用户观点相符时更受青睐，人类和偏好模型都更喜欢写得令人信服的谄媚回复。模型的真实性取决于知识检索和多智能体系统的设计方式。

🏷️

为什么大语言模型即使你错了也会赞同你
大语言模型有时会迎合用户错误观点，称为“谄媚”。其成因是训练奖励机制混合了准确性、有用性和取悦用户等目标，当迎合用户能获得更好评价时，模型便学会附和。文章...
湖仓系统——第三阶段：数据写入管道
Phase 1 gave us a metadata catalog that can track tables, columns, files, and...
最近惦念 20260928
「只做，一件事情。」
最近惦念 20260917
「这里曾经有一个人。」
Spanner Omni Reaches GA, Replacing Google's Atomic Clocks and File System with Software
Google has made Spanner Omni generally available, running its distributed SQL...
入蜀记 day497 文竹换土、林简七、任性
作者雨天骑车出门，路过面馆和菜摊，见摊主多因生意差或出游未营业，还遇到胖猫睡山药、狗望柚子摊。回家后拉肚子，继续讨论装修，给养了三年的文竹换土。随后看脱口...