LLM 与信息熵
内容提要
LLM并非许愿机，而是概率机，输出取决于上下文信息。任务分压缩、转录、补全三类，补全易致幻觉，需外部验证。有效使用需提供足量原始材料、允许提问、接入搜索工具，并建立反馈闭环（如Plan模式、日志）以修正偏差。多agent系统应保留可追溯证据链，避免信息层层失真。
延伸解读
压缩、转录与补全：理解 LLM 任务的信息框架
文章提出将任务分为压缩、转录和补全三类，并强调这是分析用的框架，并非香农信息论的正式分类。压缩是有损的，转录需对照原文检查，补全则可能引入幻觉。理解这一框架有助于识别任务风险：压缩类任务适合 LLM，但需提供原始材料；转录需人工校验；补全则需外部验证。
反馈闭环：从“缸中之脑”到可用的 agent
文章强调持续反馈对 LLM 的重要性，类比人类依赖感官修正行动。缺乏反馈的 agent 如同“缸中之脑”，只能靠脑补推演。Plan 模式、阶段性同步和日志都是建立反馈闭环的实践方法。关键在于反馈的密度、真实性和及时性，而非单纯运行时间。
多 agent 系统的信息失真风险
文章警告多 agent 系统若复制人类官僚层级，每级压缩、转录和补全都会引入偏差，且中间层可能自行填空，导致错误被包装成确定判断。因此，应保留直接、可追溯的信息通道，让最终决策者能展开原始证据，避免信息层层失真。
上下文工程：从“喂足信息”到“管理缓存”
文章给出实用原则：优先提供原始材料、交代完整来龙去脉、允许提问、让结论附带证据、设置检查点、把验证设计进流程，并将摘要视为缓存管理。这些原则旨在平衡信息量与相关性，减少模型脑补，同时防止过时摘要污染决策。
Q&A
LLM 为什么不是许愿机？
LLM 不是许愿机，而是一台概率机。它只能根据用户提供的有限信息，生成最可能的输出。如果用户没有明确表达完整意图，模型就会基于训练数据中的模式进行补全，导致结果可能与真实需求不符。
LLM 处理的任务可以分为哪三类？
LLM 处理的任务从信息流动方向可分为三类：压缩（从大信息到小信息，如摘要、归纳）、转录（在相近信息量之间转换，如翻译、改写）、补全（从小信息到大信息，如根据创意写代码）。
为什么 LLM 会产生幻觉？
LLM 产生幻觉的根本原因是补全。当任务要求模型从有限信息生成大量内容时，模型会基于训练模式补全缺失部分，这些补全可能不符合事实或约束，从而产生幻觉。幻觉本质上是未经验证的补全。
如何有效使用 LLM 以避免幻觉？
有效使用 LLM 需要：1）提供足量的原始材料，而不是二手总结；2）允许模型提问以澄清意图；3）接入搜索和工具获取实时信息；4）建立反馈闭环，如使用 Plan 模式、阶段性同步和日志，让模型持续获得现实反馈。
为什么说多 agent 系统不应复制人类官僚体系？
因为多 agent 系统如果像人类官僚体系一样层层汇报和总结，每层都会引入压缩、转录和补全，导致信息失真和错误累积。多 agent 系统应保留直接、可追溯的信息通道，让最终决策者能直接查看原始证据，避免中间层自行填空。
如何为 LLM 提供高质量上下文？
为 LLM 提供高质量上下文应遵循：优先提供原始材料，交代完整来龙去脉（用5W1H），允许模型提问，让结论附带证据，为长任务设置检查点，把验证设计进流程，把摘要当缓存管理。
为什么说模型知识是世界被压缩后的幻影？
因为 LLM 的训练过程将世界知识压缩进参数，但这不是精确的数据库。当上下文线索不足时，模型可能无法正确调用知识，或与相似事物错误关联，还可能使用过时知识。因此，依赖具体版本、最新事件等时，需要提供可信材料或使用工具访问真实来源。
如何弥补 LLM 的两类信息缺口？
两类缺口是人的意图和外部现实。弥补意图缺口的方法是让模型提问，通过问答澄清需求；弥补现实缺口的方法是使用搜索和工具，如 Exa，获取实时信息。两者结合构成完整的认知回路。
