@Lenciel
·
LLM 调研（2）- 涌现能力
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
本文讨论了大型语言模型的涌现能力，即在大模型中出现但在小模型中不存在的能力。虽然有很多论文讨论了各种各样的涌现能力，但这些能力的不可解释和不可预测性使得一些科技领袖担心这种技术的发展。然而，LLM还不具备人类的心智层面的能力，输出有时对、有时错、有时荒谬，但没有意义。因此，LLM可以用于写会议纪要或者写段代码，但对于文学作品等需要保留每个字的意义的领域，LLM的输出可能不够。
🎯
关键要点
- 大型语言模型（LLM）表现出一些令人惊讶的涌现能力，但其原因仍然是个谜。
- 涌现能力是指小模型中不存在但在大模型中出现的能力，随着模型规模的增加，某些能力会显著提高。
- 许多科技领袖对涌现能力的不可解释性和不可预测性表示担忧，呼吁停止对大型不可预测黑箱模型的追逐。
- 一些研究表明，模型指标的急剧提升并不一定代表涌现能力的真实存在，可能与指标选取有关。
- 指标并不等同于能力，LLM在逻辑、推理等心智层面的能力上仍然存在局限性。
- LLM的输出有时是对的，有时是错的，有时是荒谬的，但这些输出往往缺乏真正的意义。
- LLM的目标是最大化与自然语言的相似度，使用交叉熵损失函数来衡量模型预测与真实概率分布之间的差异。
- 语言的冗余性使得我们能够理解LLM的输出，但LLM的能力主要体现在生成输出的过程，而非理解输出的意义。
- 在某些情况下，LLM的输出可以用于写会议纪要或代码，但在需要保留每个字意义的领域，如文学作品，LLM的输出可能不够。
- 文学作品中的每个字都有其独特的意义，不能随意删改，LLM无法满足这种对意义的严格要求。
➡️
