「百模大战」之后，预见行业新生态｜AI 先行者沙龙圆桌实录
内容提要
在知乎举办的「破晓 · 知乎 AI 先行者沙龙」上，讨论了大模型的涌现和幻觉问题。与会者认为，涌现的存在与否取决于观察的角度，而幻觉是大模型的创造力和推理能力的体现。讨论了如何让开发者更好地管理大模型的预期，以及如何打开大语言模型的黑盒子，让用户了解模型的能力和局限性。同时，讨论了小模型在垂直领域的应用和大模型走向AGI的可能性。
延伸解读
开源生态的真实贡献：认知与落地并进
圆桌讨论指出，开源模型过去一年对大模型认知和落地有实质促进。张俊林认为，开源验证了后训练阶段用少量高质量指令数据微调即可让模型遵循指令，这降低了开发者门槛；王铁震强调开源提供多样性并加速技术扩散，闭源与开源相互促进。黄文灏则澄清LLaMA架构并非突破，核心数据并未开源，国内模型进步源于数据功夫。开源并非虚假繁荣，而是让更多开发者以低成本参与并反馈问题。
涌现与幻觉：视角决定结论
关于涌现是否存在，嘉宾看法取决于评估指标。张俊林解释，用每token错误率看是平滑增长，用任务准确率则出现突变，两者是一体两面。林俊旸认为涌现更难度量，原子能力提升组合成推理能力。幻觉方面，黄文灏认为幻觉与创造力相关，模型越大幻觉越少；林俊旸强调指令遵循能力是关键；王铁震补充产品需外挂RAG或护栏。这些讨论提醒开发者，模型能力评估需结合具体任务，而非简单对标。
小模型与垂直应用：成本与能力的平衡
张俊林提出小模型在语言和知识能力上可媲美大模型，逻辑推理是短板，但可通过“小模型联盟”或提升推理能力来弥补。黄文灏则认为小模型是临时方案，最终大模型会碾压小模型，但当前小模型加RAG能帮助找到用户需求。对于垂直领域，嘉宾建议先用现有模型实证需求，再考虑成本与体验平衡。开源模型部署成本较低，有望在生产环境中大规模应用。
AGI路径与数据瓶颈：两年内见分晓
关于大模型能否走向AGI，张俊林认为这是信仰问题，他个人偏向肯定，但指出scaling law未来两年仍成立，数据是关键。他预测两年后数据可能不够用，除非合成数据能提供新数据，否则大模型发展可能卡住。黄文灏则认为大模型可视为世界模型，压缩了世界知识。这些观点提示读者，AGI进展不仅取决于模型规模，更受数据供给制约，未来两年是观察窗口。
Q&A
过去一年开源大模型生态有哪些真正推动行业发展的突破？
开源生态的突破主要有两点：一是验证了高质量、少量指令数据微调基座模型即可显著提升模型遵循指令和价值观的能力，数据质量比数量更重要；二是证明了小模型通过高质量数据训练可以在语言和知识能力上接近大模型，并指出了提升小模型推理能力的可行路径。此外，开源促进了技术平民化和社区协作，加速了应用落地。
大模型的涌现现象到底存不存在？
涌现现象是否存在取决于评估指标的选择。若用平滑指标（如每token错误率）评估预训练效果，模型能力随规模平滑增长，不存在突变式涌现；但若用具体任务指标（如准确率）评估，小模型表现差，达到一定规模后突然变好，则表现为涌现。因此涌现是同一现象的一体两面，并非非此即彼。
大模型的幻觉问题应该怎么解决？
幻觉与创造力相关，是模型智能的体现，无法完全消除。解决方法包括：扩大模型规模可显著减少幻觉；通过指令微调提升模型遵循指令的能力，使其区分事实与想象；在应用层结合RAG、外部知识库和防护栏（guardrail）等技术进行控制。开发者需根据场景需求平衡幻觉水平。
小模型在垂直领域应用时，如何平衡能力、成本和用户体验？
小模型的核心优势是推理成本低、响应快，但逻辑推理能力较弱。可通过“小模型联盟”方式，让多个擅长不同能力的小模型协同工作，并加一个分发器路由问题；同时，2024年有望出现提升小模型推理能力而不损失其他能力的技术突破。此外，结合RAG外挂知识库可弥补知识能力短板。
基础模型厂商如何帮助开发者明确大模型的能力边界，避免预期落差？
厂商应主动打开黑盒子，通过开源和社区互动让开发者实际试用模型，明确其能做什么、不能做什么。开发者需基于实证而非宣传来评估模型，先试再决定是否投入产品化。同时，厂商应规范开源方式、提供清晰文档，并关注成本与收益的匹配（cost-profit fit），而非空谈产品市场匹配。
大语言模型是通向AGI的必由之路吗？
目前存在两派观点：以LeCun为代表的一派认为大语言模型缺乏世界模型，无法通向AGI；另一派认为大语言模型是当前最光明的AGI路径。文章嘉宾倾向于后者，认为next token prediction可以产生世界模型，但承认这是个人信仰。未来两年scaling law若继续成立，大模型能力将持续提升，但数据耗尽可能成为瓶颈，届时结论将更明朗。
