该论文首次在开放生成任务上对比五种测试时扩展方法,发现瓶颈不在生成候选(探索有效),而在选择最终答案(利用失效)。奖励模型相关性低,BoN近乎随机,Fusion仅回收约40%增益。树搜索多样性坍缩,自我修正多无效。结论:候选池非瓶颈,选择才是,Fusion是目前唯一一致有效方法。
阿里通义实验室开源Qwen 3.8 27B模型,以270亿参数在DeepSWE编程测试中超越万亿参数的Opus 4.6 Max,引发热议。其成功依赖“测试时扩展”技术,通过拉长思考时间弥补参数不足,但推理极慢,且存在刷榜争议。本地部署可行,但速度与质量需权衡,参数规模不再是唯一标准。
近期LLM研究要点:模型参数约存储3.6比特数据,存在意外记忆与泛化之分。测试时扩展计算可胜过14倍大模型,方法有best-of-N采样和修订回答。强化学习通过提高温度、解耦裁剪、动态采样及DAPO提升探索。推理模型在简单题上可能过度思考,表现反不如普通模型。Gemini 2.5强调数据质量、可验证奖励与模型奖励结合,并改进学习率以稳定训练。
完成下面两步后,将自动完成登录并继续当前操作。