公开基准仅反映模型最优表现，无法保证生产环境中的稳定准确。Nebius的Wang建议结合内部基准与真实工作流评估开源模型，并关注整个推理栈，包括缓存命中率、吞吐与并发、P95/P99延迟和首字延迟。模型并非越大越好，应平衡精度与规模，必要时拆分任务或微调小模型。