模型服务返回正常不代表按作者设定运行,危险在于“静默配置漂移”:模型声明的参数被推理引擎默认值覆盖。Entail项目检查300个模型,发现180个接受vLLM的rope_scaling覆盖,64个改变RoPE基数,导致GSM8K准确率下降却无警告。建议部署时保存有效配置快照,对关键字段做启动前对账,并结合确定性金样本检测行为漂移,不能只依赖健康检查或聚合分数。
完成下面两步后,将自动完成登录并继续当前操作。