Jared Palmer 开源了基于 Qwen2.5-0.5B 微调的决策模型 kev-0.5b,采用指针读出头替代自回归解码,单次前向传播即可并行回答多个问题,在 MacBook 上训练仅需 1 小时 45 分钟。测试集准确率达 79.9%,接近闭源模型 Jev 的 81.1%,且概率校准更优;但域外迁移准确率仅 63.3%,与 Jev 相差 19.1 个百分点,仍是待解难题。
完成下面两步后,将自动完成登录并继续当前操作。