OpenJev Verdict 2.0 是开源非自回归决策引擎,基于 151M 参数的 ModernBERT-base,单次前向传播即可完成语义判断,延迟 20-25 毫秒,选项翻转率 4.76%,校准误差 1.44%。它用类型化原语替代生成式 LLM 进行路由分类,无需 JSON 解析,准确率 77.10%,超越参数量 2.8 倍的竞品,并可在消费级 GPU 训练及浏览器本地运行。
开源项目 openjev-sglang 使用 Qwen3.6-35B-A3B 模型和 SGLang 引擎复刻 TypeSafe 的 Jev 分类 API。其核心是 prefill-only 推理:仅做预填充,直接读取候选标签的概率分布,不生成文本,一次分类只需一个 token。借助 Radix Cache 复用共享前缀,N 个问题仅需 N+1 次预填充、零次解码,速度提升一个数量级。项目部署于 Modal 的 B200,支持 noul、choice、score 三类问题,并返回信心值。
开源项目 open-jev 用谷歌扩散模型 DiffusionGemma 复现 TypeSafe 闭源 Jev 的结构化决策能力。其核心是 JSON 画布机制:预先冻结 JSON 固定结构,仅在变量槽位注入噪声,经一两步去噪生成合法 JSON,无需逐 token 语法约束。在 Jev 评测集上,两步去噪准确率达 87.8%,接近 Jev 的 90.8%,速度快近 5 倍,GPU 成本降低约八成。分组并行将同文档多问题合并画布,输入 token 减少 86%。
完成下面两步后,将自动完成登录并继续当前操作。