开源项目 openjev-sglang 使用 Qwen3.6-35B-A3B 模型和 SGLang 引擎复刻 TypeSafe 的 Jev 分类 API。其核心是 prefill-only 推理：仅做预填充，直接读取候选标签的概率分布，不生成文本，一次分类只需一个 token。借助 Radix Cache 复用共享前缀，N 个问题仅需 N+1 次预填充、零次解码，速度提升一个数量级。项目部署于 Modal 的 B200，支持 noul、choice、score 三类问题，并返回信心值。