内容提要
文章讨论 Jev 这类 System One 决策模型:它接收状态与有限候选,直接返回概率,省去生成 JSON 的中间步骤。作者在 Free4Chat 的 Arena 实验中用它做游戏实时决策,结果不如确定性脚本稳定,延迟约 300ms。结论是 Jev 适合候选空间已明确的分类、路由、评分等场景,而非开放控制;前提是 Harness 先把世界整理好。
延伸解读
延迟数字背后的控制循环差异
文章实测 Jev 官方 API 端到端 p50 约 344ms,经 Cloudflare Gateway 后 warm p50 约 635ms。这个数字本身没有绝对快慢,关键看它嵌入什么控制循环。用于决定下一块地图生成,300ms 可能完全够用;用于决定角色向左还是向右,300ms 已经太慢。读者评估类似决策模型时,应先明确自己的循环周期和可容忍延迟,而不是只看模型单次响应时间。
候选空间决定决策模型的上限
Jev 只从已有候选中选择,不负责发现或创造候选。文章用 Reranker 类比:Retriever 没召回文档,Reranker 再强也无法把它排到第一。因此,当候选空间已经明确时,Jev 适合分类、路由、评分等任务;当连候选都需要发现和解释时,仍需要生成式模型。读者在引入决策模型前,应先检查 Harness 是否已把正确答案暴露在候选集中。
Demo 好看不等于通用控制可行
文章对比了 Arena 与 Sprite Fusion、Browser Use 等 Demo。后者看似让模型实时控制游戏或浏览器,实际上 Harness 已提前把世界整理成结构化状态和合法动作,且地图生成属于提前决策,只要在玩家到达前算完即可。Arena 则是持续控制,对延迟和稳定性要求更高。读者看到类似 Demo 时,应区分其决策是提前批量完成还是嵌入高频控制循环,避免直接套用到自己的实时场景。
先问规则能否写清,再考虑生成
作者在 Arena 实验后没有接入 Jev,高频移动、瞄准、开火时机等继续留在确定性代码中。他给出的判断顺序是:规则能稳定表达就用确定性代码;规则难写但候选空间明确,才考虑决策模型;连候选都需要发现和创造,才回到生成式模型。这个顺序提醒读者,能用生成表达不等于必须用生成计算,引入模型前应先评估规则方案是否已经足够。
Q&A
Jev 是什么类型的模型?它和传统大语言模型的工作方式有什么不同?
Jev 是一种 System One 决策模型,它接收当前状态和有限候选,直接返回候选上的概率,省去了生成 JSON 等中间步骤。传统大语言模型习惯将问题转化为 Generation,例如生成标签、模型名或 JSON 动作,而 Jev 直接输出类型化决策。
在 Free4Chat 的 Arena 实验中,Jev 的表现如何?延迟有多高?
在 Arena 实验中,Jev 用于游戏实时决策,但表现不如确定性脚本稳定。延迟方面,直接调用 TypeSafe API 的端到端 p50 约为 344ms,经过 Cloudflare Gateway 后 warm p50 约为 635ms。
为什么 Jev 不适合高频控制场景,比如游戏中的移动或瞄准?
因为几百毫秒的延迟对于高频控制来说太慢。例如决定角色向左还是向右,300ms 已经明显延迟。如果动作可以用简单规则(如 if-else)稳定表达,增加网络请求和概率模型推理反而增加额外复杂度。
Jev 适合哪些类型的应用场景?
Jev 适合候选空间已明确的分类、路由、评分、验证等场景,例如从几十个告警中选择最该看的几个、决定请求路由给哪个 Agent、判断工作流继续还是重试、内容分类为忽略/关注/深入等。它更像一组便宜的模糊 if 语句,而非更快的小号 Claude。
为什么说 Jev 越专用,前面的 Harness 反而越重要?
因为 Decision Model 依赖系统提前做好 Representation 和 Candidate Construction。如果 Candidate Space 没有把正确答案暴露出来,模型再快也没有意义。Harness 需要将开放世界整理成机器容易消费的 State、Action、Constraint 和 Feedback,例如将网页变成 DOM 和合法操作,将游戏变成结构化世界状态。
文章最后对 Jev 的结论是什么?Free4Chat 是否接入了 Jev?
文章认为 Jev 让“所有智能问题都应该变成 Generation”这一假设重新变得可疑。Free4Chat 最终没有接入 Jev,Arena 继续使用确定性控制,Live View 继续研究 Declarative UI,更复杂的界面准备交给 Runtime App。作者表示下次遇到需要“一点智能”的判断时,会先看规则是否能写清楚,再看 Candidate Space 是否明确,只有连 Candidate 都需要发现时才用 Generation。