刚刚，TypeSafe 发布“反 LLM”新物种 JEV：0.1 秒出结果、宣称零幻觉、比大模型便宜上百倍
内容提要
TypeSafe发布JEV模型，定位为“System One”决策引擎，仅做结构化判断，不生成文本。支持是非、多选、打分三种原语，输出带概率与置信度，响应70～500毫秒，输出免费，结构上不会产生格式幻觉。LangChain、Vercel已集成，用于模型路由、工具风险拦截等。JEV不擅长生成、计数和日期比较，本质是更聪明的if语句，而非替代大模型。
延伸解读
JEV 的定位：不是替代大模型，而是接管高频判断
JEV 被设计为“System One”决策引擎，只做结构化判断，不生成文本。它适合处理工作流中那些原本靠硬编码规则或临时调用大模型解决的模糊判断，比如工单分类、风险分级、模型路由。它不会写代码、写摘要，也不擅长精确计数和日期比较。因此，它更像是一个更聪明的 if 语句，而不是通用大模型的替代品。
置信度与分层响应：如何安全地使用 JEV
JEV 的每个 Choice 和 Score 答案都附带置信度分数，反映概率分布的集中程度。开发者可以据此设计分层响应策略：高置信度直接自动执行，中等置信度加确认或标记复核，低置信度转人工或交给更强的大模型。但需注意，高置信度只代表统计上更可靠，不代表单次判断一定正确。阈值设定取决于业务对错误代价的容忍度。
性能与成本数字的适用边界
官方宣称 JEV 响应时间 70～500 毫秒，输入价格约每百万 token 0.042 美元，输出免费。但官方也承认，193.6 倍更快、444.6 倍更便宜等 headline 数字来自自建评测集，属于现实场景中的较高值，且速度测试在美西自有服务器上完成，跨区域访问会有额外延迟。评估收益时，应关注每完成一个任务的实际成本，而非单纯比较 token 单价。
生态集成与早期实践：机会与风险并存
LangChain 已推出 TypeSafeClassifier 和 AutoModeMiddleware，Vercel AI SDK 也通过 experimental_evaluate 原生支持 JEV，用于模型路由、工具风险拦截等场景。这些集成让自建 Agent 能低成本获得危险动作预判能力。但文章强调，大多数案例仍处于发布后几天的早期实验阶段，尚未经过大规模生产验证，实际落地时需考虑重试和人工复核带来的额外成本。
Q&A
JEV 是什么类型的模型？它和普通大语言模型有什么本质区别？
JEV 是 TypeSafe 发布的 System One 模型，一个只做结构化判断、不生成文本的决策引擎。它不生成文字，甚至不会写完整句子，唯一任务是把状态信息和预先定义好的问题转换成带概率、类型安全的答案。普通大模型逐 token 串行生成自由文本，而 JEV 在封闭选项空间内并行评估所有问题，输出结构化数值。
JEV 支持哪几种问题类型？分别适合什么场景？
JEV 支持三种原语：Noul（是非判断，返回 0 到 1 的概率值）、Choice（多选一，返回最高概率选项、全部选项概率分布和置信度）、Score（在有序量表上打分，返回概率加权连续值、档位说明、概率分布和置信度）。Noul 适合二元判断，Choice 适合互斥分类且建议加“其他”选项，Score 适合有顺序但无精确数值的判断，档位描述应写具体情境而非抽象程度词。
JEV 为什么能做到 70～500 毫秒响应且输出免费？
JEV 采用并行采样架构：同一 state 下的所有 questions 被模型并行、独立评估，一次查询直接输出所有问题的概率分布，不需要像文字生成那样逐 token 串行“边写边想”，因此增加问题几乎不显著拉长响应时间。输出是预先定义好结构的类型化数值，天然合法，几乎无需计量，所以输出免费。官方称端到端响应 70～500 毫秒，比同等智能大模型快 40～200 倍，输入价格约每百万 token 0.042 美元。
JEV 宣称的“零幻觉”是什么意思？它真的不会出错吗？
JEV 的“零幻觉”是结构性的：由于输出永远落在预先定义的选项集合内，它在类型层面不可能“答错格式”，不会产生格式幻觉。但这不等于判断内容一定正确——类型安全只保证返回值合法，并不保证选中的选项就是正确答案。此外，state 中若混入诱导性文字，判断结果仍可能被带偏。
JEV 在 Agent 系统中扮演什么角色？LangChain 和 Vercel 如何集成它？
JEV 不是替代大模型，而是塞进 Agent 循环里的高频、低成本决策节点，充当“守门员”。LangChain 发布当天上线官方集成，提供 TypeSafeClassifier（标准分类调用接口）、ModelRouterMiddleware（根据请求复杂度路由到便宜或强大模型）、AutoModeMiddleware（工具执行前做风险分类拦截有害动作）。Vercel AI SDK 通过 experimental_evaluate 原生支持 JEV，也可用同一函数对比 OpenAI、Anthropic、Google 等模型的结构化输出。
JEV 有哪些明确的能力边界和不擅长的地方？
JEV 不会生成文本，无法写邮件、写代码、写摘要；不擅长精确计数与比较，如数字符个数、比较日期先后、判断十六进制颜色是否接近，这类计算任务应交给普通代码；对间接指代敏感，多层嵌套或双重否定会明显拉低准确率；仍可能被 state 中的误导性文本影响；类型安全不等于判断正确。它本质上是更聪明的 if 语句，而非替代大模型。
JEV 的置信度分数有什么用？开发者该如何利用它？
每个 Choice 和 Score 答案都自带置信度分数：概率集中在某一选项时置信度高，概率分散时置信度低。开发者可据此设计分层响应策略——高置信度直接自动执行；中等置信度执行但加确认或标记复核；低置信度转交人工或更强的通用大模型重新判断。需注意置信度高只代表在大量类似判断中准确率更高，不代表这一次具体答案一定正确，阈值设定取决于判断错误的代价，是业务决策。
JEV 目前被尝试用在哪些典型场景？
JEV 目前被尝试用于：数据打标与分类（批量文本跑 Noul/Choice/Score 问题）；意图路由与模型路由（先判断用户意图和所需推理复杂度再决定走哪条路）；Agent 护栏与工具风险拦截（工具执行前分类只读/可逆/不可逆）；实时交互场景（用户打字停顿、游戏状态更新等高频判断）；检索与校验环节（给候选段落打相关性分数、校验生成内容是否有原文支持）。这些大多仍是发布初期的早期实验，尚未大规模生产验证。
