内容提要
TypeSafe推出模型Jev,将LLM从逐字生成改为一次性返回带置信度的类型化答案,快速廉价,适合运行时自动化决策。发布24小时即成为Vercel AI Gateway史上采用最快模型。其名源于杰文斯悖论:智能变便宜后使用量激增。创始人Diogo Almeida来自OpenAI,主张选对任务比规模更重要。公司获a16z等A轮投资,目标成为软件决策的基础设施层。
延伸解读
从生成到决策:Jev 的范式转变
Jev 不再逐字生成文本,而是接收上下文和一组问题,一次性返回带置信度的类型化答案。这使其更像系统1的快速直觉判断,而非系统2的缓慢推理。这种设计让 Jev 特别适合运行时自动化决策,例如决定代理下一步点击哪个按钮、评分评估、路由请求或从合同中提取字段。开发者无需标注数据或训练团队即可使用,降低了应用门槛。
杰文斯悖论的实践:廉价智能激发更多使用
Jev 的名字源于杰文斯悖论:当智能变得极其廉价时,使用量会激增。过去,分类成本高昂,团队只能抽样评估代理运行、定义脆弱规则或只问一个宽泛问题。当分类近乎免费时,这些权衡消失,团队可以对所有运行进行评分、调用模型做更细粒度决策。这改变了值得构建的东西,可能催生尚未想象的应用。
选对任务比规模更重要:创始人的“最苦涩教训”
创始人 Diogo Almeida 在 OpenAI 参与 InstructGPT 和 RLHF 时发现,模型被训练成优秀的对话伙伴,适合人类交互,但真正的自动化需要可靠、快速且廉价的 AI。他的结论是“最苦涩教训”:选择正确的任务比规模更重要。这一理念驱动 TypeSafe 打造 Jev,专注于软件运行时决策,而非通用对话。
早期采用与未来愿景:成为决策基础设施
Jev 在 Vercel AI Gateway 上线 24 小时内成为史上采用最快的模型,开发者将其用于从玩 Doom 到重新排序新闻源等多样场景。TypeSafe 的目标是成为软件决策的基础设施层,提供开发者可组合的原语,就像曾经构建在数据库上一样。公司已获 a16z 等 A 轮投资,但 Jev 仅是开端。
Q&A
TypeSafe的Jev模型是什么?它和传统LLM有什么不同?
Jev是TypeSafe推出的首个模型,它改变了LLM逐字生成答案的方式,而是接收上下文和一组问题,一次性返回带置信度的类型化答案。与LLM的System 2(慢而深思熟虑)不同,Jev是System 1:快速、廉价、直观,专为软件每秒做出的大量小决策而设计。
Jev模型有哪些实际应用场景?
Jev可用于多种场景:决定智能体下一步点击哪个按钮、评估评分、路由请求、分类工单、从合同中提取字段等。开发者还在探索新用途,如玩Doom游戏、重新排序新闻推送、生成超级马里奥多元宇宙。它无需标注数据或训练团队,开箱即用。
为什么TypeSafe将模型命名为Jev?
Jev的名字来源于杰文斯悖论:当某样东西变得极其便宜时,我们会使用更多。TypeSafe押注智能也会如此。当分类成本高昂时,团队会限量使用;当分类几乎免费时,这些权衡就消失了,从而改变值得构建的东西。
TypeSafe的创始人是谁?他的背景如何?
创始人是Diogo Almeida,他曾在OpenAI从事InstructGPT和RLHF工作。他出生于菲律宾,曾是北美英雄联盟前30名玩家。他是一位反传统、有创造力的研究者,兼具开发者品味和商业直觉,既雄心勃勃又务实。
TypeSafe获得了哪些投资?公司的目标是什么?
TypeSafe获得了a16z等机构的A轮投资。公司的目标是成为软件决策的基础设施层:一个开发者可以组合和构建的原语平台,就像他们曾经在数据库上构建一样。
Jev模型发布后的市场反响如何?
Jev在9月15日发布后24小时内,成为Vercel AI Gateway历史上采用最快的模型。许多投资组合公司争相将其投入生产,用于各种新用例。这是自GPT-3以来未曾见过的开发者拉动。