TypeSafe:杰文斯革命

TypeSafe:杰文斯革命

💡 原文英文,约700词,阅读约需3分钟。
📝

内容提要

TypeSafe推出模型Jev,将LLM从逐字生成改为一次性返回带置信度的类型化答案,快速廉价,适合运行时自动化决策。发布24小时即成为Vercel AI Gateway史上采用最快模型。其名源于杰文斯悖论:智能变便宜后使用量激增。创始人Diogo Almeida来自OpenAI,主张选对任务比规模更重要。公司获a16z等A轮投资,目标成为软件决策的基础设施层。

🔎

延伸解读

从生成到决策:Jev 的范式转变

Jev 不再逐字生成文本,而是接收上下文和一组问题,一次性返回带置信度的类型化答案。这使其更像系统1的快速直觉判断,而非系统2的缓慢推理。这种设计让 Jev 特别适合运行时自动化决策,例如决定代理下一步点击哪个按钮、评分评估、路由请求或从合同中提取字段。开发者无需标注数据或训练团队即可使用,降低了应用门槛。

杰文斯悖论的实践:廉价智能激发更多使用

Jev 的名字源于杰文斯悖论:当智能变得极其廉价时,使用量会激增。过去,分类成本高昂,团队只能抽样评估代理运行、定义脆弱规则或只问一个宽泛问题。当分类近乎免费时,这些权衡消失,团队可以对所有运行进行评分、调用模型做更细粒度决策。这改变了值得构建的东西,可能催生尚未想象的应用。

选对任务比规模更重要:创始人的“最苦涩教训”

创始人 Diogo Almeida 在 OpenAI 参与 InstructGPT 和 RLHF 时发现,模型被训练成优秀的对话伙伴,适合人类交互,但真正的自动化需要可靠、快速且廉价的 AI。他的结论是“最苦涩教训”:选择正确的任务比规模更重要。这一理念驱动 TypeSafe 打造 Jev,专注于软件运行时决策,而非通用对话。

早期采用与未来愿景:成为决策基础设施

Jev 在 Vercel AI Gateway 上线 24 小时内成为史上采用最快的模型,开发者将其用于从玩 Doom 到重新排序新闻源等多样场景。TypeSafe 的目标是成为软件决策的基础设施层,提供开发者可组合的原语,就像曾经构建在数据库上一样。公司已获 a16z 等 A 轮投资,但 Jev 仅是开端。

❓

Q&A

TypeSafe的Jev模型是什么?它和传统LLM有什么不同?

Jev是TypeSafe推出的首个模型,它改变了LLM逐字生成答案的方式,而是接收上下文和一组问题,一次性返回带置信度的类型化答案。与LLM的System 2(慢而深思熟虑)不同,Jev是System 1:快速、廉价、直观,专为软件每秒做出的大量小决策而设计。

Jev模型有哪些实际应用场景?

Jev可用于多种场景:决定智能体下一步点击哪个按钮、评估评分、路由请求、分类工单、从合同中提取字段等。开发者还在探索新用途,如玩Doom游戏、重新排序新闻推送、生成超级马里奥多元宇宙。它无需标注数据或训练团队,开箱即用。

为什么TypeSafe将模型命名为Jev?

Jev的名字来源于杰文斯悖论:当某样东西变得极其便宜时,我们会使用更多。TypeSafe押注智能也会如此。当分类成本高昂时,团队会限量使用;当分类几乎免费时,这些权衡就消失了,从而改变值得构建的东西。

TypeSafe的创始人是谁?他的背景如何?

创始人是Diogo Almeida,他曾在OpenAI从事InstructGPT和RLHF工作。他出生于菲律宾,曾是北美英雄联盟前30名玩家。他是一位反传统、有创造力的研究者,兼具开发者品味和商业直觉,既雄心勃勃又务实。

TypeSafe获得了哪些投资?公司的目标是什么?

TypeSafe获得了a16z等机构的A轮投资。公司的目标是成为软件决策的基础设施层:一个开发者可以组合和构建的原语平台,就像他们曾经在数据库上构建一样。

Jev模型发布后的市场反响如何?

Jev在9月15日发布后24小时内,成为Vercel AI Gateway历史上采用最快的模型。许多投资组合公司争相将其投入生产,用于各种新用例。这是自GPT-3以来未曾见过的开发者拉动。

🏷️

标签

➡️

继续阅读