TypeSafe AI 的 Jev 1.14 现已在 AI Gateway 上线

TypeSafe AI 的 Jev 1.14 现已在 AI Gateway 上线

💡 原文英文,约400词,阅读约需2分钟。
📝

内容提要

TypeSafe AI 在 AI Gateway 发布 Jev 1.14 决策模型,接收状态和问题后返回带概率的类型化 Choice、Score 和 Boolean 答案,而非自由文本,可并行完成分类、路由、评分和自动验证。新版本支持图像输入,并提供实验性长上下文模式处理超长文档、日志或对话。模型名为 typesafe-ai/jev-1.14.0,支持零数据保留和不训练。

🔎

延伸解读

决策模型与传统文本生成的区别

Jev 1.14 不是自由文本生成模型,而是接收状态和问题后返回带概率的类型化 Choice、Score 和 Boolean 答案。这种设计让输出可直接用于程序逻辑,无需解析自然语言,适合分类、路由、评分和自动验证等需要结构化结果的场景。一次请求可并行回答所有问题,提升效率。

图像输入与长上下文模式

新版本支持将图像作为状态的一部分传入,例如结合文本和图片文件进行布尔判断。此外,实验性长上下文模式可处理超长文档、日志或对话历史,通过 providerOptions.typesafe.longContext 启用。这扩展了模型在视觉检查和长文本分析中的适用性,但长上下文模式仍属实验性质。

数据保留与计费注意事项

Jev 支持零数据保留和不训练,可按请求启用,适合对数据隐私敏感的场景。决策调用会出现在日志和自定义报告中,并计入预算。同时,providerOptions.gateway 对象可接受其他 Gateway 提供商选项,方便统一配置。使用时需留意这些计费和日志影响。

❓

Q&A

Jev 1.14 是什么?它和普通语言模型有什么区别?

Jev 1.14 是 TypeSafe AI 推出的决策模型,专为软件设计。你传入状态和一组问题,它返回带概率的类型化 Choice、Score 和 Boolean 答案,而不是自由文本。它能在一次请求中并行回答所有问题,用于分类、路由、评分和自动验证。

Jev 1.14 支持图像输入吗?怎么用?

支持。你可以将图像作为文件部分与文本一起放入 state 中。例如,读取本地 PNG 文件,并询问一个关于其颜色的布尔问题。

Jev 1.14 的长上下文模式怎么开启?适用于什么场景?

通过设置 providerOptions.typesafe.longContext: true 来开启长上下文模式。它适用于处理标准请求无法容纳的超长文档、日志或对话历史。

Jev 1.14 的模型名称是什么?

模型名称是 typesafe-ai/jev-1.14.0。

Jev 1.14 在数据隐私方面有什么保障?

Jev 支持零数据保留(Zero Data Retention)和不训练(No Training),你可以按请求启用这些选项。

Jev 1.14 的决策调用如何计费和记录?

决策调用会出现在日志和自定义报告中,计入预算,并且可以在同一个 providerOptions.gateway 对象中接受其他 Gateway 提供商选项。

🏷️

标签

➡️

继续阅读