Perplexity 的 Decider V1.2 模型现已在 AI Gateway 上线

Perplexity 的 Decider V1.2 模型现已在 AI Gateway 上线

💡 原文英文,约400词,阅读约需2分钟。
📝

内容提要

Perplexity 在 AI Gateway 上线 Decider V1.2 27B 与 Decider Flash V1.2 4B 两款多模态决策模型,可对文本、结构化记录和图像进行分类、路由与评分。模型支持布尔、选择和评分三类问题,返回概率结果,用于工单分流、标记损坏商品或转人工审核。27B 适合复杂判断,4B 适合高批量标注。

🔎

延伸解读

决策模型的核心机制:概率化输出

Decider V1.2 模型不直接给出“是/否”或单一类别,而是返回概率结果。布尔问题返回“是”的可能性,选择问题从你定义的类别中挑选,评分问题则依据有序标准评估。这种设计让应用能根据概率阈值灵活决策,例如将高概率工单自动分流,低概率转人工,提升自动化可靠性。

两款模型的分工:27B 与 4B 的适用场景

27B 模型适合需要细致判断和复杂评分标准的任务,如处理模糊的客户投诉;4B 模型则针对高批量、标准明确的场景,如简单标签分类或路由。选择时需权衡判断精度与处理成本,避免用大模型处理简单任务造成浪费。

多模态与多问题共享输入

模型支持文本、结构化记录和图像输入,且一次请求可包含多个问题,共享同一输入。例如,对一张损坏商品图片,可同时询问“是否损坏”和“损坏程度评分”。这减少了重复传输数据的开销,适合需要多维度评估的审核流程。

成本与集成注意事项

通过 AI Gateway 调用时,推理按提供商定价计费,无加价或平台费,BYOK 亦然。决策请求会记录在请求日志中并计入支出预算。集成时需注意图像需以 base64 嵌入 JSON,且不同 API(AI SDK、Decisions API、TypeSafe 兼容)的调用方式略有差异。

❓

Q&A

Perplexity Decider V1.2 是什么?

Perplexity Decider V1.2 是 Perplexity 在 AI Gateway 上线的多模态决策模型,包含 27B 和 Flash 4B 两个版本,用于对文本、结构化记录和图像进行分类、路由和评分。

Decider V1.2 支持哪些类型的问题?

支持三种类型:布尔问题(返回 yes 的概率)、选择问题(从你定义的类别中选择)、评分问题(根据有序评分标准评估内容)。

Decider V1.2 27B 和 Flash V1.2 4B 有什么区别?

27B 是较大模型,适合细微判断和详细评分标准;Flash 4B 是较小模型,适合高批量标注、过滤和具有明确标准的路由。

Decider V1.2 模型有哪些实际应用场景?

可用于工单分流、标记损坏商品、或将不确定的决策转交人工审核。

如何在 AI Gateway 上调用 Decider V1.2 模型?

可以通过 AI SDK、Decisions API 或 TypeSafe 兼容 API 调用。例如使用 AI SDK 的 experimental_decide 函数,指定模型和问题即可。

使用 AI Gateway 调用 Decider 模型如何计费?

推理使用提供商定价,无加价或平台费。即使通过 BYOK 提供自己的提供商凭证也适用。决策请求会记录在请求日志中并计入支出预算。

🏷️

标签

➡️

继续阅读