AWS推出TypeSafe Jev决策模型的本地替代方案
内容提要
AWS发布Strands Decider 2B决策模型，基于开源Qwen3.5-2B，将文本生成头替换为评分选项的指针头，用于路由请求、选择工具和校验输出。模型可下载，含训练数据与脚本，决策延迟低于100毫秒，在JevBench约20亿参数公开模型中排名第二。AWS称正开发集成库，云端托管版尚不确定。
延伸解读
决策模型与生成模型的互补定位
Strands Decider 2B 将文本生成头替换为指针头，只对开发者提供的选项评分，从而避免模型编造不存在的选项。这种设计适合路由请求、选择工具和校验输出等需要快速决策的场景，而对话和复杂生成任务仍交给生成模型。文章指出，限制答案空间虽不能保证总是正确，但能换来更快的决策和可用的置信度分数，开发者可据此决定是否继续执行工具调用。
本地部署与开放训练配方的价值
AWS 发布了可下载的模型、训练数据和脚本，开发者可以检查训练方法并适配自己的任务。模型在 Nvidia RTX 3090 上决策延迟低于 100 毫秒，在 M3 MacBook 上小任务中位数约 150 毫秒。与 Kev 类似，Strands Decider 基于开源 Qwen 模型，反映出当前决策模型实验对开放权重的依赖。AWS 表示正在开发集成库，但云端托管版本尚不确定，生产部署可能仍需等待。
性能表现与校准的权衡
在 JevBench 公开集上，Strands Decider 在约 20 亿参数的公开模型中排名第二，在提供完整训练配方的公开模型中排名第一。AWS 称其平衡了准确性、校准和延迟，校准指置信度分数与实际正确率的吻合程度。模型在 JevBench 简单层级全部答对，适合常规代理决策。但文章也提醒，限制答案空间不意味着总是正确，且响应时间会随任务复杂度增加。
Q&A
AWS Strands Decider 2B 是什么？它和 TypeSafe Jev 有什么关系？
Strands Decider 2B 是 AWS 推出的决策模型，属于 Jev、Kev 等决策模型浪潮的一部分。它基于开源 Qwen3.5-2B，将文本生成头替换为评分选项的指针头，用于路由请求、选择工具和校验输出。与 TypeSafe 的 Jev 类似，它专注于从开发者提供的选项中选择或返回数值评分，而不是生成自由文本。
Strands Decider 2B 的技术架构是怎样的？
它使用 Qwen3.5-2B 作为语言理解基础模型（称为“躯干”），移除了生成文本的语言模型头，替换为评分选项的指针头。该指针头有超过一百万个参数，主干使用 rank-16 LoRA 适配器。限制答案空间可防止模型编造未提供的选项。
Strands Decider 2B 的决策延迟和性能表现如何？
在 Nvidia RTX 3090 上决策延迟低于 100 毫秒，在 M3 MacBook 上小任务中位数约 150 毫秒。在 JevBench 公开集上，它在约 20 亿参数的公开模型中排名第二，在提供完整训练配方的公开模型中排名第一，且能正确回答 JevBench 简单层级的所有问题。
Strands Decider 2B 可以下载吗？包含哪些内容？
可以下载。AWS 发布了模型本身，以及用于训练它的数据和脚本。开发者可以检查训练配方并将其适配到自己的任务中。
Strands Decider 2B 在实际应用中有哪些使用场景？
它可用于路由自然语言请求、选择工具、评估输出和检查提议的操作。例如，在 AWS 的演示中，当用户未指定城市询问天气时，Decider 会检查参数值是否基于对话以及代理是否有足够信息，然后通过 Strands 干预系统决定是继续工具调用、拒绝、请求人工确认还是返回反馈。
AWS 是否会提供 Strands Decider 2B 的云端托管版本？
目前尚不确定。AWS 表示正在开发决策模型集成库，但云端托管版尚未确定。文章指出，混合场景适合实验和本地运行，但生产部署可能需要托管版本。
