“把工作从前沿LLM手中拿走”：Subquadratic的决策模型声称上下文窗口是Jev的12倍
内容提要
Subquadratic发布决策模型SubQ Snap，支持38.4万token上下文，约为Jev的12倍，可一次性处理大型代码库和文档。该模型采用稀疏注意力架构，降低长输入计算成本，在多项基准测试中优于Jev，定价为每百万输入token 0.05美元。公司称更大上下文可简化AI代理开发，但结果均为内部测试，尚待独立验证。
延伸解读
决策模型与LLM的分工逻辑
文章指出，决策模型不生成文本，而是从预定义答案中选择，例如选择工具、识别文件或判断测试是否通过。这种特性使其在AI代理执行过程中频繁决策时，能替代昂贵的前沿LLM，从而降低成本和延迟。Subquadratic CEO认为，决策模型真正吸引人之处在于“把工作从前沿LLM手中拿走”，而不仅是辅助评估。
长上下文如何简化代理开发
当前开发者常依赖检索、摘要和分块来压缩信息，但每一步都可能丢失关键细节。Snap的38.4万token窗口允许代理一次性查看整个代码库、文档或交互历史，减少中间步骤。不过，CEO也承认，面对远超窗口的企业语料，检索仍不可少，但可以更粗粒度，直接拉入整个文档或模块，降低脆弱性。
性能优势尚待独立验证
Subquadratic公布的基准测试显示Snap在多项任务上优于Jev，但这些结果均为内部测试，且Snap未出现在最新Decision Index排行榜上。其0.2.1版本得分也无法与当前0.3.2版本直接比较。尽管公司开源了部分评估代码，但独立测试才能确认其长上下文是否真正带来更好的决策。
定价与计算成本的对应关系
Snap定价为每百万输入token 0.05美元，输出不收费。处理10万token约半美分，用满38.4万token窗口约两美分。CEO解释，决策模型几乎全部计算用于读取输入，输出仅返回每个允许答案的概率，成本极低，因此定价反映实际计算需求。
Q&A
SubQ Snap 的上下文窗口有多大？和 Jev 相比如何？
SubQ Snap 支持 384,000 token 的上下文窗口，是 Jev 32K token 限制的 12 倍。
SubQ Snap 采用了什么技术来降低长输入的计算成本？
SubQ Snap 采用 Subquadratic Sparse Attention (SSA) 稀疏注意力架构，使注意力需求随上下文长度线性增长，而非传统 Transformer 的二次增长。
SubQ Snap 在基准测试中的表现如何？
在内部测试中，Snap 在 RULER 检索基准上得分 96.3-99.8，在 Decision LCR 上得分 74.0（Jev 为 48.0），在 Decision Index 0.2.1 上得分 61.7（Jev 为 57.9），在 Nimble 基准上准确率 82.9%（Jev 为 76.0%）。在 16 个企业基准中，Snap 在 13 个上优于 Jev，平均分 67.6 对 61.6。但 Jev 在 When2Call 等三项测试中表现更好。
SubQ Snap 的定价是多少？
SubQ Snap 定价为每百万输入 token 0.05 美元，输出不收费。处理 100K token 约花费半美分，使用完整 384K token 窗口约花费两美分。
SubQ Snap 的大上下文窗口对 AI 代理开发有什么帮助？
更大的上下文窗口可以简化 AI 代理开发，允许代理在单个请求中检查整个文档或相关文件集合，减少对检索、摘要和分块等中间步骤的依赖，从而避免因分块而丢失重要信息。但检索仍将用于处理远大于 384K token 的企业语料库。
SubQ Snap 的基准测试结果是否经过独立验证？
所有已发布的 Snap 结果均由 Subquadratic 内部产生，尚未经过独立验证。公司已发布其改编的长上下文评估代码供他人复现，但 Snap 未出现在最新的 Decision Index 排行榜上。
