内容提要
Poolside 的 Laguna S 2.1 模型现已在 AI Gateway 上线,提供免费版(256K 上下文)和付费版(1M 上下文)。该模型为开放权重 MoE,支持思考模式,擅长智能体编码和长任务,在多项基准测试中表现优异。用户可通过 AI SDK 调用,Gateway 提供统一 API、成本追踪和优化功能,且无加价。
延伸解读
免费版与付费版的选择
Laguna S 2.1 提供两个版本:免费版上下文窗口为 256K,付费版为 1M。免费版适合一般任务,而付费版适合需要处理超长上下文的场景,如大型代码库或长文档。用户可根据实际需求选择,无需为不需要的功能付费。
开放权重与 MoE 架构
该模型采用开放权重和混合专家(MoE)架构,意味着其权重公开,开发者可以更深入地了解模型行为,甚至进行微调。MoE 架构通常能在保持性能的同时提高推理效率,但实际效果需结合具体任务评估。
AI Gateway 的附加价值
AI Gateway 不仅提供模型调用,还集成了成本追踪、重试、故障转移和性能优化等功能,且不额外加价。对于需要稳定 API 和成本控制的企业用户,这些功能可能比模型本身更具吸引力。
Q&A
Laguna S 2.1 模型有哪些版本?它们的上下文窗口大小分别是多少?
Laguna S 2.1 有两个版本:免费版(模型 ID 为 poolside/laguna-s-2.1-free)支持 256K 上下文窗口,付费版(模型 ID 为 poolside/laguna-s-2.1)支持 1M 上下文窗口。
Laguna S 2.1 模型的主要特点是什么?
Laguna S 2.1 是一个开放权重的混合专家(MoE)模型,支持最多 1M token 的上下文窗口,并可在思考模式和非思考模式下运行。它专长于智能体编码和长时间运行的任务,如编写和调试代码、运行测试、构建基于浏览器的工具、处理 MLOps 流水线和 AI 研究。
Laguna S 2.1 在思考模式下有哪些基准测试成绩?
在思考模式下,Laguna S 2.1 在 Terminal-Bench 2.1 上达到 70.2%,在 SWE-bench Multilingual 上达到 78.5%,在 SWE-Bench Pro 上达到 59.4%。
如何通过 AI SDK 调用 Laguna S 2.1 模型?
在 AI SDK 中,将模型设置为 'poolside/laguna-s-2.1-free' 或 'poolside/laguna-s-2.1',然后使用 streamText 函数,例如:const result = streamText({ model: 'poolside/laguna-s-2.1', prompt: 'Fix the flaky test in the payments suite.' });
AI Gateway 提供哪些功能?
AI Gateway 提供统一 API 来调用模型,跟踪使用情况和成本,配置重试、故障转移和性能优化以实现高于提供商的正常运行时间。它还内置自定义报告、零数据保留支持、API 密钥预算、路由规则等功能。
AI Gateway 的定价策略是什么?
AI Gateway 反映提供商定价,不加价,并且不对推理收取平台费,包括对自带密钥(BYOK)请求也不收费。