Reflection AI 的 Beam 模型现已上线 AI Gateway,限时免费

Reflection AI 的 Beam 模型现已上线 AI Gateway,限时免费

💡 原文英文,约300词,阅读约需2分钟。
📝

内容提要

Reflection AI 的 Beam 模型已上线 AI Gateway,限时免费。该模型为低延迟美国开源权重推理模型,适用于编程和智能体任务,采用 Apache 2.0 许可,支持工具调用和结构化输出,上下文窗口达 100 万 token,可调推理强度。其每 token 仅激活 5010 亿参数中的 230 亿,速度更快。可通过标准名称或 -free 后缀免费使用,免费期结束后标准名称自动转付费。

🔎

延伸解读

免费使用方式与后续计费

Beam 提供两种免费使用方式:使用标准模型名 reflection/beam 时,免费期结束后会自动转为付费,服务不中断;使用带 -free 后缀的 reflection/beam-free 时,免费期结束后将停止服务。用户需根据自身需求选择,若希望长期使用且接受后续付费,应选用标准名称;若仅短期试用,可选用 -free 后缀。

模型效率与速度优势

Beam 采用稀疏激活设计,每 token 仅激活 5010 亿参数中的 230 亿,并避免计算任务不需要的 token,因此相比更大的开源模型能更快给出答案。这种设计在保持推理能力的同时降低了延迟,适合对响应速度有要求的编程和智能体任务。

技术特性与适用场景

Beam 支持工具调用和结构化输出,上下文窗口达 100 万 token,可处理代码、文档和对话历史,并允许调整推理强度。这些特性使其适用于需要长上下文和外部工具集成的编程与智能体任务。模型权重以 Apache 2.0 许可发布,属于美国开源权重推理模型。

通过 AI Gateway 集成的便利性

AI Gateway 提供统一 API,可调用模型、跟踪用量和成本,并配置重试、故障转移和性能优化,以提高可用性。它还支持自定义报告、零数据保留、API 密钥预算和路由规则。AI Gateway 按提供商定价收费,不加价,也不对推理收取平台费,包括自带密钥请求。

❓

Q&A

Reflection AI 的 Beam 模型现在可以在哪里使用?

Beam 模型现已上线 AI Gateway,限时免费使用。

Beam 模型的主要特点是什么?

Beam 是一个低延迟的美国开源权重推理模型,适用于编程和智能体任务,采用 Apache 2.0 许可,支持工具调用和结构化输出,上下文窗口达 100 万 token,可调推理强度。它每 token 仅激活 5010 亿参数中的 230 亿,速度更快。

如何免费使用 Beam 模型?

有两种方式:使用标准模型名称(reflection/beam,提供商为 reflection),免费期结束后自动转为付费;或使用带 -free 后缀的名称(reflection/beam-free),免费期结束后停止服务。

Beam 模型在编程和智能体任务中有什么优势?

Beam 专为速度设计,每 token 仅激活 230 亿参数(总参数 5010 亿),并避免激活任务不需要的 token,因此比更大的开源模型更快得出答案。

Beam 模型支持哪些功能?

Beam 支持工具调用和结构化输出,具有 100 万 token 的上下文窗口,可处理代码、文档和对话历史,并且推理强度可调。

AI Gateway 提供哪些功能?

AI Gateway 提供统一 API 用于调用模型、跟踪使用和成本,并配置重试、故障转移和性能优化,以实现高于提供商的高可用性。还包括内置自定义报告、零数据保留支持、API 密钥预算、路由规则等。它按提供商定价收费,无加价,不收取平台费,包括 BYOK 请求。

🏷️

标签

➡️

继续阅读