内容提要
蚂蚁集团Ling 3.0 Flash模型已在AI Gateway上线,未来三周免费使用。该模型采用专家混合架构,总参数124B,每令牌激活约5.1B,支持256K上下文及思考模式,专为高效智能体推理设计,适用于编码、文档处理等场景。用户可通过AI SDK调用,AI Gateway提供统一API、成本追踪及优化功能,且不收取平台费用。
延伸解读
免费期与定价策略
Ling 3.0 Flash在AI Gateway上线后提供三周免费使用,截止8月3日。这一策略旨在吸引开发者试用,但免费期结束后将按提供商定价收费,且AI Gateway不收取平台费用。开发者应关注免费期后的成本变化,以便合理规划预算。
架构与性能特点
该模型采用专家混合架构,总参数124B,但每个令牌仅激活约5.1B参数,这种设计在保持高性能的同时降低了推理成本。256K的上下文窗口和思考/非思考模式使其适合处理长文档和复杂推理任务,但实际效果需在具体场景中验证。
适用场景与集成方式
Ling 3.0 Flash专为智能体推理设计,适用于编码、文档处理和多轮长对话等高频场景。开发者可通过AI SDK轻松集成,AI Gateway提供统一API、成本追踪和优化功能,但需注意模型标识为'inclusionai/ling-3.0-flash-free',免费期后可能变化。
Q&A
Ling 3.0 Flash是什么模型?
Ling 3.0 Flash是蚂蚁集团推出的一个专家混合(MoE)模型,总参数124B,每个令牌激活约5.1B参数,支持256K上下文窗口,并有思考和非思考两种模式。
Ling 3.0 Flash在AI Gateway上免费使用多久?
Ling 3.0 Flash在AI Gateway上免费使用三周,截止到8月3日。
Ling 3.0 Flash适合哪些应用场景?
Ling 3.0 Flash专为高效智能体推理设计,适用于高频智能体工作流、编码智能体、文档处理以及长上下文多轮交互等场景。
如何在AI SDK中调用Ling 3.0 Flash?
在AI SDK中,将模型设置为'inclusionai/ling-3.0-flash-free'即可调用,例如使用streamText函数并传入该模型名称。
AI Gateway提供哪些功能?
AI Gateway提供统一API调用模型、跟踪使用量和成本、配置重试、故障转移和性能优化,还支持自定义报告、零数据保留、API密钥预算、路由规则等功能。
AI Gateway收费吗?
AI Gateway不收取平台费用,模型价格与提供商一致,无加价,包括自带密钥(BYOK)请求也不收费。