量子位
·
蚂蚁集团开源Ring-2.5-1T，全球首个混合线性架构万亿参数思考模型来了
💡
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
蚂蚁集团开源了全球首个混合线性架构的万亿参数模型Ring-2.5-1T，提升长文本推理效率3倍，达到IMO金牌水平。该模型在数学推理和代码生成等领域表现优异，适配多种智能体框架，解决了长输出场景的计算开销问题。
🎯
关键要点
- 蚂蚁集团开源了全球首个混合线性架构的万亿参数模型Ring-2.5-1T。
- Ring-2.5-1T在长文本推理效率上提升了3倍，达到IMO金牌水平。
- 该模型在数学推理和代码生成等领域表现优异，适配多种智能体框架。
- 模型在32K以上长文本生成场景中，访存规模降低10倍，生成吞吐提升3倍。
- Ring-2.5-1T在国际数学奥林匹克竞赛自测中达到金牌水平。
- 该模型在多项权威基准测试中超越了多种主流模型，展现强大的复杂推理能力。
- 通过优化注意力机制，Ring-2.5-1T显著提升了长文本推理的效率与稳定性。
- 该模型有效缓解了长输出场景下的计算开销高、推理速度慢的问题。
- Ring-2.5-1T的模型权重与推理代码已在主流开源平台发布，官方API服务即将上线。
➡️
