128K长上下文+智能体强化训练！LFM2.5-2.6B解锁端侧大模型高效部署；DETR用Transformer斩断NMS与Anchor，重塑目标检测
内容提要
LFM2.5-2.6B是面向端侧部署的轻量级AI推理模型，支持128K长上下文和智能体工具调用，性能可与大4倍参数模型竞争。在Apple M5 Max上推理速度达220 tok/s，AMD Ryzen CPU上113 tok/s，内存占用低于2.5GB，平衡了轻量化与高性能。HyperAI官网已上线该模型，并提供相关数据集、教程和百科词条更新。
延伸解读
端侧部署的算力与内存平衡
LFM2.5-2.6B在Apple M5 Max上推理速度达220 tok/s，AMD Ryzen CPU上为113 tok/s，内存占用低于2.5GB。这表明在消费级硬件上运行复杂AI模型成为可能，但实际性能会受设备散热、电源管理等因素影响，用户需根据自身硬件条件评估部署效果。
长上下文与智能体能力的实际意义
模型支持128K长上下文，并针对智能体框架进行训练优化，可处理多步骤任务和工具调用。这意味着在文档分析、复杂对话等场景中，模型能保持连贯性，但长上下文可能增加推理延迟，且实际效果取决于任务类型和指令清晰度。
轻量级模型的性能对比视角
文章称该模型可与参数大4倍的模型竞争，但未提供具体对比基准。轻量级模型通常在特定任务上优化，通用能力可能受限。用户在选择时需关注模型在自身业务场景中的实测表现，而非仅依赖参数规模或宣传数据。
Q&A
LFM2.5-2.6B是什么？它有哪些主要特点？
LFM2.5-2.6B是Liquid AI于2026年8月发布的轻量级混合架构语言模型，面向端侧部署，支持128K超长上下文，具备智能体工具调用能力，性能可与参数规模大4倍的模型竞争。
LFM2.5-2.6B在端侧部署的性能表现如何？
在Apple M5 Max上推理速度达220 tok/s，在AMD Ryzen CPU上为113 tok/s，内存占用低于2.5GB，平衡了轻量化与高性能。
LFM2.5-2.6B的架构和训练方法是什么？
基于LFM2架构，采用22个双门控短卷积模块与8个GQA模块，并通过智能体强化学习进行后训练，以增强工具调用和指令遵循能力。
LFM2.5-2.6B适用于哪些应用场景？
适用于Agent工作流、长文档理解、RAG（检索增强生成）及端侧推理等场景。
LFM2.5-2.6B与更大参数模型相比表现如何？
在工具调用、指令遵循和多步骤任务中展现出越级性能，可与参数规模大4倍的模型竞争。
在哪里可以体验或使用LFM2.5-2.6B？
HyperAI超神经官网已上线该模型，提供在线使用（Notebooks）和Demo页面。
