内容提要
招商局狮子山人工智能实验室发布具身推理视觉语言模型“驭物”Lion-ER-35B-A3B,采用MoE架构,总参数约35B,每Token仅激活约3B。其核心是能力牵引的具身数据引擎:先制定39项能力蓝图,再将能力编译为训练题,经数据提纯、几何构题、定向合成保证有据可依,并用评测反哺数据迭代。模型在十项具身基准上全部提升,综合均分65.29,多项超越更大模型,权重已在Hugging Face开源。
延伸解读
数据策略:从堆量转向能力设计
文章指出,更多数据并不等于更多能力,仅调整数据域权重就能影响下游表现。驭物模型的核心是能力牵引的数据引擎:先制定39项能力蓝图,再将能力编译为训练题,并通过数据提纯、几何构题、定向合成保证题目有据可依。这提示读者,具身模型的数据质量与能力覆盖设计,可能比单纯扩大数据规模更关键。
评测闭环:错题驱动数据迭代
文章强调评测不是训练后的成绩单,而是下一轮数据生产的起点。Eval-Driven Data Harness会从模型错题中定位能力缺口,核查标注与证据后,从约430万条素材池中检索推理逻辑相同、场景不同的新素材加入训练。这种闭环让数据随模型能力持续演化,也提醒读者关注评测机制是否真正反哺了训练数据。
效率与效果:小激活参数下的基准提升
驭物采用MoE架构,总参数约35B,每Token仅激活约3B。在十项公开基准上全部指标提升,等权综合均分65.29,部分单项超过更大参数量模型。评测采用avg@4口径,即每题独立作答4次取平均。这说明在具身推理任务上,数据与训练策略的优化可能比单纯增加激活参数更有效,但读者也需注意基准成绩与实际机器人部署效果之间仍有距离。
开源与后续方向:可复现的方法论
模型权重已在Hugging Face开源,采用BF16 Safetensors格式,兼容Transformers、vLLM、SGLang等框架。开发者可围绕空间关系理解、场景状态分析、任务进度判断等方向开展评测与适配。团队后续将面向具身Agent拓展工具调用、多轮交互与执行反馈数据,探索长程任务中的连续决策与失败恢复。这为读者提供了可复现和二次开发的基础。
Q&A
驭物 Lion-ER-35B-A3B 模型采用什么架构?参数量是多少?
该模型采用MoE混合专家架构,总参数约35B,每个Token仅激活约3B参数。
为什么机器人需要具身推理能力?仅靠视觉识别不够吗?
机器人仅识别画面内容不够,还需读懂三维空间关系、捕捉物体状态变化、研判任务阶段。否则会因视角变化混淆物体身份、误判相机运动或错估任务进度而导致执行失败。
驭物模型的数据引擎是如何构建训练数据的?
团队先制定39项能力蓝图,将能力编译为训练题目,再通过数据提纯、几何构题、定向合成三条路径保证题目有据可依,并用评测反哺数据迭代,形成闭环。
驭物模型在哪些基准上进行了评测?成绩如何?
在十项公开具身基准上全部指标提升,等权综合均分65.29。例如Where2Place得分64.28(提升9.30),ERQA得分64.38(提升6.19),SAT空间推理达89.33,ERQA轨迹理解子类68.18(提升12.12)。
模型权重是否开源?开发者可以如何使用?
权重已在Hugging Face开源,采用BF16 Safetensors格式,兼容Transformers、vLLM、SGLang等框架。开发者可围绕空间关系理解、场景状态分析、任务进度判断等方向进行评测与适配。
驭物模型如何解决“画面里更靠上不等于空间里更高”这类空间误判?
团队通过Eval-Driven Data Harness机制,从模型错题中定位能力短板,然后从素材池中检索推理逻辑相同但场景不同的新素材,经构题核验后加入训练,并增加遮挡和透视变化来覆盖易混淆情况。