产品派
返回

狮子山实验室发布35B具身推理模型仅激活3B参数

AI量子位2026/11/4 18:08:38
AI 导读

机器人要在真实环境中完成任务,不仅要识别画面中的物体,还要理解三维位置、视角变化、物体状态和任务进度。近日,招商局先进技术研究院旗下狮子山人工智能实验室发布具身推理视觉语言模型“驭物™ Lion-ER-35B-A3B”。该模型采用MoE架构,总参数约35B,但每个Token仅激活约3B参数,在控制推理开销的同时,十项主流具身基准均取得提升。

模型训练没有单纯依赖扩大参数或堆积数据,而是构建了能力牵引的具身数据引擎。团队先把具身推理划分为实体、空间、时序、物理、可供性、任务、社会和证据8个一级领域,并进一步细分为39项能力,同时区分推理方式、输入形式和回答形式。对于复合任务,还会分别标记主能力与辅助能力,避免场景、物体和提问方式与某项能力固定绑定。

随后,团队通过“能力编译”把抽象能力转化为具体训练题,明确需要什么场景、如何组织观察、提出什么问题以及答案应由哪些证据支持。以跨视角推理为例,题目必须规定视角数量、目标物体、观察者位置和朝向,并检查素材是否提供了足够视觉证据。构题主要通过既有问答与标注转换、从观察素材中发现证据、依据结构化条件和关系推导三条路径完成。

数据监督环节包括数据提纯、几何构题和定向合成。团队会修正图像顺序、指代关系及选项映射等问题;利用位姿、深度和物体对应关系计算答案与中间推理;在监督不足时基于真实图像或视频定向生成问答,但合成模型的回答不会直接作为真值。样本必须有证据支撑,模型答错或多个模型给出相同答案,都不能单独作为删题或判定正确的依据。

对于持续出错的复杂样本,团队引入人工复核和可视化核验平台,通过多视角对照、时序回放与证据标记还原推理依据。最终监督训练集包含312380条样本,重点覆盖空间几何、多视角对应、动作轨迹和任务规划,并按能力需求分配训练预算。评测结果由Eval-Driven Data Harness反哺数据迭代:团队从错题中识别系统性短板,再从31个数据源、约430万条记录的素材池中检索逻辑相同但场景不同的素材,重新构题、审核并加入训练。

例如,针对模型把画面中的二维上下位置误认为三维高度的问题,团队会加入具有多层支撑面的场景,并通过遮挡、透视、分割、深度和几何约束制造更具区分度的样本。模型的能力蓝图负责规划覆盖范围,评测机制则持续发现盲区,使数据供给随模型能力动态变化。

在avg@4口径下,即每题独立作答4次并取平均,模型十项公开基准等权综合均分为65.29,全部高于所用基座。Where2Place得分64.28,较基座提升9.30分;ERQA得分64.38,提升6.19分;空间推理基准SAT得分89.33;ERQA轨迹理解子类得分68.18,提升12.12分。公开案例显示,模型能判断相机向下转动、选出先接触充电器再完成放置的有效轨迹、跨视角推断挂画位于拍摄者后方,并识别机器人尚未完成“移动到寿司卷”这一步骤,而对比模型在这些任务中多次误判。

具身智能视觉语言模型混合专家模型机器人推理

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文