本研究提出了SafeVLA算法,旨在解决视觉语言行动模型的安全挑战。该算法通过大型约束学习,在模拟环境中有效平衡安全性与任务性能,显著减少危险行为,并在安全性和任务表现上优于现有方法。此方法能够在多样化未知场景中推广学习到的安全约束,降低长尾风险。
本文探讨了大型语言模型(LLMs)与视觉-语言模型(VLM)在机器人操作中的应用,提出了视觉语言行动模型(VLA),通过自然语言与机器人动作的结合,提升了机器人在复杂任务中的表现。研究表明,LLMs具备理解低级控制能力,并能有效进行轨迹规划。OpenVLA模型在多样化数据集上表现优异,展示了其在新环境中的强泛化能力和计算效率,为机器人技能教学提供了新方法。
视觉语言行动模型(VLA)将机器人动作表示为文本标记,与自然语言回答统一格式,实现单一端到端训练。以RT-2为例,该模型能泛化到新物体、理解未训练指令并进行初步语义推理,还可通过思维链完成多阶段推理。多项研究进一步探索大语言模型与视觉模型结合,用于机器人规划、长视程任务和终身学习。
该文综述开放词汇移动操作与机器人基础模型研究:HomeRobot基准通过语义分割、放置策略和启发式改进显著提升成功率;RT-2将动作表示为文本标记,实现端到端视觉语言行动模型并展现新兴泛化与推理能力;MOO、PhysObjects、RoboFlamingo、ViLa、HuBo-VLM及动态知识更新等方法分别提升零样本操作、物理概念规划、视觉语言控制和人机交互感知性能。
该文介绍了一种名为视觉语言行动模型(VLA)的机器人控制模型,通过在互联网规模的数据上训练视觉语言模型,将其直接融入端到端的机器人控制中,提高泛化能力和实现新兴的语义推理。该模型可以对新对象进行泛化,解释不在机器人训练数据中的命令,并对用户指令做出初步推理。同时,该模型还可以进行多阶段的语义推理。
完成下面两步后,将自动完成登录并继续当前操作。