SpatialVLM：赋予视觉语言模型空间推理能力
原文中文，约500字，阅读约需2分钟。发表于：。通过在互联网规模的空间推理数据上训练 Visual Language Model（VLM），我们显著增强了其在定量和定性空间 VQA 方面的能力，并实现了链式思维空间推理和机器人学等新颖应用。
本文研究了如何将视觉-语言模型（VLMs）整合到驾驶系统中，以增强泛化能力和与用户的互动。通过建立图结构推理的问答对模型，提出了Graph VQA任务，模拟人类的推理过程。构建了基于nuScenes和CARLA的数据集（DriveLM-Data），并提出了基于VLM的基准方法（DriveLM-Agent）。实验证明Graph VQA为驾驶场景的推理提供了简单和有原则的框架，DriveLM-Data为这一任务提供了具有挑战性的基准。DriveLM-Agent在端到端自动驾驶方面表现出竞争力，尤其在未见过的对象或传感器配置上进行零样本评估时效果显著。希望这项工作能为将VLMs应用于自动驾驶提供新的启示。
