谷歌机器人专家：机器人在现实中碰过的壁，AI也会碰
内容提要
机器人学习进展缓慢，与现实世界的复杂性有关。机器人技术和大语言模型都面临类似问题，需要将现实推向抽象层，但现实的不完美性使其困难。机器人学习和大语言模型都面临评估问题，机器人学家需要克服现实壁垒。
延伸解读
现实壁垒：机器人学的困境与AI的共通性
机器人学习进展缓慢，常被归咎于硬件限制，但作者指出根源在于现实世界的复杂性。机器人需要将混乱的现实抽象化，而抽象层漏洞百出，导致代码正确性无关的失败。这种困境并非机器人独有，任何与现实交互的软件，包括大语言模型，都将面临全局可变状态、不完美感知与执行等挑战。
从游戏AI到LLM：稳健性挑战的普遍性
游戏AI的案例显示，即使规则明确的围棋或Dota 2，顶级AI也会被对抗性策略击败，说明连接现实会引入额外复杂性。LLM同样如此，公开互联网文本影响检索增强生成，导致行为不可复现或倒退。作者认为，LLM从业者正遭遇机器人领域多年的痛点，如训练成本高、评估困难。
评估难题：AI证明自身能力的瓶颈
评估模型是否真正具备能力是一个复杂问题。机器人学早已抱怨评估问题，而LLM领域也出现类似情况，如demo精心挑选、基准测试被操纵。作者担忧社会不善于判断模型是否已证明自己，正确回答“是”比“否”更难。机器人学家可能在这方面走在前面，但挑战依然艰巨。
Q&A
为什么机器人学习进展缓慢？
机器人学习进展缓慢是因为它与现实世界的复杂性紧密相关，现实的混乱和不完美使得机器人难以推向抽象层。
机器人技术和大语言模型面临哪些共同挑战？
机器人技术和大语言模型都面临现实的复杂性问题，尤其是在处理不完美的感知和执行时。
现实的复杂性如何影响机器人技术的开发？
现实的复杂性使得机器人技术难以建立可靠的抽象层，导致开发过程中频繁碰壁。
评估机器人模型的能力有多复杂？
评估机器人模型的能力非常复杂，因为它涉及到如何处理现实世界的全局可变状态和不完美的执行。
游戏 AI 的例子如何说明现实复杂性的问题？
游戏 AI 的例子显示，尽管某些 AI 在特定条件下表现出色，但在面对现实复杂性时，稳健性仍然是一个挑战。
未来机器人学家在评估问题上可能面临哪些挑战？
未来机器人学家可能面临的挑战包括如何有效评估模型在现实世界中的表现，以及如何处理复杂的全局状态。
