认知即所需 - 大型语言模型之上的人工智能下一层
内容提要
最近的研究发现，聊天机器人等对话人工智能工具在推理和多步问题解决方面存在限制。认知人工智能提出了一个双层功能架构，用于执行复杂多步知识工作的人工智能系统的路线图。研究结果显示，当前基于视觉的大型语言模型在直觉物理、因果推理和直观心理领域的表现不如人类。为了加快人工通用智能（AGI）的发展，需要认知人工智能方法。此外，提出了一种新的认知语言代理的蓝图，以及开发认知机器人的架构研究挑战。
延伸解读
认知AI与大型语言模型的关系
文章指出，当前基于大型语言模型的对话AI在推理和多步问题解决上存在局限，容易在复杂任务中出错。认知AI提出双层功能架构，旨在实现可编程定义的神经符号认知，弥补概率方法的不足。作者认为，仅靠概率方法无法实现AGI，认知AI是必要前提。这为理解AI发展路径提供了新视角。
视觉语言模型的认知短板
研究显示，当前基于视觉的大型语言模型在直觉物理、因果推理和直观心理领域表现不如人类。它们对物理定律和因果关系有基本理解，但缺乏深层洞察，在需要直觉心理理论的任务中完全失败。这提示，未来模型需整合更强的因果理解、物理动力学和社会认知机制。
认知语言代理的架构蓝图
文章提出了一种新的认知语言代理蓝图，将大型语言模型与外部资源或内部控制流结合，以实现推理、概念化、学习和决策。该框架强调了当前语言代理的不足，并指出了未来发展更强大语言代理的具体方向。这为构建更智能的对话系统提供了架构参考。
认知机器人的架构挑战
针对开发认知机器人，文章探讨了架构研究挑战，提出了未来机器人设计和开发框架中需考虑的替代性架构假设。特别关注虚拟数字平台上操作的软件机器人如何理解平台层面并表现出人类用户行为。这为机器人设计提供了新的研究思路。
Q&A
认知人工智能是什么？它和大型语言模型有什么关系？
认知人工智能是一个高层框架，旨在大型语言模型之上实现可编程定义的神经符号认知。它提出了一个双层功能架构，用于执行复杂多步知识工作，并认为仅凭概率方法无法实现AGI，认知人工智能是实现更高级别人工智能的必要前提。
当前聊天机器人在推理和多步问题解决方面有哪些限制？
近期研究表明，由大型语言模型驱动的聊天机器人在推理和多步问题解决方面存在限制，它们模拟浅层推理和理解，当问题复杂度增加时容易出错。
为什么说仅靠概率方法无法实现AGI？
文章明确指出，仅凭概率方法无法实现AGI。为了加快AGI的发展，需要认知人工智能方法，因为认知人工智能能够实现可编程定义的神经符号认知，而概率方法在复杂多步知识工作上存在局限。
认知语言代理的蓝图是什么？
认知语言代理的蓝图是将大型语言模型与外部资源或内部控制流结合起来，以实现基于语言模型的推理、概念化、学习和决策。这被称为CoALA框架，强调了当前语言代理的不足，并提出了未来发展更强大语言代理的具体方向。
开发认知机器人面临哪些架构研究挑战？
开发认知机器人面临架构研究挑战，包括针对虚拟数字平台上操作的软件机器人如何理解平台层面和表现出人类用户行为的问题。研究提出了未来机器人设计和开发框架中需要考虑的替代性架构假设。
什么是主动学习新范式？它如何利用人类？
主动学习新范式倡导利用人类作为主动数据源，同时考虑他们的更高级别的能动性。在存在不确定性的情况下，实现最佳合作通常需要人类和人工智能代理模拟彼此的行为，并利用这些模型推断潜在目标、信念或意图，这可能涉及多个层次的递归。
