通往人工智能之路 [译]

📝

内容提要

本文讨论了通用人工智能（AGI）的概念和实现。作者解释了狭义人工智能和通用人工智能的区别，以及通用人工智能的泛化能力。他还讨论了大语言模型（LLM）的涌现能力和程序合成的重要性。最后，作者提出了实现通用人工智能的关键因素和挑战。

🔎

延伸解读

泛化能力：狭义与通用AI的分水岭

文章指出，狭义AI与通用AI的核心区别在于泛化能力。机器学习中的泛化分为训练外泛化、分布外泛化和领域外泛化。目前大多数模型只能做到训练外泛化，即在与训练数据相似的新样本上表现良好；分布外泛化要求模型外推到训练分布之外，但仍需开发者预先知道测试实例的形态；而领域外泛化则要求模型应对完全不同的领域，无需重新训练。作者强调，只有达到领域外泛化，才算真正迈入通用AI，而当前所有模型——包括大语言模型——仍属于狭义AI。

涌现能力：大语言模型的惊喜与局限

大语言模型展现出上下文学习等涌现能力，即系统整体表现出单个组件不具备的特性。作者区分了弱涌现与强涌现：弱涌现可通过分析组件交互来解释，如图灵完备性；强涌现则无法还原。上下文学习目前尚无精确解释，作者倾向于认为它是弱涌现，并有望很快被理解。然而，涌现能力并不等同于通用性。文章进一步从计算理论角度指出，纯语言模型无法执行图灵完备计算，因此难以完成需要无限计算的推理任务，这限制了它们在解决半确定性问题上的能力。

程序合成：通往AGI的关键路径

作者认为，程序合成是突破当前限制的关键。通过让语言模型生成并执行代码，系统可获得图灵完备性，从而解决任何可计算问题。所有AI任务本质上都可归结为程序合成：生成图像、驾驶汽车、通过图灵测试，均可视为生成相应程序。然而，当前大语言模型的程序合成能力有限，尤其在非基础编程任务中易出错，需人类监督。实现通用程序合成无需完美无瑕，只需达到顶尖人类程序员水平，但这要求范式转变——模型需像人类一样持续学习、迭代调试，并与代码进行动态交互。

❓

Q&A

通用人工智能和狭义人工智能的根本区别是什么？

根本区别在于泛化能力。狭义人工智能专注于特定领域，而通用人工智能能够跨越所有人类智能应用领域，包括未知领域，并具备自我学习的能力。

为什么说扩大狭义人工智能的规模无法实现通用人工智能？

因为狭义人工智能的学习算法是针对特定领域设计的，即使增加数据和计算量，模型也无法找到其假设空间之外的假设。实现AGI需要质的飞跃，即模型必须具备自我学习的能力，而不仅仅是放大现有方法。

大语言模型的涌现能力是什么？它属于弱涌现还是强涌现？

涌现能力是指系统中出现的、并非单一组件所具备的意外能力。弱涌现可以通过分析系统部件来解释，强涌现则无法还原。大语言模型的上下文学习是一种涌现能力，目前尚未完全理解，但作者倾向于认为它是弱涌现。

为什么程序合成被认为是实现通用人工智能的关键？

因为如果AI系统能够针对任何问题生成正确的程序并执行，它就能完成任何计算系统能做的事情，从而具备图灵完备性，达到通用人工智能的定义。程序合成涵盖了所有AI问题，是通往AGI的必经之路。

当前的大语言模型在推理能力上有什么局限？

当前的大语言模型不是图灵完备的，无法进行无限计算，因此无法解决某些可判定问题，如需要任意多计算步骤的数学问题。它们缺乏成熟的推理能力，只能处理有限计算量的任务。

实现通用程序合成需要哪些范式转变？

需要从静态训练转向持续学习，让模型像人类程序员一样编写、测试、调试和优化代码，并与自然语言交流结合，频繁运行代码并观察结果，实现自我更新。

🏷️

标签

人工智能 大语言模型 泛化能力 狭义人工智能 程序合成 通用人工智能