为什么大语言模型能将我们带入AGI?
原文中文,约1300字,阅读约需4分钟。发表于: 。杨立昆(Yann LeCun)提出,大型语言模型(LLM)并不能引领我们走向人工通用智能(AGI),因为它们缺乏形成心智模型的能力。尽管如此,一些观点认为LLM与人类智能的比较存在根本性的缺陷。人类智能与LLM的比较分析 人类智能是基于少量数据实时发展而来,而LLM则需要大量数据和预先训练。 人类智能消耗的能源相对较少,而LLM则需要巨大的电力支持。...
大型LLM无法实现AGI,因为它们无法形成心智模型,无法进行类似人类认知的推理。人类智能是从少量数据实时发展而来,而LLM处理大量数据,需要不同的范式。人脑和LLMs本质上都是压缩算法,但人脑的架构和学习过程经过高度优化,能够实时从相对较少的数据中学习,而LLM需要大量数据和计算能力。随着最佳架构的接近,LLM的训练和运行效率正在提高。使用越来越小的数据集以及学习如何在具有正反馈周期的合成数据上训练LLM正在取得进展。LLM是基于大型数据集、无监督学习、未明确训练的技能泛化以及下游任务广泛适用性的算法,与人类智能相似。