语言模型的认识论:语言模型是否拥有整体性知识?

原文约400字,阅读约需1分钟。发表于:

研究以认识论整体主义的观点调查语言模型中的固有知识,通过构建科学推理数据集并进行推理、修正和论证生成三个任务评估语言模型的认识论。结果显示,在问题解释阶段,语言模型可以解释情境而避免修正核心知识,然而在其他任务中,语言模型则未能区分核心知识和周边知识,显示对认识论整体主义原则的不完全一致性。

本文介绍了GPT-4在语言任务中的出色表现,引发了关于其归属于语言或认知能力的争议。探讨了语言模型与哲学、认知科学、人工智能和语言学的关系,以及语言的组成性、语言习得、语义能力、基础、世界模型和文化知识的传输。语言模型的成功挑战了人工神经网络的假设,但仍需要进一步研究了解其内部机制。第二部分将探讨语言模型的最新发展和相关的实证方法和哲学问题。

相关推荐 去reddit讨论