来自fMRI的证据支持语言模型中的两阶段抽象过程
内容提要
本文探讨了深度语言模型（DLMs）与人脑语言处理机制的关系。研究表明，DLMs的层次结构能够模拟人脑语言理解的动态过程，且信息逐层累积与大脑神经活动存在镜像关系。大型语言模型（LLMs）性能提升后，其在预测神经响应时与大脑的相似性增强，揭示了二者在语言处理上的融合特征，为未来模型开发提供新方向。
延伸解读
研究背景与核心发现
文章梳理了2021年至2024年多项研究，核心在于利用深度语言模型（DLMs）的层次结构模拟人脑语言处理。通过分解GPT-2激活为词汇、组合、句法和语义表示，发现组合表示更广泛地招募大脑皮层网络，且句法和语义共享神经基础。DLM信息逐层累积与高级语言区域神经活动时机形成镜像关系，为理解大脑语言机制提供了新计算范式。
模型性能与大脑相似性的关联
随着大型语言模型（LLMs）在基准任务上性能提升，其预测神经响应的脑部相似性增强，分层特征提取路径与大脑映射更密切，且用更少层完成相同编码。高性能模型在层次化处理机制上趋同，上下文信息对提升性能和大脑相似性至关重要。这揭示了人工神经网络与生物大脑在语言处理上的融合特征。
心理可信模型的优势与局限
比较研究发现，心理可信模型在多种背景下表现更优，尤其在融合具象信息时，对单词和段落层面的大脑活动预测最佳。然而，现有证据尚不充分，需更多研究验证大脑与语言模型激活的结构相似性。此外，过度依赖大脑信号评分可能导致对相似性的过度解读，未来需谨慎对待。
Q&A
深度语言模型（DLMs）如何模拟人脑的语言理解过程？
DLMs的层次结构能够模拟人脑语言理解的动态过程，信息逐层累积与大脑神经活动存在镜像关系。
大型语言模型（LLMs）在性能提升后与大脑的相似性如何变化？
随着LLMs性能的提升，它们在预测神经响应时与大脑的相似性增强，显示出二者在语言处理上的融合特征。
DLMs的激活可以分解为哪些类别？
DLMs的激活可以分解为词汇、组合、句法和语义表示，其中组合表示更广泛地招募大脑皮层网络。
心理可信模型在语言处理中的表现如何？
心理可信模型在多种背景下表现更优，尤其是在融合具象信息的情况下，对大脑活动预测表现最佳。
DLMs与传统心理语言学模型有什么不同？
DLMs使用分层连续数值向量表示单词和上下文，与传统心理语言学模型不同，产生了新兴应用，如人类般的文本生成。
研究如何利用DLMs预测大脑活动？
研究通过高时序分辨率的电皮层图谱数据记录参与者的神经活动，并将相同叙述输入DLM中，提取不同层的上下文嵌入进行预测。
