BriefGPT - AI 论文速递
·
来自fMRI的证据支持语言模型中的两阶段抽象过程
💡
原文中文，约500字，阅读约需1分钟。
📝
内容提要
深度语言模型（DLMs）通过分层连续数值向量表示单词和上下文，模拟大脑中语言理解的时间动态性。研究发现DLMs的层深与层能预测人脑之间存在强相关。通过电皮层图谱（ECoG）数据记录参与者在听取叙述时的神经活动，发现DLM的信息逐层累积上下文与高级语言区域的神经活动时机形成镜像关系。
🎯
关键要点
- 深度语言模型（DLMs）为理解人脑中自然语言处理机制提供新的计算范式。
- DLMs通过分层连续数值向量表示单词和上下文，与传统心理语言学模型不同。
- DLMs的层深与层能预测人脑之间存在强相关。
- 研究使用电皮层图谱（ECoG）记录参与者在听取叙述时的神经活动。
- DLM的不同层中的上下文嵌入被提取并用于预测神经活动。
- 研究关注下额下回脑回（IFG）及语言处理层次结构的渐增时态感受窗口。
- 结果揭示人类语言处理与DLMs之间的联系，信息逐层累积形成镜像关系。
➡️
