三重相变：从神经科学的角度理解大型语言模型的学习动态

本研究针对大型语言模型（LLMs）在训练过程中出现的突发性相变现象进行了分析，尤其是在新能力的出现上。通过探讨LLMs与人脑的相似性、内部状态及下游任务表现，提出了对LLMs学习动态的新解释，揭示出训练过程中常见的三次相变现象。这些发现为理解LLMs的学习机制提供了新视角，并为人工智能与神经科学的跨学科研究开辟了新方向。