本文研究了大型语言模型（LLMs）中高层语义概念的线性表示，分析了不同模型（如ELMO、BERT、XLM-R等）中的语言特征编码。研究发现，低维子空间能够通过稀疏线性组合建模激活，LLMs在空间和时间维度上学习了结构化知识，支持其形成世界模型。