本研究探讨了神经网络中的组合泛化问题，提出了必要且充分的条件，要求计算图与真实组合结构匹配，并在训练中编码足够信息。这一发现为神经网络的组合泛化评估提供了理论基础，具有重要意义。

该研究分析了大型语言模型中的信息编码，发现表示熵与模型大小呈幂律关系。提出基于熵的理论，探讨自回归结构及标记关系，建立信息增益与岭回归的联系，并评估Lasso回归的有效性，结果显示信息分布广泛。

研究发现大型语言模型中的信息编码与模型大小存在幂律关系，并探讨了自回归结构和标记之间的关系，发现信息分布在各个标记中。

研究发现大型语言模型中的信息编码与模型大小存在幂律关系，并探讨了自回归结构和标记之间的关系，发现信息分布在各个标记中。