本文讨论了分词在神经语言模型中的重要性，提出了一种有限状态传导框架，可以有效编码所有可能的分词方案。研究表明，常用的分词方法如BPE和WordPiece可以融入该框架，实现更精准的生成模式匹配，为未来模型输出提供新的约束方法。

神经语言模型在语言科学理论中具有潜在相关性，但评估其语法能力的基准不够严格。建议使用经过精心策划的数据集来更好地研究LM与儿童语言习得的联系。

该研究将预训练的神经语言模型与$k$最近邻居模型线性插值，提高了Wikitext-103 LM的困惑度2.9点至15.79，无需额外训练。该方法在扩展到更大的训练数据和实现领域自适应方面也表现出良好效果。作者认为最近邻搜索是长尾系统的有效语言建模方法。

神经语言模型在语言科学理论中具有潜在相关性，但评估其语法能力的基准可能不够严格。建议使用经过精心策划的数据集来更好地研究神经语言模型与儿童语言习得的联系。

该研究将预训练的神经语言模型与$k$最近邻居模型线性插值，提高了Wikitext-103 LM的困惑度2.9点至15.79，无需额外训练。该方法在扩展到更大的训练数据和实现领域自适应方面也表现出良好效果。作者认为最近邻搜索是长尾系统的有效语言建模方法。

该研究评估了神经语言模型在简化德语文本方面的适用性，并强调了需要更多的训练数据和更恰当的方法。他们启动了跨学科的OPEN-LS项目，旨在开发适合低识字水平个体使用的文本格式框架，并提高对语言或认知障碍者的可理解性。此外，该项目还将探索使用生成图像的人工智能以增强插图数据的成本效益方法。

我们提出了一种新方法来评估语言模型的拟合程度，通过分析生成的文本与人类生成文本的统计倾向是否匹配。研究发现神经语言模型只学会了部分倾向，但与经验性趋势相比更接近理论分布。拟合程度取决于模型架构和生成策略。

研究发现，使用神经语言模型生成的解释仅限于普遍性的陈述，而预测更新和生成理由更具挑战性。这是未来研究的重要方向。

神经语言模型与语言科学理论相关。LM训练与儿童语言习得不同，现有评估不够严格且缺乏结构多样性。建议使用现成数据集评估LM与儿童语言习得联系。

神经语言模型在语言科学理论中具有潜在相关性，但评估其语法能力的基准可能不够严格。建议使用经过精心策划的数据集来更好地研究神经语言模型与儿童语言习得的联系。

kNN-LMs是将预训练的神经语言模型与k最近邻居模型线性插值的新模型，通过此方法在Wikitext-103 LM中实现了困惑度为15.79，提高了2.9点，无需额外训练。该方法在扩展到更大的训练数据和实现领域自适应方面也表现出良好效果。最近邻搜索在长尾系统的语言建模中是一种有效的方法。

研究发现神经语言模型中特定名词在主谓一致和反身指代方面准确度更高，语料库频率与名词在语法任务中的表现无关，可以从各种类型的训练数据中学习新名词的语法性质。结果显示语法表现应该比实际观察到的表现更稳定。

该研究将预训练的神经语言模型与$k$最近邻居模型线性插值，提高了Wikitext-103 LM的困惑度至15.79，无需额外训练。该方法在扩展到更大训练数据和实现领域自适应方面也表现出良好效果。作者认为最近邻搜索是长尾系统语言建模中有效的方法。

该文介绍了$k$NN-LMs模型，将预训练的神经语言模型与$k$最近邻居模型线性插值，实现了一个新的最先进的困惑度为15.79，无需额外训练。作者认为这种方法在扩展到更大的训练数据和实现领域自适应方面具有作用，并在长尾系统的语言建模中是一种有效的方法。

本文探讨了神经语言模型在语言科学理论中的潜在相关性，建议使用现成的数据集来评估LM的性能。在LI-Adger数据集上，LM评估句子时与人类语言用户的方式不一致。建议更好地将LM与儿童语言习得的实证研究进行联系。

研究发现，神经语言模型在多语言语料库上的训练可以学习语言的分布式表示。结构相似是影响语言表示相似性的最重要因素，而遗传关系则是混淆因素。该研究可促进自然语言处理和语言学的相互发展。

该研究使用有向异构图和GNN网络扩展神经语言模型，提高模型泛化能力。在WikiText-103数据集上表现优异，最佳困惑度约为14.8。

该研究提出了一种基于转换器的神经语言模型，通过添加句法信息来提高性能。实证性能评估表明该方法具有竞争性，包括语义和语用方面的信息，具有可扩展性。