本研究探讨了视觉-语言模型（VLMs）在文本编码器中获取语法知识的局限性，结果显示单模态语言模型（ULMs）在语法信息获取方面明显优于VLM，而VLM的语法学习受到预训练目标的显著影响。

本研究提出了多种新颖的评判方法，以解决语言模型在语法知识评估中的不足。实验结果表明，概率读出法和基于提示的方法在性能上优于传统方法，展示了大语言模型在语法知识利用方面的优势。建议采用多样化的评估方法来全面评估大语言模型。

本文研究了Knowledge Neurons框架中的知识神经元在Transformer网络中的作用。研究发现，事实知识主要归属于网络的中高层，而关系信息则由中间层次处理。实验结果证明了该模型可以处理不同语言的提示，并提供类似的信息。研究还发现，语法知识比事实知识更为分散。

利用信息论探测套件发现，全面训练后语法知识迅速获得，持续性能改善来自开放域知识获取，语义和推理任务受益于长距离语境化和更高专业化。跨任务相似性测量揭示语言相关任务共享信息。这些发现对模型可解释性、多任务学习和有限数据学习具有重要意义。

该研究使用信息论探测套件，分析了9项任务，发现语法知识在全面训练的0.5%后迅速获得，持续性能改善主要来自对开放域知识的获取，而语义和推理任务则受益于后期对长距离语境化和更高专业化的提升。跨任务相似性的测量揭示了语言相关任务在训练期间共享信息，这对模型可解释性、多任务学习和有限数据学习具有重要意义。

国际母语日，汉语查询领域有新华字典、现代汉语规范词典、快快查汉语字典和汉典、萌典、汉字屋等，可以帮助我们更好地了解汉字的源流和演变，以及笔顺、词语辨析等，要注意鉴别信息来源，以及自主查询，结合词语的源流、语境及语法结构等做出综合判断。