本研究提出SAE-Track方法，解决大型语言模型训练中对特征演变理解不足的问题，提供新的视角以提升对训练机制的理解。

我们提出了一个概念简单但有效的多语言CLIP压缩框架，训练了一个轻量级的多语言视觉-语言模型DC-CLIP，用于中文和英文环境。DC-CLIP在英文环境中性能优越，在中文环境中表现竞争性能，即使使用较少的训练数据。训练机制证明了其有效性。

该研究调查了语言模型在代码摘要中的可解释性，结果显示语言模型的关注点与人类程序员的注意力没有显著关联，人类注意力与语言模型生成摘要质量之间也没有发现影响。研究呼吁进一步研究可解释性的语言模型和软件工程任务中的训练机制以及其他模型关注度的适用性。