本文提出了一种动态双向Elman注意网络（DBEAN），旨在改善传统文本分类方法在处理复杂语言结构和语义依赖方面的不足。DBEAN结合了双向时序建模与自注意力机制，显著提升了上下文表示效果，同时保持计算效率，具有广泛的应用潜力。

本文研究了$k$NN-MT的理论和实证研究，发现结合$k$NN-MT和适配器的方法能够在特定情况下实现与微调相当的翻译性能，并在域外测试集上取得更好的性能。同时，优化上下文表示可以弥补$k$NN-MT与微调在低频特定领域词汇召回方面的差距。