本研究提出了一种“层可调交互”的编码器架构，旨在提升自然语言处理任务的表现并降低计算量。研究表明，简单的下一个标记预测器在文本生成和算术任务中表现良好，强调了自回归训练方案的重要性。此外，通过预测多个未来标记来提高样本利用效率，解决了大型语言模型的黑箱问题，并揭示了每层对预测准确性的贡献。

2023年，全球事件影响了事业，但我坚持原则，迈向人生目标。我从INTJ变成ENTP，适应了不同角色。希望在新的十年里，我实现理想，让身边的人受益。