BriefGPT - AI 论文速递 · 2025-05-13T00:00:00Z

Memory-Compression Cycle Enhances Generalization Ability

📝

内容提要

本研究提出了一种信息瓶颈语言模型（IBLM），通过压缩内部表征来提升模型的泛化能力。引入了门控相变（GAPT）算法，实现了记忆与压缩的自适应切换，实验结果表明GAPT显著提升了模型性能。

🏷️

标签

信息瓶颈 模型性能 泛化能力 语言模型 门控相变