本研究提出了一种无损标记剪枝方法,以解决后交互神经信息检索模型(如ColBERT)在存储文档标记时的高内存需求。通过引入三种正则化损失和两种剪枝策略,确保在仅使用30%标记的情况下,模型性能得以保持。
完成下面两步后,将自动完成登录并继续当前操作。