提升推理效率：释放参数共享的预训练语言模型的力量

BriefGPT - AI 论文速递 · 2023-10-19T00:00:00Z

本文介绍了一种利用神经常微分方程构建的技术，提高了参数共享的预训练语言模型的推理效率，并实现了更大的推理加速。实验结果证明了该方法在自回归和自编码 PLMs 上的有效性，并为在资源受限环境中更高效地利用参数共享模型提供了新的见解。