BriefGPT - AI 论文速递 · 2025-04-23T00:00:00Z

Linking Importance Sampling and Attention Mechanisms for Efficient Prompt Compression

📝

内容提要

本研究提出了一种新的提示重要性抽样（PIS）框架，结合注意力机制以高效压缩提示，显著提高了大型语言模型的压缩性能和推理效率。

🏷️

标签

压缩性能 大型语言模型 推理效率 提示重要性抽样 注意力机制