BriefGPT - AI 论文速递 · 2024-12-08T00:00:00Z

知识感知的特征值适应大语言模型

📝

内容提要

本研究提出了一种新的参数高效微调方法KaSA，旨在解决大语言模型在特定任务中的计算和内存使用问题。该方法通过知识感知的特征值分解，显著提升模型在自然语言理解和生成任务中的表现。

🏷️

标签

KaSA 参数高效 大语言模型 微调 自然语言处理