本研究提出QLess方法，旨在提高大语言模型微调中的数据选择效率。通过结合梯度量化与LESS框架，QLess在低内存使用下实现了优良的数据选择性能，实验结果表明其在数据估值质量上显著保留。

QLess: 一种用于大语言模型微调的数据估值与选择的量化方法
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证