Viz: 一个基于 QLoRA 的合法合规生成式人工智能版权市场
原文中文,约600字,阅读约需2分钟。
📝
内容提要
该研究提出了一种内存高效的预训练语言模型适应方法。通过将预训练矩阵分解为高精度低秩部分和内存高效的量化部分,使用迭代算法进行微调。该方法可以动态配置量化参数,并在实验中表现优于其他基准方法。
🏷️