TLoRA：大语言模型的三矩阵低秩适应

TLoRA提出了一种新颖的三矩阵低秩适应方法，通过将权重更新分解为两个固定随机矩阵和一个可训练矩阵，实现高效的参数适应。研究表明，TLoRA在保持与现有低秩方法类似的性能同时，显著减少了可训练参数数量，体现了其在资源高效模型适应中的重要价值。