Transformer Tuning: Efficient Model Adaptation for Software Tasks Using Code Property Graphs

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种转换器调优技术,通过引入代码属性图的结构和依赖信息,解决了资源受限环境中大型语言模型的内存需求问题。该方法在减少可训练参数的同时,保持了与全参数微调相当的性能,展现出显著的应用潜力。

🏷️

标签

➡️

继续阅读