StarFT: Robust Fine-tuning of Zero-shot Models via Sparse Alignment
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种名为StarFT的稀疏文本对齐正则化方法,旨在增强零样本模型的鲁棒性,解决微调时表现不稳的问题。实验结果表明,该方法在水鸟组转移场景中显著提高了模型的平均准确率和最差组准确率。
🎯
关键要点
- 本研究提出了一种名为StarFT的稀疏文本对齐正则化方法。
- StarFT旨在增强零样本模型的鲁棒性,解决微调时表现不稳的问题。
- 实验结果显示,该方法在水鸟组转移场景中显著提高了模型的平均准确率和最差组准确率,分别提高了3.02%和14.30%。
➡️