稀疏性在少样本适应中的表现优于低秩投影

📝

内容提要

本研究解决了在少量标记样本下,视觉-语言模型的适应面临的严重过拟合和计算限制问题。提出的稀疏优化(SO)框架通过高稀疏性动态调整极少量参数,显著减轻了过拟合现象,并确保在低数据环境下稳定适应。在11个不同数据集上的广泛实验表明,SO在少样本适应性能上达到了最先进水平,并减少了内存开销。

➡️

继续阅读