SLS:整层剪掉!基于降维特征聚类的PETL模型剪枝新方法 | ECCV'24 - 晓飞的算法工程笔记
原文中文,约2800字,阅读约需7分钟。发表于: 。来源:晓飞的算法工程笔记 公众号,转载请注明出处 论文: Straightforward Layer-wise Pruning for More Efficient Visual Adaptation 论文地址:https://arxiv.org/abs/2407.14330 论文代码:https:
本文提出了一种针对PETL模型的剪枝方法SLS,通过特征级分析评估参数重要性,有效解决冗余参数问题。SLS在VTAB-1k基准测试中优于传统剪枝方法,提升了模型的存储效率和准确性,并动态识别冗余参数,确保剪枝过程不增加存储开销。