BriefGPT - AI 论文速递
·
FullLoRA-AT: 高效提升预训练视觉变换器的鲁棒性
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
该论文提出了通过低秩支路将现有的Robust Fine-Tuning方法分解为两个独立部分来优化自然目标和对抗目标的解决方案。实证评估表明该方法在各种下游任务中取得了最优结果，并具有实用性。
🎯
关键要点
- 论文揭示了现有 Robust Fine-Tuning 方法的问题，特征提取器同时优化对抗目标和自然目标导致梯度方向偏离。
- 提出通过低秩支路将 Robust Fine-Tuning 分解为优化自然目标和对抗目标的两个独立部分。
- 引入启发式策略自动调整学习率和损失项的标量。
- 实证评估表明，AutoLoRa 在各种下游任务中取得了最新的最优结果。
- AutoLoRa 具有重要的实用性，可以自动将预训练的特征提取器转换为对抗鲁棒的下游任务模型，无需搜索超参数。
🏷️
标签
➡️
