BriefGPT - AI 论文速递
·
The Adversarial Risks of Test Time Adaptation: An Investigation into Realistic Test-Time Data Poisoning
💡
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本文研究了测试时适应（TTA）中的对抗风险，提出了新的数据污染假设和攻击方法。研究表明，在缺乏良性样本的情况下，TTA仍能抵御对抗攻击，并提出了有效的防御策略，为开发更鲁棒的TTA方法奠定基础。
🎯
关键要点
- 测试时适应（TTA）在推理阶段使用测试数据更新模型权重，以增强泛化能力。
- TTA的做法使其面临对抗风险，尤其是在使用精心制作的对抗测试样本时。
- 本文提出了更切实的测试时数据污染假设和攻击方法。
- 研究表明，在缺乏良性样本的情况下，TTA仍能保持较强的鲁棒性，能够抵御对抗攻击。
- 提出了有效的防御策略，为开发对抗鲁棒的TTA方法奠定基础。
➡️
