AdaNCA: 神经元元胞自动机作为更为鲁棒的视觉变换器的适配器
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
本文介绍了AdaNCA方法,用于增强Vision Transformer(ViT)的性能和鲁棒性。AdaNCA通过插入NCA来抵抗对抗攻击,并提高分布之外输入的准确度。在ImageNet1K基准测试中,AdaNCA仅增加不到3%的参数,对抗攻击下准确度提高超过10%。通过广泛评估,证明AdaNCA能够一致提高ViTs的鲁棒性。
🎯
关键要点
- 提出了一种称为 AdaNCA 的适配器神经元细胞自动机方法,用于增强 Vision Transformer 的性能。
- AdaNCA 通过在 Vision Transformer 层之间插入 NCA 来抵抗对抗攻击。
- 在 ImageNet1K 基准测试中,AdaNCA 仅增加不到 3% 的参数。
- AdaNCA 在对抗攻击下的准确度提高了超过 10%。
- 通过对 8 个鲁棒性基准测试和 4 个 ViT 架构的评估,证明了 AdaNCA 能够一致提高 ViTs 的鲁棒性。
➡️