AdaNCA: 神经元元胞自动机作为更为鲁棒的视觉变换器的适配器
原文中文,约400字,阅读约需1分钟。发表于: 。本文提出了一种称为 AdaNCA 的适配器神经元细胞自动机(Adaptor Neural Cellular Automata,AdaNCA)的方法,用于 Vision Transformer,通过在 Vision Transformer 层之间插入 NCA 来增强 ViT 的性能和抵抗对抗攻击以及在分布之外的输入时的鲁棒性。在 ImageNet1K 基准测试中,AdaNCA 仅增加不到...
本文介绍了AdaNCA方法,用于增强Vision Transformer(ViT)的性能和鲁棒性。AdaNCA通过插入NCA来抵抗对抗攻击,并提高分布之外输入的准确度。在ImageNet1K基准测试中,AdaNCA仅增加不到3%的参数,对抗攻击下准确度提高超过10%。通过广泛评估,证明AdaNCA能够一致提高ViTs的鲁棒性。