AdCorDA：通过对抗修正和域适应进行分类器改进
内容提要
该文综述领域适应研究，提出多种对抗方法：RADA用多类鉴别器学习类间依赖；DADA实现类别与域预测互抑；条件对抗适应采用调节策略；VADA与DIRT-T基于聚类假设；DRCN用残差校正网络；另有无监督方法优化误差界及对抗检测修正法，均在基准数据集上取得最优结果。
延伸解读
对抗域适应的演进脉络
文章梳理了从2015年到2020年对抗域适应方法的发展，包括DANN、RADA、DADA、条件对抗适应、VADA/DIRT-T、DRCN等。这些方法逐步从简单域对抗发展到考虑类别关系、聚类假设和残差校正，反映了该领域从粗粒度对齐到细粒度结构对齐的趋势。
方法创新与性能表现
各方法在基准数据集上均报告了最优结果。RADA通过多类鉴别器学习类间依赖；DADA实现类别与域预测互抑，并扩展到部分和开放集；条件对抗适应采用调节策略；VADA和DIRT-T基于聚类假设；DRCN使用残差校正网络。这些创新点共同推动了域适应性能的提升。
无监督与对抗检测的拓展
文章还介绍了无监督域适应方法，通过优化误差界和考虑异常值来避免负迁移。此外，对抗检测与修正方法利用自动编码器和KL散度损失，无需攻击知识即可检测对抗样本，在MNIST、Fashion-MNIST和CIFAR-10上有效，并能检测数据损坏，展示了域适应技术在安全领域的应用潜力。
Q&A
AdCorDA 是什么？它主要解决什么问题？
AdCorDA 是一种通过对抗修正和域适应来改进分类器的方法，主要解决多类分类中的领域适应问题，利用分类结构信息，在基准数据集上取得了最优结果。
RADA 算法是如何工作的？
RADA 使用一个单一的多类域鉴别器，在强制进行领域对抗训练的同时学习 inter-class 依赖关系结构，并将此结构与从源域标签预测器中表征出的 inter-class 依赖关系对齐，从而显著提高类关系的应用。
DADA 方法有什么特点？它解决了什么问题？
DADA 鼓励在输入实例的任何情况下，类别和域预测之间存在相互抑制关系，以解决现有方法中任务和域分类器相互独立导致的收敛问题，并能在实际条件下定义一个最小极值博弈，促进联合分布对齐。
条件对抗域适应采用了哪些调节策略？
条件对抗域适应采用了两种新的调节策略：Multilinear 调节和 Entropy 调节，实现对不同领域的分类问题的对抗对齐，超过了五个数据集上的最新成果。
VADA 和 DIRT-T 模型基于什么假设？它们的效果如何？
VADA 和 DIRT-T 基于集群假设，VADA 结合领域对抗训练和对集群假设违反的惩罚，DIRT-T 采用自然梯度步骤进一步减小集群假设违反。两个模型的组合大大提高了数字、交通标志和 Wi-Fi 识别领域自适应基准的最新性能。
DRCN 网络的结构和优势是什么？
DRCN 是一种深度残差校正网络，使用一个残差块与任务特定的特征层插在源网络中，以有效增强从源到目标的自适应性，明确削弱不相关的源类的影响，并设计了一种加权类别域对齐损失。在部分、传统和细粒度跨领域视觉识别方面，DRCN 优于竞争的深度域自适应方法。
无监督域自适应方法如何优化误差界？
该方法通过同时优化理论上建立的误差界的三个项，迭代搜索潜在的共享特征子空间，来降低数据分布差异并增加类间距离，以有效学习目标数据的预测器，同时考虑数据异常值的影响以避免负面知识迁移。
对抗检测和修正方法是如何工作的？它有什么优势？
该方法利用自动编码器和基于 KL 散度的自定义损失函数，实现分类器的预测和重构实例之间的比较。它是无监督的、易于训练的，不需要关于基础攻击的任何知识。在 MNIST 和 Fashion-MNIST 上，检测器几乎完全中和了像 Carlini-Wagner 或 SLIDE 这样的强大攻击，在 CIFAR-10 上仍然非常有效，还能检测常见的数据损坏和扰动。
