强健主动学习（RoAL）：通过弹性权重巩固对抗动态对手的主动学习
内容提要
本文提出了多种提高人工神经网络（ANN）鲁棒性的方法，包括鲁棒性优化、对抗主动学习算法和基于状态重标记的模型。这些方法有效增强了网络对抗攻击的抵抗力，提高了准确性，并改善了模型在不同实验条件下的表现。
延伸解读
弹性权重巩固的脆弱性
文章指出，EWC算法在训练中引入微小错误信息会导致模型遗忘数据，恶意攻击者能够逐步掌控模型。在MNIST数据集上，仅需在不到1%的训练数据中注入恶意样本，即可破坏神经网络的记忆。这表明持续学习算法在对抗环境下面临严重安全风险，需引起重视。
主动学习算法评估的挑战
研究发现，在相同实验条件下，基于不确定性、多样性和委员会的主动学习算法与随机采样基准相比，收益不一致。强正则化下，主动学习方法甚至显示微小或无优势。这种性能度量的差异性可能导致结果与以前报告的不一致，因此需要一套评估建议来确保结果的可重复性和稳健性。
提升鲁棒性的新方法
文章介绍了多种提升神经网络鲁棒性的方法，如基于通道的抑制策略（CAS）通过抑制对抗激活改善防御；保持激励持久性（PoE）将梯度下降限制在参考轨迹上；以及“忘却以减轻过拟合（FOMO）”范式，交替遗忘权重和重新初始化，缓解强健过拟合，在标准准确性和鲁棒准确性之间提供更好权衡。
Q&A
鲁棒性优化（RO）如何提高人工神经网络的稳定性？
鲁棒性优化通过替代最小化-最大化过程，在每次参数更新时生成扰动样本并最小化损失，从而提高网络对敌对示例的鲁棒性。
什么是基于状态重标记的对抗主动学习模型（SRAAL）？
SRAAL利用注释和标记/未标记状态信息提取最具信息量的未标记样本，实验结果表明其性能超过现有主动学习算法。
EWC算法在对抗攻击中存在哪些漏洞？
EWC算法在训练中引入微小错误信息，恶意攻击者可以利用这一点逐步让模型遗忘数据，从而掌控模型。
如何通过保持激励持久性（PoE）提高神经网络的鲁棒性？
PoE方法通过限制梯度下降更新在真实参数的参考持久激励轨迹上，从而提高神经网络对抗攻击的鲁棒性。
什么是“忘却以减轻过拟合（FOMO）”学习范式？
FOMO是一种新型学习范式，通过交替随机遗忘权重子集和重新初始化权重，成功缓解了强健过拟合问题，提高了鲁棒性。
不同类型的主动学习算法在实验中表现如何？
不同类型的主动学习算法在相同实验条件下的表现不一致，强正则化下显示出微小或无优势。
