强健主动学习（RoAL）：通过弹性权重巩固对抗动态对手的主动学习
原文中文，约1300字，阅读约需3分钟。
📝
内容提要
本文提出了多种提高人工神经网络（ANN）鲁棒性的方法，包括鲁棒性优化、对抗主动学习算法和基于状态重标记的模型。这些方法有效增强了网络对抗攻击的抵抗力，提高了准确性，并改善了模型在不同实验条件下的表现。
❓
Q&A
鲁棒性优化（RO）如何提高人工神经网络的稳定性？
鲁棒性优化通过替代最小化-最大化过程，在每次参数更新时生成扰动样本并最小化损失，从而提高网络对敌对示例的鲁棒性。
什么是基于状态重标记的对抗主动学习模型（SRAAL）？
SRAAL利用注释和标记/未标记状态信息提取最具信息量的未标记样本，实验结果表明其性能超过现有主动学习算法。
EWC算法在对抗攻击中存在哪些漏洞？
EWC算法在训练中引入微小错误信息，恶意攻击者可以利用这一点逐步让模型遗忘数据，从而掌控模型。
如何通过保持激励持久性（PoE）提高神经网络的鲁棒性？
PoE方法通过限制梯度下降更新在真实参数的参考持久激励轨迹上，从而提高神经网络对抗攻击的鲁棒性。
什么是“忘却以减轻过拟合（FOMO）”学习范式？
FOMO是一种新型学习范式，通过交替随机遗忘权重子集和重新初始化权重，成功缓解了强健过拟合问题，提高了鲁棒性。
不同类型的主动学习算法在实验中表现如何？
不同类型的主动学习算法在相同实验条件下的表现不一致，强正则化下显示出微小或无优势。
🏷️
