基于人工神经网络行为可解释性的逃避攻击的拓扑保障
内容提要
该文汇总多项研究，聚焦深度神经网络与图神经网络的对抗攻击与后门攻击问题，涵盖基于梯度的安全性评估、攻击树风险量化、GNN后门检测与防御、神经元修剪消除后门、图视角攻击解释及图分类隐私安全分析，并提出提升鲁棒性的训练方案与算法库。
延伸解读
研究主题的多样性
文章汇总了多项研究，时间跨度从2017年到2023年，主题涵盖深度神经网络与图神经网络的对抗攻击、后门攻击、安全性评估、防御方法以及隐私分析。这些研究分别从梯度评估、攻击树量化、GNN后门检测、神经元修剪、图视角解释等不同角度切入，反映了该领域研究方向的分散性和多样性。
防御策略的演进
从2017年的基于梯度安全性评估和生物物理学原理训练鲁棒网络，到2020年的神经元修剪消除后门，再到2022年的GNN后门检测与防御，防御策略从单纯提升模型鲁棒性逐渐转向针对特定攻击（如后门）的检测与消除。2023年的攻击树量化评估则提供了风险分析的新视角，体现了防御思路的不断细化。
图神经网络的安全挑战
多项研究聚焦于图神经网络（GNN）的安全问题，包括后门攻击检测、对抗攻击的图视角解释以及图分类的隐私安全分析。这些工作表明，GNN在应对对抗性攻击时同样脆弱，且其可解释性可被用于识别恶意子图，从而降低攻击成功率。这为GNN的安全研究提供了新的方向。
跨领域方法的融合
文章提及的研究不仅限于传统的对抗攻击与防御，还涉及生物物理学原理、张量微积分和拟达尔文机制等跨领域方法。例如，利用生物物理学原理训练鲁棒网络，以及基于张量微积分的混合模型寻找拓扑结构。这些融合为对抗攻击与防御研究提供了新的思路，但也可能增加模型复杂性和应用难度。
Q&A
有哪些方法可以评估深度神经网络在对抗攻击下的安全性？
文章提到一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对PDF文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。
如何训练深度神经网络使其对对抗攻击具有强鲁棒性？
文章介绍了一种应用生物物理学原理进行非线性计算的方案，用于训练深度神经网络，生成高度非线性、饱和的神经网络，即使没有对抗性训练样本，在MNIST上也达到了最先进的表现。
图神经网络（GNN）后门攻击的检测和防御有哪些方法？
文章提出了第一种基于GNN的后门攻击检测和防御方法，通过评估模型的透明度和不透明度来识别恶意样本，并利用可解释性确定最显著的子图，从而减少成功攻击率。
如何消除深度神经网络中的后门？
文章提出了基于L∞规范的神经元修剪方法来消除后门，实验证明该方法能显著降低攻击成功率，同时对清晰图像保持高分类准确度。
如何从图的角度检测和解释对抗攻击？
文章引入了一种新的从图形角度检测和解释对抗攻击的方法，利用特定度量来预测和解释对抗攻击，研究表明基于图形的方法有助于理解对抗攻击的内部工作方式。
基于图的分类方法存在哪些安全和隐私问题？
文章研究了基于图的分类方法的安全和隐私分析，提出了对付collective classification方法的对抗攻击方法，并评估了其在进攻和隐私防御方面的效果。
