AttackGNN: 使用强化学习在硬件安全中对 GNN 进行红队攻击
内容提要
该文综述了图神经网络对抗攻击与防御研究，涵盖图重连、超图攻击、模型窃取、节点插入、链路窃取及恶意软件逃逸等攻击方法，以及Pro-GNN、GNNGuard、对抗训练和平滑防御等防御策略，实验证明各方法有效。
延伸解读
攻击与防御的多样性
文章综述了多种针对图神经网络的攻击方法，包括图重连、超图攻击、模型窃取、节点插入、链路窃取和恶意软件逃逸，覆盖了从白盒到黑盒的不同威胁模型。防御方面则提到了Pro-GNN、GNNGuard、对抗训练和平滑防御等策略。这些方法在实验中均显示出有效性，表明GNN安全是一个多维度且活跃的研究领域。
强化学习在攻击中的应用
多篇工作利用强化学习生成攻击扰动，例如通过图重连或节点插入来影响目标模型。强化学习的引入使得攻击能够以渐进式、无梯度的方式进行，提高了攻击的效率和成功率。这反映了攻击技术正朝着更自动化、更适应黑盒场景的方向发展。
防御策略的针对性
防御方法如GNNGuard通过利用图结构和节点特征之间的关系，重新加权或修剪边来减轻攻击影响，在多个数据集上表现出优越性。Pro-GNN则联合学习图结构和稳健模型。这些防御策略针对特定攻击类型设计，强调了理解攻击机制对于构建有效防御的重要性。
Q&A
AttackGNN 是什么？它主要解决什么问题？
AttackGNN 是一种针对图神经网络的对抗攻击方法，通过图重连操作，使用强化学习生成对目标模型影响较小的扰动，并在真实图数据集上验证了有效性。
HyperAttack 是如何攻击超图神经网络的？
HyperAttack 是第一个针对超图神经网络的白盒对抗攻击框架，通过扰乱目标节点连接的超边状态，并引导梯度和集成梯度，提高攻击成功率和时间效率。
针对归纳图神经网络的模型盗窃攻击有哪些方式？
该攻击定义了威胁模型，根据对手的背景知识和目标模型的响应提出了六种攻击方式，在六个基准数据集上取得了良好的性能。
黑盒节点插入攻击如何实现？
该研究提出了基于强化学习框架的渐进式无梯度节点插入攻击方法，在八个基准数据集上，其攻击效率和成功率均优于现有方法。
Pro-GNN 框架如何防御图神经网络对抗攻击？
Pro-GNN 基于真实世界图形的内在属性，联合学习结构性图形和稳健性 GNN 模型，实验表明其在防御敌对攻击方面表现优异。
链路窃取攻击对 GNN 模型有什么威胁？
链路窃取攻击针对图神经网络，介绍了三个维度的威胁模型和八种攻击方法，在八个真实数据集上实验表明攻击有效，揭示了 GNN 模型输出关于训练图结构的丰富信息，黑盒条件下私密数据可被窃取。
GNNGuard 防御算法有什么优势？
GNNGuard 是一个通用算法，可防御基于离散图形结构的多种训练时攻击，通过利用图形结构和节点特征之间的关系，将更高权重分配给连接相似节点的边，修剪不相关节点之间的边，在不同数据集和攻击条件下表现出 15.3% 的优越性。
