CloudFort: 通过空间划分和集成预测提高 3D 点云分类的鲁棒性对抗后门攻击
内容提要
本文提出了两种针对三维点云的后门攻击方法：有毒标签和干净标签后门攻击，成功率分别为95%和50%。同时，介绍了MirrorAttack和PointCert等防御框架，提升了模型的鲁棒性，并验证了其在对抗攻击中的有效性。
延伸解读
后门攻击的两种形式与成功率差异
文章提出了针对三维点云的有毒标签和干净标签后门攻击。有毒标签攻击成功率超过95%，而干净标签攻击约为50%。这种差异反映了攻击隐蔽性与成功率之间的权衡：干净标签攻击不修改标签，更难以检测，但成功率较低；有毒标签攻击虽然高效，却可能因标签异常而被发现。这为评估三维深度学习模型的安全性提供了基准。
MirrorAttack：基于自编码器的触发器嵌入
MirrorAttack是一种新颖的3D后门攻击方法，它利用自编码器在干净的点云中嵌入触发器，避免了复杂的手动设计，同时保证了触发器的不可察觉性。这种方法降低了攻击的实施门槛，并提高了隐蔽性，对三维点云分类系统的安全构成潜在威胁，也提示防御方需要关注基于生成模型的攻击。
防御框架：PointCert与PointGuard
PointCert是一个通用框架，可将任何分类器转变为抗击对抗点云攻击的验证型分类器，在多个应用场景中鲁棒性优于现有认证防御技术。PointGuard则通过创建多个随机子集采样的点云来预测原始点云的标签，具有预算效率，并在多个基准数据集上得到验证。两者为提升三维点云分类的鲁棒性提供了不同思路。
三维点云模型的脆弱性与防御潜力
文章指出，与2D图像分类器相比，处理三维点云数据的网络对对抗攻击更脆弱，但它们也更容易被防御。这意味着针对三维点云的防御机制可能更有效，但同时也需要更关注模型本身的安全漏洞。这一发现强调了在三维深度学习应用中，平衡模型鲁棒性和准确性的重要性。
Q&A
有毒标签后门攻击的成功率是多少？
有毒标签后门攻击的成功率高达95%。
干净标签后门攻击的成功率如何？
干净标签后门攻击的成功率约为50%。
MirrorAttack是如何工作的？
MirrorAttack通过使用自编码器在干净的点云中嵌入触发器，保证触发器的不可察觉性。
PointCert框架的主要功能是什么？
PointCert是一个通用框架，可以将任何分类器转变为抗击对抗点云攻击的验证型分类器。
PointGuard防御方法的工作原理是什么？
PointGuard通过创建多个随机子集采样的点云来预测原始点云的标签，具有预算效率。
本文提出的攻击和防御方案有什么验证结果？
实验验证了攻击和防御框架在多个点云网络上的有效性。
