基于伪随机数生成器的模型后门攻击
💡
原文中文，约3300字，阅读约需8分钟。
📝
内容提要
随机平滑是一种增强机器学习模型鲁棒性的方法，但攻击者可以利用其随机性进行后门攻击。本文提出两种攻击方式：简单攻击通过替换噪声分布，位翻转攻击则通过微调随机数生成器的位数，导致预测置信度严重失真。这表明现有防御措施无法有效应对复杂攻击，需加强对随机性来源的信任与防护。
🎯
关键要点
- 随机平滑是一种增强机器学习模型鲁棒性的方法。
- 攻击者可以利用随机平滑的随机性进行后门攻击。
- 简单攻击通过替换噪声分布来实现，位翻转攻击则通过微调随机数生成器的位数。
- 现有防御措施无法有效应对复杂攻击，需加强对随机性来源的信任与防护。
- 对抗样本是机器学习模型在特定扰动下的鲁棒性问题。
- 随机平滑通过添加噪声生成多个扰动样本，提高模型鲁棒性。
- 随机性在对抗性机器学习中扮演重要角色，影响攻击和防御。
- 伪随机数生成器（PRNG）依赖确定性计算生成可预测的数字序列。
- 线性同余法是目前最流行的随机数生成器，影响生成器性能的因素包括模量、乘法器和增量。
❓
延伸问答
什么是随机平滑，它如何增强机器学习模型的鲁棒性？
随机平滑通过向输入添加噪声生成多个扰动样本，从而提高模型在对抗性攻击下的鲁棒性。
攻击者如何利用随机平滑进行后门攻击？
攻击者可以通过替换噪声分布或微调随机数生成器的位数来实施后门攻击，导致预测置信度失真。
简单攻击和位翻转攻击有什么区别？
简单攻击通过替换噪声分布实现，而位翻转攻击则通过微调随机数生成器的位数，后者更隐蔽且难以检测。
现有的防御措施为何无法有效应对复杂攻击？
现有防御措施未能充分考虑随机性来源的安全性，导致无法有效防范复杂的后门攻击。
伪随机数生成器（PRNG）在攻击中扮演什么角色？
PRNG生成可预测的数字序列，攻击者可以通过操控其输出影响模型的决策过程。
随机性在对抗性机器学习中有何重要性？
随机性在对抗性机器学习中影响攻击和防御的效果，许多防御方法依赖于随机预处理来增强模型的鲁棒性。
➡️
