随机平滑是一种增强机器学习模型鲁棒性的方法,但攻击者可以利用其随机性进行后门攻击。本文提出两种攻击方式:简单攻击通过替换噪声分布,位翻转攻击则通过微调随机数生成器的位数,导致预测置信度严重失真。这表明现有防御措施无法有效应对复杂攻击,需加强对随机性来源的信任与防护。
完成下面两步后,将自动完成登录并继续当前操作。