是否可能通过自然触发方式操纵人脸伪造检测?
原文中文,约600字,阅读约需2分钟。发表于: 。深度神经网络在面部伪造检测模型中显著提高了性能,但是其安全性受到注入触发器(即后门攻击)的威胁。为了进一步研究自然触发器,我们提出了一种基于合成分析的面部伪造检测模型后门攻击,将自然触发器嵌入潜在空间,并通过两个角度对此类后门漏洞进行了深入研究:(1)模型区分(基于优化的触发器):我们采用替代检测模型并通过最小化交叉熵损失找到触发器;(2)数据分布(自定义触发器):我们通过操纵长尾分布中的不...
深度神经网络在面部伪造检测中性能提高,但受到后门攻击威胁。研究了自然触发器,提出了基于合成分析的后门攻击方法。实验证明该方法在攻击成功率、后门防御和人工检查方面具有优势。