2D-Malafide：针对面部深伪检测系统的对抗攻击
内容提要
本研究探讨几何扰动对人脸识别系统的影响，提出了一种快速的地标操纵方法，生成的对抗性人脸具有高成功率和鲁棒性。研究表明，所有像素攻击显著降低分类器的置信度，而人类仍能识别这些图像。此外，研究还提出了针对深度伪造检测器的对抗性转向技术，验证了其在真实场景中的有效性。
延伸解读
几何扰动攻击的独特优势
与传统的像素级对抗攻击不同，本文提出的地标操纵方法通过几何扰动改变人脸关键点位置，生成的对抗性人脸不仅成功率高，而且对人类视觉几乎不可察觉。这种攻击方式更贴近真实场景中的人脸识别系统，因为系统通常依赖关键点进行对齐和识别。研究显示，所有像素攻击虽能显著降低分类器置信度，但人类仍能识别图像，而几何扰动则可能同时欺骗机器并保持人类感知不变，这为对抗攻击研究提供了新方向。
对抗攻击对深度伪造检测的威胁
文章指出，现有的深度伪造检测器在面对对抗性攻击时往往脆弱。研究提出的对抗性转向技术（AdvHeat）基于单视角伪造图像合成新视角，能够欺骗多种检测器，且在黑盒场景下有效。这意味着即使检测器在常规测试中表现良好，攻击者仍可通过精心设计的扰动绕过检测。这提醒我们，在部署深度伪造检测系统时，必须考虑对抗鲁棒性，而不仅仅是准确率。
人类感知与机器识别的差异
研究发现，尽管对抗性人脸能导致分类器高误分类率（如81.6%），但人类仍能正确识别这些图像。这种差异揭示了当前人脸识别系统的脆弱性：它们可能过度依赖某些易受攻击的特征，而人类则依赖更整体的感知。这为设计更鲁棒的识别系统提供了启示，例如结合人类视觉特性或引入多模态验证，以缩小机器与人类之间的感知差距。
Q&A
几何扰动如何影响人脸识别系统？
几何扰动显著降低了人脸识别系统的分类器置信度，平均下降至84%。
研究中提出了什么样的对抗性人脸生成方法？
研究提出了一种快速的地标操纵方法，生成的对抗性人脸具有高成功率和鲁棒性。
人类能否识别被攻击的图像？
尽管分类器的置信度降低，人类仍能识别这些被攻击的图像。
深度伪造检测器在对抗性攻击下的表现如何？
深度伪造检测器在面对对抗性攻击时容易受到影响，验证了其脆弱性。
研究中提到的对抗性转向技术有什么作用？
对抗性转向技术旨在攻击深度伪造检测器，验证其在真实场景中的有效性。
深度伪造技术的恶意使用引发了哪些公众关切？
深度伪造技术的恶意使用降低了人们对数字媒体的信任，引发了严重的公众关切。
