该研究探讨了相似性隐私指标在保护合成数据隐私方面的局限性,发现重建攻击能够从“真正匿名”的合成数据中恢复原始数据,尽管相似性指标显示数据安全。这引发了对合成数据隐私保护方法有效性的担忧。
该研究审计了差分隐私随机梯度下降(DP-SGD)算法的隐私泄漏,比较了不同优化方法对模型性能和隐私保护的影响。提出了动态 DP-SGD 算法,通过调整剪裁阈值和噪声幅度来提高模型准确性,同时保持隐私。还探讨了差分隐私参数选择的挑战及其对重建攻击的影响。
本文探讨了差分隐私在机器学习中的应用,提出了PAC隐私保护扩散模型,以提高隐私保护性能。研究表明,较大的隐私预算能有效防止重建攻击,同时保持模型性能。通过新度量标准评估隐私水平,强调差分隐私是保护数据隐私的关键。
本文介绍了一种名为FIVA的新的面部匿名化方法,使用身份追踪实现一致的面部匿名化,并保证与原始面部有很强的区别。FIVA对于0.001的误通过率具有0的真阳性,并考虑了重建攻击这一重要的安全问题。同时,还展示了重建攻击模型可以用于检测深度伪造。最后,提供了实验证据,展示了FIVA如何甚至能够在单个目标图像上进行面部交换。
完成下面两步后,将自动完成登录并继续当前操作。