CipherDM：安全的三方推理用于扩散模型采样
内容提要
本文研究了基于离散扩散模型的数据生成方法的隐私保护能力，提出了PAC隐私保护扩散模型，增强了隐私保护。通过新度量标准评估模型隐私水平，实验结果显示其隐私保护性能优于现有模型。此外，介绍了HE-Diffusion框架，结合同态加密技术，提高了隐私保护和图像生成效率。研究还探讨了扩散模型在高分辨率图像生成中的应用及其安全性问题，并提出了有效的防御措施。
延伸解读
隐私保护扩散模型的技术演进
文章梳理了从2023年10月到2024年8月间，扩散模型隐私保护研究的多个进展。早期工作从理论层面分析离散扩散模型的隐私泄露，并提出PAC隐私保护模型；随后出现结合同态加密的HE-Diffusion框架，在去噪阶段实现加密并大幅提升效率；2024年则进一步探索检索增强生成、梯度协作训练中的隐私风险及防御。这些工作显示该领域正从理论度量走向实际框架与攻击防御的平衡。
同态加密与扩散模型结合的效率突破
HE-Diffusion框架将同态加密应用于扩散过程的去噪阶段，通过部分图像加密和稀疏张量表示，在保证输出质量的同时显著降低开销。实验表明，相比基准方法实现了500倍加速，并将同态加密推断时间降至分钟级，性能与明文版本相当。这一结果说明，密码技术与生成模型的结合可以在不牺牲实用性的前提下提供隐私保护，为关键应用中的高效图像生成提供了可行路径。
梯度泄露揭示的高分辨率图像风险
文章提到，基于梯度的协作训练中，共享梯度可能泄露数据隐私，即使高分辨率图像也能被高质量重建。后续研究进一步提出重建攻击方法，可从泄露的梯度中恢复高达512x512像素的图像，并在像素级准确性和时间效率上优于其他基准，甚至在一定程度上使差分隐私失效。这提示在分布式训练或联邦学习场景中，仅依赖梯度共享或简单差分隐私可能不足，需要结合更鲁棒的防御策略。
Q&A
PAC隐私保护扩散模型的主要特点是什么？
PAC隐私保护扩散模型通过数据预处理减少合成数据的隐私风险，并确保可能近似正确的隐私保护。
HE-Diffusion框架如何提高隐私保护和图像生成效率？
HE-Diffusion框架结合同态加密技术，通过最小失真方法和稀疏张量表示显著提高了隐私保护和图像生成效率。
如何评估扩散模型的隐私保护性能？
通过开发新的度量标准来衡量隐私水平，并在基准测试中与现有模型进行比较。
扩散模型在高分辨率图像生成中的应用有哪些挑战？
扩散模型在高分辨率图像生成中面临保护特定数据属性隐私的挑战，现有模型通常表现不佳。
研究中提出了哪些有效的防御措施？
研究提出了对不同类型扩散模型的深入分析，并指出了潜在的防御措施以应对安全性问题。
扩散模型的隐私保护性能与现有模型相比如何？
实验结果显示，PAC隐私保护扩散模型的隐私保护性能优于现有领先的私有生成模型。
