基于概率波动的生成模型成员推断攻击

本文研究了扩散模型在音频生成等任务中的隐私问题，并提出了一种查询式基础的成员推断攻击 (MIA)，即近端初始化攻击 (PIA)。实验结果表明，该方法可以在离散时间和连续时间扩散模型中仅使用两个查询便实现了竞争性能。同时，本研究还首次研究了扩散模型在文本转语音 (TTS) 任务中对成员推断攻击的鲁棒性。实验结果表明，具有 mel-spectrogram 输出的模型容易受到 MIA 攻击，而具有音频输出的模型相对较为鲁棒。