BriefGPT - AI 论文速递
·
基于概率波动的生成模型成员推断攻击
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
本文研究了扩散模型在音频生成等任务中的隐私问题，并提出了一种查询式基础的成员推断攻击 (MIA)，即近端初始化攻击 (PIA)。实验结果表明，该方法可以在离散时间和连续时间扩散模型中仅使用两个查询便实现了竞争性能。同时，本研究还首次研究了扩散模型在文本转语音 (TTS) 任务中对成员推断攻击的鲁棒性。实验结果表明，具有 mel-spectrogram 输出的模型容易受到 MIA 攻击，而具有音频输出的模型相对较为鲁棒。
🎯
关键要点
- 本文研究扩散模型在音频生成任务中的隐私问题。
- 提出了一种查询式基础的成员推断攻击 (MIA)，称为近端初始化攻击 (PIA)。
- PIA 利用在 t=0 时初始化的 ε 和预测点得到的 groundtruth 轨迹进行成员推断。
- 实验表明，该方法在离散时间和连续时间扩散模型中仅需两个查询即可实现竞争性能。
- 首次研究扩散模型在文本转语音 (TTS) 任务中的成员推断攻击鲁棒性。
- 实验结果显示，mel-spectrogram 输出的模型易受 MIA 攻击，而音频输出的模型相对较为鲁棒。
➡️
