结合差分隐私的端到端语音识别联邦学习
原文英文，约300词，阅读约需1分钟。
📝
内容提要
本文介绍了将差分隐私应用于联邦学习的自动语音识别任务的新方法。作者通过模型设计和数据异质性等因素的探索，建立了FL with DP的ASR基准，并成功对抗了差分隐私噪声对模型训练的不利影响。在用户级别上，他们实现了（7.2，10^-9）-DP和（4.5，10^-9）-DP，并在ASR中取得了较低的词错误率。
❓
Q&A
什么是联邦学习在自动语音识别中的应用？
联邦学习在自动语音识别中用于训练机器学习模型，但目前仍处于初步探索阶段。
差分隐私如何增强联邦学习的用户隐私？
差分隐私为联邦学习提供强有力的隐私保障，防止用户数据泄露。
本文提出了什么新的方法来应用差分隐私于联邦学习？
本文建立了FL with DP的ASR基准，探索了模型设计和数据异质性等因素。
在ASR中实现的用户级别差分隐私效果如何？
实现了（7.2，10^-9）-DP和（4.5，10^-9）-DP，词错误率分别下降了1.3%和4.6%。
如何对抗差分隐私噪声对模型训练的影响？
通过恢复每层剪裁来对抗DP噪声的不利影响。
联邦学习在异构数据下的训练效果如何？
通过合理的中心聚合数量，即使在异构数据下也能训练出几乎最优的FL模型。
🏷️
