本文介绍了一种对话界面系统,旨在促进公共部门差分隐私人工智能的参与式设计。提出了三项关键贡献:适应性的ε选择协议、可解释的噪声注入框架和动态调节隐私预算的法律合规机制,以平衡数学隐私与民主问责,提升公众参与。
差分隐私是保护个人敏感信息的重要概念,旨在确保数据分析的准确性与隐私保护之间的平衡。其优点包括隐私保护、准确性和灵活性,但面临隐私与准确性之间的权衡及实施挑战。通过差分隐私算法和管理隐私预算,组织可以有效平衡隐私与安全。
本研究提出了一种两阶段微调框架,有效解决了差分隐私下生成表格数据的挑战,显著提升生成性能并更合理利用隐私预算。
本文研究隐私预算问题,提出通过调整噪声比例来平衡隐私保护与计算效用。介绍了多种生成模型及其隐私风险,提出差分隐私概率模型以生成高质量图像,并优化训练效率。探讨不同隐私保护方法在深度学习中的应用及未来研究方向,最终实现低隐私成本下生成高质量数据的可行方法。
DPBalance是一种新型隐私预算调度机制,旨在优化联邦学习的效率和公平性。研究探讨了隐私与实用性之间的平衡,验证了不同数据类型和差分隐私机制对模型性能的影响。该框架通过随机稀疏化和梯度扰动增强隐私保证,提高了通信效率,并在医疗应用中应对数据隐私和安全挑战。
使用预训练的语言模型和DP优化技术,在中等规模的语料库上获得胜过强基线和同一隐私预算下的NLP模型。提出了内存节省技术来解决大型Transformers上运行DP-SGD的计算难题。
该研究探讨了深度神经网络过拟合的新认识,并研究了成员推断攻击。攻击方法可校准,且可以进行高精度的成员推论。较小的一阶差分隐私不能防止攻击,而较大的隐私预算则使攻击几乎与未受保护的模型相同。
完成下面两步后,将自动完成登录并继续当前操作。