一种面向邻域感知的静态词嵌入差分隐私机制
原文中文,约300字,阅读约需1分钟。发表于: 。我们提出了一种考虑预训练静态词嵌入空间中单词邻域的邻域感知差分隐私(NADP)机制,以确定保证特定隐私级别所需的最小噪音量。我们首先基于嵌入构建最近邻图,并将其分解为一组连接组件(即邻域)。然后,我们根据邻域中的词集对每个邻域中的单词分别应用不同水平的高斯噪音。实验证明,我们提出的 NADP 机制在多个下游任务中一致优于多种先前提出的 DP 机制,如拉普拉斯、高斯和马哈拉诺比斯,同时保证更高级别的隐私。
该文介绍了一种基于图神经网络的学习框架,可以在用户层面提供节点隐私,并且在损失效用性方面表现较低。该框架使用分布式隐私保护的概念,在节点水平对特征和标签数据应用随机化机制,并通过随机化数据的统计分析中的频率估计开发了重构方法来逼近扰动数据的特征和标签。该框架还形成了利用图聚类的频率估计来在子图层面监督训练过程的学习框架。实验结果证明了该模型的有效性。