Shapley 值特征推断攻击
原文中文,约300字,阅读约需1分钟。发表于: 。通过特征推断攻击,研究了 Shapley value 作为模型可解释性方法的隐私风险,并在 Google Cloud、Microsoft Azure 和 IBM aix360 等机器学习即服务平台上展示了其脆弱性和必要性。
本研究介绍了Shapley可解释性的数学根据和模型独立的框架,提出了解决模型特征不相关问题的两种策略。研究发现,不切实际的假设会导致展示效果错误,隐藏敏感性属性的隐含模型依赖性和意义不明的高维数据。