基于影响的归因可以被操控
原文中文，约1900字，阅读约需5分钟。
📝
内容提要
本研究揭示了对抗情况下基于影响的归因的可靠性问题，并提出了有效的攻击方法，对数据估值和公平性等应用的安全性有重要影响。
🔎
延伸解读
对抗攻击对归因可靠性的威胁
文章指出，基于影响的归因在对抗情况下可能被系统性篡改。这意味着攻击者可以故意操纵训练数据或模型，使归因结果产生偏差，从而影响数据估值和公平性等应用的安全性。这种攻击具有现实动机，例如在数据估值中获取更高补偿或在公平性评估中掩盖歧视。
攻击方法的有效性与实现
研究提出了有效的攻击方法，并提供了向后兼容的实现。这表明攻击不仅理论可行，而且可以实际部署，对现有系统构成威胁。向后兼容意味着攻击可能在不破坏原有功能的情况下进行，增加了检测和防御的难度。
对数据估值与公平性的影响
基于影响的归因广泛应用于数据估值和公平性评估。如果这些归因可被操控，那么依赖它们做出的决策可能被扭曲，例如错误地奖励低质量数据或掩盖模型偏见。这提醒研究者和从业者需要开发更鲁棒的归因方法，并考虑对抗性环境下的安全性。
❓
Q&A
基于影响的归因在对抗情况下存在哪些可靠性问题？
基于影响的归因在对抗情况下可能被系统性篡改，存在现实动机，导致其可靠性受到质疑。
研究中提出了哪些有效的攻击方法？
研究提出了影子攻击和离群点攻击两种有效的攻击方法，前者利用数据分布知识生成对抗扰动，后者通过黑盒查询操控数据集。
这些发现对数据估值和公平性有什么影响？
这些发现对数据估值和公平性等应用的安全性有重要影响，可能导致补偿的显著增加。
影子攻击和离群点攻击的补偿增幅分别是多少？
影子攻击的补偿增幅至少为200%，而离群点攻击的补偿增幅在185%至643%之间。
研究中提到的向后兼容的实现是什么？
研究提供了向后兼容的实现，确保新攻击方法可以与现有系统兼容使用。
对抗情况下的归因可能被篡改的原因是什么？
对抗情况下的归因可能被篡改的原因是存在现实动机，攻击者可以利用这些动机进行系统性操控。
🏷️
