SoK: 降低 Fine-tuned 语言模型对成员推断攻击的脆弱性
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
人工智能在多个领域的应用日益普遍，但隐私风险也逐渐显现。研究表明，大型语言模型易受到成员推理攻击，攻击者可通过少量样本推断用户数据是否被用于训练。为此，提出了一种新框架，利用集合方法提高攻击模型的准确性，并探讨差分隐私在主题模型中的应用，以增强隐私保护。
❓
Q&A
大型语言模型面临哪些隐私风险？
大型语言模型易受到用户推测攻击，攻击者可以通过少量样本推断用户数据是否被用于训练。
如何评估机器学习模型的隐私风险？
评估机器学习模型的隐私风险通常通过运行已知攻击来评估攻击的成功率。
提出的框架如何提高成员推理攻击的准确性？
新框架利用集合方法，针对数据的不同子集生成多个专门的攻击模型，从而提高准确性。
差分隐私在主题模型中的应用有什么效果？
差分隐私在主题模型中的应用能够增强隐私保护，且对实际效用影响较小。
攻击模型的效果受哪些因素影响？
攻击模型的效果主要由数据集和参与者数量驱动，数据的不同子集也会影响结果。
有哪些对策可以减轻隐私风险？
论文给出了相应的对策和缓解策略，以减轻隐私风险，包括限制单个用户的细调样本数量。
🏷️
