BriefGPT - AI 论文速递
·
Be Cautious When Merging Unfamiliar LLMs: A Phishing Model Capable of Stealing Privacy
💡
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究探讨了合并大型语言模型（LLMs）时的隐私风险，特别是未审计模型对其他模型隐私安全的影响。提出了一种名为PhiMM的钓鱼模型，通过隐蔽技术窃取用户个人信息，实验结果表明合并增加了隐私泄露的风险。
🎯
关键要点
- 本研究关注合并大型语言模型（LLMs）过程中的隐私风险。
- 未经过严格审计的模型可能影响其他LLMs的隐私安全。
- 提出了一种名为PhiMM的隐私攻击方法，通过构建钓鱼模型和隐蔽的模型伪装技术。
- 钓鱼模型在合并过程中窃取用户的个人识别信息（PII）和成员信息（MI）。
- 实验结果表明，这种合并显著增加了隐私泄露的风险。
➡️
