BriefGPT - AI 论文速递
·
隐藏与寻找（HaS）：一种轻量级的提示隐私保护框架
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
本文介绍了一种基于大型语言模型（LLM）的匿名化技术，通过训练一个小型本地模型来解除LLM返回结果的匿名化。作者提出了HaS框架，通过隐藏私有实体和寻找私有实体的过程来实现匿名化和解匿名化。实验结果表明，HaS框架在隐私保护和实用性之间实现了最优的平衡。
🎯
关键要点
- 许多公司提供基于大型语言模型（LLM）的服务，导致隐私问题。
- 用户的提示暴露给模型提供者，先前的多方计算（MPC）研究在LLM应用中不切实际。
- 轻量级的匿名化技术无法恢复LLM生成结果中的敏感数据。
- 本文提出通过训练小型本地模型扩展匿名化技术的应用场景。
- 引入HaS框架，包含两个核心过程：隐藏私有实体和寻找私有实体。
- 提出黑盒和白盒对抗模型以定量评估HaS的隐私保护性能。
- 进行了翻译和分类任务的实验以评估HaS的可用性。
- 实验结果表明HaS框架在隐私保护和实用性之间实现了最优的平衡。
➡️
