本研究探讨了扩散模型的记忆行为,发现数据分布、模型配置和训练过程对记忆有显著影响。提出了一种新的dropout方法以减少记忆化的准确性,降低泛化差距。同时,研究提出了DEPN框架,用于检测和编辑隐私神经元,显著降低数据泄漏风险。
DEPN框架用于检测和编辑预训练语言模型中的隐私神经元,以降低数据泄漏风险。该方法通过引入隐私神经元探测器定位相关神经元,并通过编辑激活为零来去除隐私信息。实验证明该方法有效降低私人数据泄漏风险,且不影响模型性能。研究还展示了模型记忆和隐私神经元之间的关系,证明该方法的稳健性。
在数字经济背景下,数据安全是企业发展的基础。FreeBuf将于2023年6月6日举办企业安全俱乐部·深圳站活动,邀请亿格云解决方案专家探讨如何有效解决企业数据泄漏风险,建立全域数据安全治理体系。活动期间还有集赞赢好礼和百元京东卡限时发放的活动。该活动仅面向网安行业从业者开放,参会观众可免费报名。
完成下面两步后,将自动完成登录并继续当前操作。