小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文研究了图神经网络(GNN)的成员推理攻击,发现结构信息是主要泄漏原因,并提出了两种有效的防御方法,降低攻击者的推理准确率60%。同时,分析了隐私风险,提出了多种攻击和防御机制,以构建更安全的GNN模型。

图神经网络能否揭示训练数据特性?一种高效的风险评估方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-06T00:00:00Z

该论文研究了深度学习中的成员推理攻击,指出现有攻击方法的高误报率和识别能力不足。通过实验,提出了新特征和防御机制,揭示了机器学习模型的隐私泄露风险,并探讨了未来研究方向。

抓住我,如果你能:检测深度学习模型中的未经授权的数据使用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-10T00:00:00Z

本文探讨了机器学习模型在隐私和安全性方面的脆弱性,分析了成员推理攻击及其成功因素,并提出了降低攻击准确率的防御方法。研究表明,模型更新可能导致信息泄露,特定属性值更易受到攻击。此外,模型提取攻击的效果受限于攻击者的先验知识,强调了持续评估和监控机器学习系统的重要性。

理解机器学习攻击中的数据重要性:有价值的数据是否造成更大伤害?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-05T00:00:00Z

该论文探讨了深度学习中的成员推理攻击,指出现有方法存在高误报率和识别能力不足的问题。研究引入新特征以提高攻击准确性,并通过实验验证了现有攻击难以同时实现高准确率和低误报率。此外,提出了基于蒙版图像建模的框架,展示了其在不同任务中的有效性。

针对掩蔽图像建模的成员推断攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-13T00:00:00Z

本文研究了机器学习模型的隐私风险及成员推理攻击,提出了一种基于预测熵的攻击方法和隐私风险得分指标。研究发现,个体样本的隐私风险差异显著,主要受模型敏感性和特征嵌入的影响。提出的防御机制“用于成员隐私的蒸馏”能够有效平衡隐私与分类准确性。此外,隐私审计方案量化了大规模模型的隐私泄露,强调了数据集特性与攻击脆弱性之间的关系。

表示幅度对隐私脆弱性具有责任

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-23T00:00:00Z

本文调查了机器学习中的成员推理攻击及其防御措施,分析了攻击的有效性和成功因素,提出使用数据替换作为防御策略以平衡隐私保护与模型效用。同时,评估了大型语言模型在不同设置下的脆弱性,强调数据集特性与攻击成功率的关系。

针对时间序列模型的成员推断攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-03T00:00:00Z

本文调查了机器学习中的成员推理攻击及其防御措施,分析了攻击的统计限制和成功因素,提出了防御策略,并探讨了未来研究方向。研究表明,数据集特性和模型选择对攻击效果有显著影响。

揭示无法察觉的事物:通过可解释性探索白盒成员推断的视角

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-01T00:00:00Z

本文探讨了成员推理攻击对机器学习模型隐私的影响,提出了一种假设检验框架来评估不同攻击模型的效果。研究表明,数据集和抗攻击模型的选择显著影响攻击效果,并提出了相应的防御策略。

参数是否透露了比损失函数更多的关于成员推断的信息?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-17T00:00:00Z

本文探讨了大型语言模型中的成员推理攻击,发现其在多种设置下表现不佳,主要由于数据集庞大和训练迭代次数少。研究提出了新的攻击方法和防御措施,强调了模型隐私性的重要性,并提供了统一的基准测试套件以支持未来研究。

LLM 数据推断:你在我的数据集上训练了吗?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-10T00:00:00Z

本文调查了机器学习中的成员推理攻击及其防御措施,分析了不同攻击类型的威胁及有效性,指出了隐私风险和未来研究方向,为研究社区提供参考。

机器学习即服务中的推断攻击:分类、综述和研究方向

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-04T00:00:00Z

人工智能在多个领域的应用日益普遍,但隐私风险也逐渐显现。研究表明,大型语言模型易受到成员推理攻击,攻击者可通过少量样本推断用户数据是否被用于训练。为此,提出了一种新框架,利用集合方法提高攻击模型的准确性,并探讨差分隐私在主题模型中的应用,以增强隐私保护。

SoK: 降低 Fine-tuned 语言模型对成员推断攻击的脆弱性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-13T00:00:00Z

本文研究了扩散模型中的成员推理攻击,提出了一种基于损失和似然的攻击方法,并评估了其在不同数据集上的效果。研究表明,扩散模型容易泄露训练数据,提出的黑盒攻击方法准确率达到60%。同时,强调了保护会员隐私的必要性,并提出了“用于成员隐私的蒸馏”防御方法,以提高隐私保护与分类准确性之间的平衡。

模型将明示:扩散模型的训练成员推断

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-13T00:00:00Z

本文研究了针对敏感数据的成员推理攻击,提出了一种基于损失和似然的攻击方法,并评估了其在不同数据集上的效果。研究发现,生成模型(如扩散模型)易受攻击,强调在设计时需关注隐私风险。同时,使用差分隐私算法可以减轻攻击威胁。

主题建模中的成员推断攻击和隐私

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-07T00:00:00Z

该研究探讨了成员推理攻击(MIA)对大型语言模型的影响。结果显示,由于数据集庞大且训练迭代次数较少,大型语言模型在预训练数据上的成员推理攻击表现较差。研究还发现了一些易受成员推理攻击影响的特定设置,并提供了代码和数据以支持未来的研究工作。

大型语言模型是否受到成员推断攻击的影响?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-12T00:00:00Z

机器去学习是一个新兴领域,通过对现代人工智能模型的隐私保护需求的推动。研究介绍了一种新颖的去学习算法,称为基于距离的质心运动的去学习(DUCK),它通过度量学习来移除与最近的错误质心相匹配的样本。算法在多个基准数据集上进行了性能评估,包括类别移除和同质采样移除,获得了最先进的性能。同时,提出了一种成员推理攻击方法,用于评估算法清除先前知识的能力,并设计了适应未来的方法论。

基于距离的通过质心运动取消学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-12-04T00:00:00Z

本文研究了成员推理攻击敏感数据的扩散模型,提出了两种攻击方法,并在不同数据集上评估了攻击效果和影响攻击性能的因素。同时,评估了攻击方法在差分隐私的扩散模型上的性能。

生成分布对生成模型的成员推断攻击足够

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-30T00:00:00Z

该文介绍了人工智能在日常生活中的应用和隐私风险,提出了一个新的框架来评估机器学习模型的隐私风险。该框架在分类模型的成员推理攻击中表现更准确。

对语言分类模型的成员推断攻击的改进

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-11T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码