小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文研究了图神经网络(GNN)的成员推理攻击,发现结构信息是主要泄漏原因,并提出了两种有效的防御方法,降低攻击者的推理准确率60%。同时,分析了隐私风险,提出了多种攻击和防御机制,以构建更安全的GNN模型。

图神经网络能否揭示训练数据特性?一种高效的风险评估方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-06T00:00:00Z

该论文研究了深度学习中的成员推理攻击,指出现有攻击方法的高误报率和识别能力不足。通过实验,提出了新特征和防御机制,揭示了机器学习模型的隐私泄露风险,并探讨了未来研究方向。

抓住我,如果你能:检测深度学习模型中的未经授权的数据使用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-10T00:00:00Z

本文探讨了机器学习模型在隐私和安全性方面的脆弱性,分析了成员推理攻击及其成功因素,并提出了降低攻击准确率的防御方法。研究表明,模型更新可能导致信息泄露,特定属性值更易受到攻击。此外,模型提取攻击的效果受限于攻击者的先验知识,强调了持续评估和监控机器学习系统的重要性。

理解机器学习攻击中的数据重要性:有价值的数据是否造成更大伤害?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-05T00:00:00Z

该论文探讨了深度学习中的成员推理攻击,指出现有方法存在高误报率和识别能力不足的问题。研究引入新特征以提高攻击准确性,并通过实验验证了现有攻击难以同时实现高准确率和低误报率。此外,提出了基于蒙版图像建模的框架,展示了其在不同任务中的有效性。

针对掩蔽图像建模的成员推断攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-13T00:00:00Z

本文研究了机器学习模型的隐私风险及成员推理攻击,提出了一种基于预测熵的攻击方法和隐私风险得分指标。研究发现,个体样本的隐私风险差异显著,主要受模型敏感性和特征嵌入的影响。提出的防御机制“用于成员隐私的蒸馏”能够有效平衡隐私与分类准确性。此外,隐私审计方案量化了大规模模型的隐私泄露,强调了数据集特性与攻击脆弱性之间的关系。

表示幅度对隐私脆弱性具有责任

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-23T00:00:00Z

本文调查了机器学习中的成员推理攻击及其防御措施,分析了攻击的有效性和成功因素,提出使用数据替换作为防御策略以平衡隐私保护与模型效用。同时,评估了大型语言模型在不同设置下的脆弱性,强调数据集特性与攻击成功率的关系。

针对时间序列模型的成员推断攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-03T00:00:00Z

本文调查了机器学习中的成员推理攻击及其防御措施,分析了攻击的统计限制和成功因素,提出了防御策略,并探讨了未来研究方向。研究表明,数据集特性和模型选择对攻击效果有显著影响。

揭示无法察觉的事物:通过可解释性探索白盒成员推断的视角

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-01T00:00:00Z

本文探讨了成员推理攻击对机器学习模型隐私的影响,提出了一种假设检验框架来评估不同攻击模型的效果。研究表明,数据集和抗攻击模型的选择显著影响攻击效果,并提出了相应的防御策略。

参数是否透露了比损失函数更多的关于成员推断的信息?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-17T00:00:00Z

本文探讨了大型语言模型中的成员推理攻击,发现其在多种设置下表现不佳,主要由于数据集庞大和训练迭代次数少。研究提出了新的攻击方法和防御措施,强调了模型隐私性的重要性,并提供了统一的基准测试套件以支持未来研究。

LLM 数据推断:你在我的数据集上训练了吗?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-10T00:00:00Z

本文调查了机器学习中的成员推理攻击及其防御措施,分析了不同攻击类型的威胁及有效性,指出了隐私风险和未来研究方向,为研究社区提供参考。

机器学习即服务中的推断攻击:分类、综述和研究方向

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-04T00:00:00Z

该研究探讨了成员推理攻击(MIA)对大型语言模型的影响。结果显示,由于数据集庞大且训练迭代次数较少,大型语言模型在预训练数据上的成员推理攻击表现较差。研究还发现了一些易受成员推理攻击影响的特定设置,并提供了代码和数据以支持未来的研究工作。

大型语言模型是否受到成员推断攻击的影响?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-12T00:00:00Z

机器去学习是一个新兴领域,通过对现代人工智能模型的隐私保护需求的推动。研究介绍了一种新颖的去学习算法,称为基于距离的质心运动的去学习(DUCK),它通过度量学习来移除与最近的错误质心相匹配的样本。算法在多个基准数据集上进行了性能评估,包括类别移除和同质采样移除,获得了最先进的性能。同时,提出了一种成员推理攻击方法,用于评估算法清除先前知识的能力,并设计了适应未来的方法论。

基于距离的通过质心运动取消学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-12-04T00:00:00Z

本文研究了成员推理攻击敏感数据的扩散模型,提出了两种攻击方法,并在不同数据集上评估了攻击效果和影响攻击性能的因素。同时,评估了攻击方法在差分隐私的扩散模型上的性能。

生成分布对生成模型的成员推断攻击足够

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-30T00:00:00Z

该文介绍了人工智能在日常生活中的应用和隐私风险,提出了一个新的框架来评估机器学习模型的隐私风险。该框架在分类模型的成员推理攻击中表现更准确。

对语言分类模型的成员推断攻击的改进

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-11T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码