小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文探讨了联邦学习中的客户隐私泄漏攻击,提出了评估框架和缓解策略。研究发现,攻击者可以通过分析共享参数重构私有数据,并评估了不同超参数和攻击算法对攻击效果的影响。实验结果表明,适当组合现有防御机制能够有效抵御攻击,强调了重新设计隐私保护机制的重要性。

攻击下的联邦学习:改善图像批次的梯度反演

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-26T00:00:00Z

本文探讨了大型语言模型(LLMs)在用户隐私和数据安全方面的挑战,并提出结合知识图谱的新架构。研究强调用户在隐私、效用和便利之间的权衡,提出设计指南以保护用户隐私。通过分析用户与AI模型的互动,发现个人信息在意外上下文中频繁出现,呼吁设计机制帮助用户监管互动。此外,研究提出了PrivacyLens框架,评估语言模型的隐私泄漏情况,发现其在多种情况下仍存在敏感信息泄露。

具有双重关注的AI代理:确保隐私与战略性自我披露

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-26T00:00:00Z

本文研究了差分隐私下的均值估计,提出了针对不同隐私偏好的用户的最优算法,并分析了隐私要求对估计性能的影响。研究发现,严格隐私要求的用户会影响整体误差率,而其他用户则可以获得额外的隐私保护。此外,文章还探讨了分布式估计和时间相关性下的隐私泄漏问题,并提出了有效的算法和机制,以提高隐私保护和估计的准确性。

差分隐私的分布式均值估计的相关隐私机制

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-03T00:00:00Z

本文研究了生成模型的成员推断攻击,验证了多种生成模型的隐私泄漏风险。发现图神经网络中的结构信息是主要泄漏原因,并提出有效防御方法,降低攻击准确率60%。同时探讨数据集特性与攻击脆弱性之间的关系,强调生成模型设计中的隐私保护重要性。

GLiRA: 通过知识蒸馏进行的黑盒成员推理攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-13T00:00:00Z

本研究提出了一种基于强化学习的黑盒模型反演攻击方法,结合生成对抗网络(GANs)和马尔可夫决策过程,显著提高了攻击性能。实验结果表明,在多种数据集上,攻击成功率显著提升,生成图像质量与白盒攻击相当,揭示了生成模型的隐私泄漏风险,呼吁加强防护措施。

基于多智能体强化学习的分布式黑盒模型逆推攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-22T00:00:00Z

本文提出了评估客户隐私泄漏攻击的框架,分析了联邦学习中的攻击效果及防御策略。研究表明,攻击者可通过共享参数重构私有数据,并探讨了隐私保护与模型准确性之间的权衡。最终,提出了多种防御机制以增强联邦学习系统的安全性。

联邦学习隐私攻击效率研究

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-15T00:00:00Z
拒绝「白嫖」!数千名作家发声:生成式 AI 也得付版权费

8500多名作者联合签署公开信,要求生成式AI领导者在训练AI时征得版权保护材料的作者同意,并给予公平补偿。公开信指出生成式AI技术依赖于作者作品,但数据集来源不透明,作家收入下降40%。要求生成式AI领导者获得许可、公平补偿使用受版权保护的材料,并补偿使用作品的作者。生成式AI领导者面临压力,因为之前对版权保护作出过承诺。隐私泄漏和版权侵犯事件使公开信成为不可忽视的问题。

拒绝「白嫖」!数千名作家发声:生成式 AI 也得付版权费

爱范儿
爱范儿 · 2023-07-20T10:12:19Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码