小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文探讨了联邦学习中的客户隐私泄漏攻击,提出了评估框架和缓解策略。研究发现,攻击者可以通过分析共享参数重构私有数据,并评估了不同超参数和攻击算法对攻击效果的影响。实验结果表明,适当组合现有防御机制能够有效抵御攻击,强调了重新设计隐私保护机制的重要性。

攻击下的联邦学习:改善图像批次的梯度反演

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-26T00:00:00Z

本文探讨了大型语言模型(LLMs)在用户隐私和数据安全方面的挑战,并提出结合知识图谱的新架构。研究强调用户在隐私、效用和便利之间的权衡,提出设计指南以保护用户隐私。通过分析用户与AI模型的互动,发现个人信息在意外上下文中频繁出现,呼吁设计机制帮助用户监管互动。此外,研究提出了PrivacyLens框架,评估语言模型的隐私泄漏情况,发现其在多种情况下仍存在敏感信息泄露。

具有双重关注的AI代理:确保隐私与战略性自我披露

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-26T00:00:00Z

本文研究了差分隐私下的均值估计,提出了针对不同隐私偏好的用户的最优算法,并分析了隐私要求对估计性能的影响。研究发现,严格隐私要求的用户会影响整体误差率,而其他用户则可以获得额外的隐私保护。此外,文章还探讨了分布式估计和时间相关性下的隐私泄漏问题,并提出了有效的算法和机制,以提高隐私保护和估计的准确性。

差分隐私的分布式均值估计的相关隐私机制

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-03T00:00:00Z

本文研究了生成模型的成员推断攻击,验证了多种生成模型的隐私泄漏风险。发现图神经网络中的结构信息是主要泄漏原因,并提出有效防御方法,降低攻击准确率60%。同时探讨数据集特性与攻击脆弱性之间的关系,强调生成模型设计中的隐私保护重要性。

GLiRA: 通过知识蒸馏进行的黑盒成员推理攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-13T00:00:00Z

本研究提出了一种基于强化学习的黑盒模型反演攻击方法,结合生成对抗网络(GANs)和马尔可夫决策过程,显著提高了攻击性能。实验结果表明,在多种数据集上,攻击成功率显著提升,生成图像质量与白盒攻击相当,揭示了生成模型的隐私泄漏风险,呼吁加强防护措施。

基于多智能体强化学习的分布式黑盒模型逆推攻击

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-22T00:00:00Z

本文提出了评估客户隐私泄漏攻击的框架,分析了联邦学习中的攻击效果及防御策略。研究表明,攻击者可通过共享参数重构私有数据,并探讨了隐私保护与模型准确性之间的权衡。最终,提出了多种防御机制以增强联邦学习系统的安全性。

联邦学习隐私攻击效率研究

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-15T00:00:00Z
拒绝「白嫖」!数千名作家发声:生成式 AI 也得付版权费

8500多名作者联合签署公开信,要求生成式AI领导者在训练AI时征得版权保护材料的作者同意,并给予公平补偿。公开信指出生成式AI技术依赖于作者作品,但数据集来源不透明,作家收入下降40%。要求生成式AI领导者获得许可、公平补偿使用受版权保护的材料,并补偿使用作品的作者。生成式AI领导者面临压力,因为之前对版权保护作出过承诺。隐私泄漏和版权侵犯事件使公开信成为不可忽视的问题。

拒绝「白嫖」!数千名作家发声:生成式 AI 也得付版权费

爱范儿
爱范儿 · 2023-07-20T10:12:19Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码