这项研究发现,大型语言模型(LLM)可以通过推断个人属性来侵犯隐私。研究人员使用真实Reddit个人资料构建了数据集,并发现LLM在推断个人属性方面准确率很高。研究还指出,与LLM驱动的聊天机器人互动可能导致个人信息被提取。研究结果表明,目前的隐私保护措施对于防止LLM推断攻击无效。研究呼吁加强对LLM隐私影响的讨论,并提出更广泛的隐私保护措施。
《数据安全技术 数据分类分级规则》发布,指导数据分类分级工作。API安全漏洞对企业财务影响达750亿美元。Microsoft宣布在Windows中弃用1024位RSA密钥。美国航空公司的隐私保护措施将接受DOT审查。美国网络安全公司发布人工智能红队恶意用例评估报告。
研究发现,大型语言模型(LLM)能够推断出个人属性,对用户隐私构成威胁。常用的隐私保护措施无效,需要更广泛的讨论和更有效的隐私保护措施。
该研究探讨了预训练语言模型(LLM)对个人隐私的侵犯问题,使用真实Reddit个人资料构建了数据集,证明了LLM能够推断出个人属性,探讨了聊天机器人的新威胁,证明了文本匿名化和模型对齐等缓解措施无效。需要更广泛的讨论和更有效的隐私保护措施来应对LLM对个人隐私的影响。
完成下面两步后,将自动完成登录并继续当前操作。