研究人员发现AI对话出现在网上后,Meta暂停Muse分享功能

研究人员发现AI对话出现在网上后,Meta暂停Muse分享功能

💡 原文英文,约700词,阅读约需3分钟。
📝

内容提要

Meta因安全公司Claroc发现其Muse AI助手的分享链接可通过公开DNS记录被检索,已暂停该分享功能。Claroc找到逾6800条链接,因链接由对话标题加随机ID构成、易被重建,导致数百段对话曝光,涉及公司营收、贷款申请、员工日历等敏感内容。Meta称正审查报告并考虑调整链接发现机制。

🔎

延伸解读

链接构造方式埋下隐患

Claroc指出,Muse分享链接由对话标题加随机ID构成,主机名往往直接暴露页面内容。由于链接同时携带标题和ID,从公开DNS记录中提取的主机名即可重建完整链接。这意味着分享链接的可发现性并非偶然,而是设计上把可读标题与可枚举的DNS记录结合,降低了外部检索门槛。

曝光内容涉及真实业务数据

Claroc通过公开DNS记录查看数百段Muse对话,其中包含营销公司营收审查、小企业主贷款申请、某工作场所全年员工日历,以及求职者与AI实验室通话的笔记。这些案例说明,用户在与AI助手对话时可能输入高度敏感的业务和个人信息,而分享功能一旦被外部检索,泄露的不只是聊天记录,还包括具体业务场景。

并非孤例的AI分享风险

文章提到,这已不是AI分享功能第一次让对话比预期更公开:OpenAI的ChatGPT、Anthropic的Claude和xAI的Grok的对话也曾出现在Google搜索中。Muse事件与这些先例指向同一类问题——分享链接的发现机制若设计不当,可能让本应限定范围的对话进入公开可检索空间,Meta暂停功能并考虑调整链接发现机制正是对此的回应。

❓

Q&A

Meta为什么暂停了Muse的分享功能?

因为安全公司Claroc发现,Muse的分享链接可以通过公开DNS记录被检索到,导致数百段对话曝光,涉及公司营收、贷款申请、员工日历等敏感内容。Meta表示正在审查报告并考虑调整链接发现机制。

Claroc是如何发现这些Muse对话链接的?

Claroc通过搜索公开DNS记录,找到了超过6800条Muse链接。由于链接由对话标题加随机ID构成,且主机名通常透露页面内容,因此可以从DNS记录重建链接。

Muse的分享链接是如何构成的?为什么容易被发现?

Muse的分享链接由分享标题(描述对话的短语)加随机ID构成。主机名通常透露页面内容,而链接携带相同的标题和ID,因此从DNS获取的主机名可以重建链接,使得链接容易被发现。

这次事件暴露了哪些敏感信息?

曝光的对话包括一家营销公司的营收回顾、一个小企业主的贷款申请、一个工作场所的全年员工日历,以及一位求职者与AI实验室通话的笔记。

Meta对Muse分享功能暂停的官方回应是什么?

Meta发言人Tracy Clayton表示,用户本可以分享特定的Muse内容并生成链接供他人访问,但公司已暂停此功能,同时审查报告并考虑调整链接的发现机制。

类似AI对话分享导致泄露的事件之前发生过吗?

是的,这并非首次。此前OpenAI的ChatGPT、Anthropic的Claude和xAI的Grok的对话也曾因分享功能而出现在谷歌搜索结果中。

🏷️

标签

➡️

继续阅读