基于A社开盒用户行为:英伟达等公司限制或切断员工使用Claude 避免敏感数据外泄

基于A社开盒用户行为:英伟达等公司限制或切断员工使用Claude 避免敏感数据外泄

💡 原文中文,约1300字,阅读约需4分钟。
📝

内容提要

Anthropic发布AI安全报告,证实模型提供商可阅读用户完整对话记录,引发企业隐私担忧。英伟达限制Claude仅用于低敏感任务,核心工作改用自研工具;Palantir要求零数据留存承诺,否则不接入Claude;博思艾伦禁止员工将Claude用于涉专有数据的项目。此前Claude Fable 5强制留存提示词和输出30天,加剧企业不安,切断Claude成直接选择。

🔎

延伸解读

安全报告揭示的数据留存现实

Anthropic发布的安全报告证实了模型提供商能够阅读用户的完整对话记录,包括提示词、文件和输出。这打破了企业此前对AI服务商可能无法访问详细数据的假设。报告本身需要平台具备留存、关联和分析真实对话的能力,因此企业意识到,使用Claude等模型时,敏感数据可能被平台方获取。这种认知直接推动了后续的隐私保护措施。

企业应对策略:限制使用与自研替代

面对数据外泄风险,英伟达要求团队仅在低敏感任务中使用Claude,核心工作改用自研Nemotron工具;Palantir要求Anthropic签署不可撤销的零数据留存承诺,否则不在产品中接入Claude;博思艾伦禁止员工将Claude用于涉专有数据的项目。这些措施显示,企业正通过限制使用场景、要求法律承诺或转向自研工具来降低依赖。

强制留存政策加剧企业不安

早在6月推出Claude Fable 5时,Anthropic就强制执行覆盖模型政策,默认留存提示词和输出30天,若被安全分类器标记则保存更久。尽管Anthropic强调从未在未经授权下使用企业数据训练模型,但受监管行业客户无法接受这种“模型越强、日志越需留存”的逻辑。安全报告只是导火索,根本矛盾在于数据留存政策与隐私需求的冲突。

Q&A

为什么英伟达等公司要限制或切断员工使用Claude?

因为Anthropic发布的安全报告证实模型提供商有能力阅读用户完整对话记录,引发企业对敏感数据外泄的担忧。英伟达要求团队只能在低敏感度任务中使用Claude,核心工作改用自研工具。

英伟达具体如何限制Claude的使用?

英伟达要求员工只能在低敏感度任务中使用Claude系列模型,内部更核心的工作改用英伟达自研的Nemotron工具,可能会调用英伟达自己托管的开源模型。

Palantir对Anthropic提出了什么要求?

Palantir要求Anthropic提供不可撤销的零数据留存承诺,否则不会在自家数据分析软件里连接Claude AI系列模型并开放给客户,担忧客户数据被Anthropic窃取。

博思艾伦对员工使用Claude有何规定?

博思艾伦禁止员工将Claude模型用于涉及专有数据的网络安全项目。

Anthropic的安全报告为什么引发企业隐私担忧?

安全报告明确表明Anthropic或模型提供商有能力且有权利阅读用户的完整对话记录,包括问题、提示词、文件等,这坐实了之前的猜测,让企业意识到数据并非严格保密。

Claude Fable 5的数据留存政策是什么?

Anthropic在6月推出Claude Fable 5时强制执行覆盖模型政策,相关提示词和输出默认留存30天,如果被安全分类器标记,则内容还会保存更长时间。

🏷️

标签

➡️

继续阅读