内容提要
Anthropic发布AI安全报告,证实模型提供商可阅读用户完整对话记录,引发企业隐私担忧。英伟达限制Claude仅用于低敏感任务,核心工作改用自研工具;Palantir要求零数据留存承诺,否则不接入Claude;博思艾伦禁止员工将Claude用于涉专有数据的项目。此前Claude Fable 5强制留存提示词和输出30天,加剧企业不安,切断Claude成直接选择。
延伸解读
安全报告揭示的数据留存现实
Anthropic发布的安全报告证实了模型提供商能够阅读用户的完整对话记录,包括提示词、文件和输出。这打破了企业此前对AI服务商可能无法访问详细数据的假设。报告本身需要平台具备留存、关联和分析真实对话的能力,因此企业意识到,使用Claude等模型时,敏感数据可能被平台方获取。这种认知直接推动了后续的隐私保护措施。
企业应对策略:限制使用与自研替代
面对数据外泄风险,英伟达要求团队仅在低敏感任务中使用Claude,核心工作改用自研Nemotron工具;Palantir要求Anthropic签署不可撤销的零数据留存承诺,否则不在产品中接入Claude;博思艾伦禁止员工将Claude用于涉专有数据的项目。这些措施显示,企业正通过限制使用场景、要求法律承诺或转向自研工具来降低依赖。
强制留存政策加剧企业不安
早在6月推出Claude Fable 5时,Anthropic就强制执行覆盖模型政策,默认留存提示词和输出30天,若被安全分类器标记则保存更久。尽管Anthropic强调从未在未经授权下使用企业数据训练模型,但受监管行业客户无法接受这种“模型越强、日志越需留存”的逻辑。安全报告只是导火索,根本矛盾在于数据留存政策与隐私需求的冲突。
Q&A
为什么英伟达等公司要限制或切断员工使用Claude?
因为Anthropic发布的安全报告证实模型提供商有能力阅读用户完整对话记录,引发企业对敏感数据外泄的担忧。英伟达要求团队只能在低敏感度任务中使用Claude,核心工作改用自研工具。
英伟达具体如何限制Claude的使用?
英伟达要求员工只能在低敏感度任务中使用Claude系列模型,内部更核心的工作改用英伟达自研的Nemotron工具,可能会调用英伟达自己托管的开源模型。
Palantir对Anthropic提出了什么要求?
Palantir要求Anthropic提供不可撤销的零数据留存承诺,否则不会在自家数据分析软件里连接Claude AI系列模型并开放给客户,担忧客户数据被Anthropic窃取。
博思艾伦对员工使用Claude有何规定?
博思艾伦禁止员工将Claude模型用于涉及专有数据的网络安全项目。
Anthropic的安全报告为什么引发企业隐私担忧?
安全报告明确表明Anthropic或模型提供商有能力且有权利阅读用户的完整对话记录,包括问题、提示词、文件等,这坐实了之前的猜测,让企业意识到数据并非严格保密。
Claude Fable 5的数据留存政策是什么?
Anthropic在6月推出Claude Fable 5时强制执行覆盖模型政策,相关提示词和输出默认留存30天,如果被安全分类器标记,则内容还会保存更长时间。