Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

💡 原文中文,约3300字,阅读约需8分钟。
📝

内容提要

Anthropic正测试新模型Fable 5.5,能更好理解用户深层意图,实测表现优于Opus 5.5和Gemini 4。官方还公布“自评估”安全机制:Claude回答后自动生成用户不可见的安全复盘,复用KV Cache,算力开销低于2%,违规检出率94%、误判率1%,成本由平台承担。结果仅用于离线筛查和人工复核,不直接拦截或封号,但用户无从知晓是否被标记。

🔎

延伸解读

自评估机制:低开销的隐形安全复盘

Anthropic 的自评估机制在每次回答后追加隐藏指令,让同一模型复用 KV Cache 生成安全复盘,算力开销低于 2%,且不增加用户账单和首字延迟。实测违规检出率 94%、误判率 1%,但结果仅用于离线筛查和人工复核,不直接拦截或封号。这意味着安全审计对用户几乎无感,但标记可能成为后续调查线索。

用户知情权与误判风险

用户既看不到自评估指令,也看不到评估结果,更无从知晓自己是否被标记。虽然单条标记不会直接导致封号,但聚合后的高风险信号可能触发人工复核。对于正常讨论被误判的情况,用户缺乏申诉或知情渠道。文章指出,当模型开始理解深层意图时,对意图的判断需要更加谨慎,否则可能放大误判影响。

Fable 5.5 的意图理解与实测表现

据爆料和网友测试,Fable 5.5 更擅长跳出常规思维,能识别用户深层目标,例如修复 Bug 时追问是否解决底层问题类别。在 Three.js 生成奔跑斑马的测试中,Fable 5.5 的画面更真实,优于 Opus 5.5 和 Gemini 4。另有测试通过知识截止日期后的信息(如 Karpathy 去向)判断是否被路由到新模型,显示其知识更新更及时。

❓

Q&A

Anthropic的Fable 5.5模型有什么新特点?

Fable 5.5能更好地理解用户的深层意图,不仅完成表面任务,还会挖掘底层问题。例如修复Bug时,它会找到导致Bug的根本原因并询问是否修复整个问题类别。实测中,它在生成奔跑斑马等任务上表现优于Opus 5.5和Gemini 4。

Claude的“自评估”安全机制是什么?

自评估是Anthropic为Claude Fable 5及后续模型引入的安全监测方法。每次回答后,模型会额外生成一段用户不可见的安全复盘,判断对话是否可能涉及滥用,并输出JSON格式的风险标记。该机制主要用于离线筛查,不直接拦截回答。

自评估机制如何做到低算力开销?

自评估复用大模型推理底层的KV Cache机制,回答后仅追加一条约十几Token的审计指令,模型只需生成约10个Token的JSON结果。Prefill开销几乎为零,Decode开销极低,总算力开销低于2%,且成本由平台承担,不影响用户账单和流式首字延迟。

自评估的违规检出率和误判率是多少?

在Claude Fable 5上的测试数据显示,自评估成功捕获了重型分类器所能标记的78%的违规对话,高危滥用行为的检出率高达94%,同时误判率降至1%。

自评估的结果会直接导致用户被封号吗?

不会直接导致封号。单条评估结果不会被视为违规定论,系统会聚合分析大量结果,将高风险信号升级给安全团队人工复核,确认存在严重问题后才可能采取账户封禁等措施。但用户无从知晓自己是否被标记。

如何测试自己是否被路由到了Fable 5.5新模型?

可以问模型“where did andrej karpathy go in may 2026? don’t search”。通过API调用的Opus 5.5只能了解到2024年7月的信息,而被路由到新模型的Claude不用搜索就能知道Karpathy在2026年5月加入了Anthropic。

🏷️

标签

➡️

继续阅读