“紧迫性本质上是一种主观判断”：Anthropic向TNS详解其如何评估Claude Duet
内容提要
Anthropic推出AI助手Claude Duet，可监控已连接应用，在后台主动处理任务并判断优先级。公司用内部评分器测试其任务排序准确性，但承认紧迫性判断主观、评估不完美，Duet可能误读对话或误判紧急程度。Duet将执行与意图核查分离以防范提示注入，敏感操作需用户批准，部分操作不可撤销。后台检查每数小时一次，可能漏掉紧急事项，且计入订阅用量。目前仅限美国Pro和Max用户候补使用。
延伸解读
紧迫性判断的主观性带来评估难题
Anthropic承认，紧迫性本质上是主观判断，因此为Duet构建的评估器虽不完美但仍有帮助。内部评分器基于员工日常使用校准，用于衡量Duet能否区分需立即处理与可等待的任务。然而，公司未公开误判频率，且公开材料未说明评估的准确率。这意味着用户需意识到，Duet的优先级排序可能出错，尤其在跨邮件、日历等应用时，即使在其权限内也可能误判。
意图核查分离设计降低提示注入风险
Duet将执行任务的部分与核查意图的部分分离，后者基于Claude Code的自动模式分类器扩展而来，独立运行，因此网页中隐藏的指令无法直接操纵分类器。这有助于防范提示注入，但Anthropic未展示该检查捕捉越权行为的可靠性。相关研究显示，移除授权范围定义会增加越界操作，尽管该研究未测试Duet。用户仍应审阅草稿和批准请求，因为Duet可能遇到提示注入。
后台检查频率与用量限制的权衡
Duet每数小时检查一次连接的应用，而非持续监控，部分原因是避免耗尽订阅用量。后台工作计入Pro和Max计划的五小时会话及每周限额，大型任务如构建财务模型会消耗更多。这种设计可能导致紧急事项在检查间隙被遗漏，直到下次检查才被发现。检查更频繁会增加资源消耗，更少则延迟警报。Anthropic未量化典型用户后台活动占用的比例，用户需自行权衡任务紧急度与用量限制。
操作不可逆与记忆残留需用户留意
Duet在执行支付或删除等敏感操作前会寻求批准，但公开材料未描述跨连接应用撤销已完成操作的方法。断开应用可阻止新访问，但Duet已存入记忆的信息仍保留，直到用户重置。此外，用户无法在云浏览器中实时观看Duet工作或接管浏览器，只能查看任务活动和批准操作。这些限制意味着用户需谨慎授权，并定期检查记忆内容，以降低不可逆操作或隐私残留的风险。
Q&A
Claude Duet 是什么？它主要能做什么？
Claude Duet 是 Anthropic 推出的 AI 助手，可监控用户已连接的应用，在后台主动处理任务并判断优先级，无需用户明确指令即可准备工作并标记需要关注的事项。
Anthropic 如何评估 Claude Duet 的任务优先级判断是否准确？
Anthropic 开发了内部评分器，基于员工日常使用和早期外部测试的案例，离线评估 Duet 区分“值得关注”和“可以等待”的任务的能力。但公司承认紧迫性本质上是主观判断，因此评估并不完美。
Claude Duet 如何防止提示注入攻击？
Duet 将执行任务的模型与核查意图的自动检查分离。该检查基于 Claude Code 的自动模式分类器扩展而来，独立运行，因此网页中隐藏的指令无法直接操控分类器的决策。
使用 Claude Duet 时，哪些操作需要用户批准或完全禁止？
Duet 在执行付款、删除项目等敏感操作前会寻求用户批准；分享私人健康或财务信息需要同意（明确请求分享可视为同意）；而交易证券、银行账户间转账、访问他人账户则完全禁止。
Claude Duet 的后台检查频率如何？会有什么风险？
后台检查每数小时进行一次，而非连续监控，部分原因是避免耗尽订阅用量。缺点是紧急事项可能在两次检查之间到达而被漏掉，直到下次检查才被发现。
目前谁可以使用 Claude Duet？如何计费？
目前仅限美国 Pro 和 Max 订阅用户通过候补名单使用。Duet 的后台工作会计入订阅计划的用量限额（如五小时会话和每周限制），用量取决于任务大小。
