你真的应该给那个功能加AI吗？产品团队的四问审计
内容提要
文章提出产品团队在添加AI功能前应做“四问审计”：一、是否真正减少用户完成任务的总体精力（含核验成本）；二、是否优于用户现有做法；三、用户能否发现AI错误，低可见、高后果的错误须提供来源与核验提示；四、一年后用户是否仍具备判断AI对错的能力，需设计保持核验技能的机制。作者以保险申诉、贷款审核、会议纪要等案例说明：AI应承担搜索、综合等环节，而非取代用户的核心判断。
延伸解读
AI功能的价值取决于净收益，而非技术可行性
文章强调，AI功能能否成功，关键不在于技术是否按规格运行，而在于它为用户带来的回报是否超过用户为适应和核验所付出的成本。作者提出“盈亏平衡线”概念：只有当AI减少的努力、捕获的错误或提升的一致性，超过用户调整和检查的代价时，功能才值得添加。这提醒产品团队，技术可行只是起点，必须量化用户侧的净收益。
自动化重复任务可能适得其反
文章以贷款审核中预填字段为例，指出自动化低认知负荷的任务（如输入贷款号）反而可能增加用户负担，因为用户需要额外检查机器输入是否正确。传统建议“自动化重复单调任务”在此失效。真正值得AI介入的是需要大量搜索、综合或模式识别的任务，而非简单操作。产品团队应比较任务前后的总努力，包括新增的核验成本。
错误可见性与后果决定设计底线
文章强调，AI错误是否容易被用户发现至关重要。低可见性且高后果的错误（如旅行规划中推荐闭馆日的博物馆）必须通过来源展示和核验提示来设计。自动化偏见会使用户过度信任AI输出，因此产品团队需提前映射错误面，列出最可能的错误类型并评估其可见性与后果。任何低可见、高后果的组合都应成为硬性设计条件，否则不应发布。
长期使用可能削弱用户的核验能力
文章引用放射科研究显示，即使经验丰富的医生在AI建议错误时诊断准确率也会大幅下降。若用户长期依赖AI做判断，一年后可能失去独立评估输出的能力。因此，设计需包含保持核验技能的机制，如定期盲审或轮换部分案例不使用AI。产品团队应自问：如果功能明天消失，用户还能判断输出质量吗？若不能，就必须将技能保持机制嵌入工作流。
Q&A
产品团队在添加AI功能前应该问哪四个问题？
文章提出四问审计：1. 是否真正减少用户完成任务的总体精力（包括核验成本）；2. 是否优于用户现有做法；3. 用户能否发现AI错误（低可见、高后果的错误须提供来源与核验提示）；4. 一年后用户是否仍具备判断AI对错的能力（需设计保持核验技能的机制）。
为什么AI功能有时反而增加用户工作量？
因为AI可能将任务从执行转为核验，而核验可能和原任务一样耗时，甚至需要检查自己不会犯的错误。例如保险申诉案例中，AI撰写完整决定书后，专家仔细阅读并签字的时间与自己撰写相当，且需额外检查错误，导致总工作量增加。
如何判断AI功能是否值得添加？
使用盈亏平衡线：AI带来的回报（减少的努力、捕获的错误、一致性）必须超过用户调整和核验的成本。通过四问审计评估，并为每个问题设定设计条件，如明确服务用户群体、移除AI在现有方法已高效步骤的应用、提供来源显示和验证提示、设计保持核验技能的机制。
AI错误可见性低且后果严重时应该怎么设计？
必须提供来源显示（provenance）和验证提示，否则不应发布。例如，旅行规划师推荐关闭的博物馆，错误不可见；而航班衔接时间矛盾则可见。对于低可见高后果的错误，需显示信息来源和生成方式，帮助用户发现错误。
长期使用AI后，用户是否会丧失判断AI错误的能力？
是的，研究表明过度依赖AI会削弱用户的判断技能。例如放射科医生在AI建议错误时诊断准确率下降。因此设计需包含保持核验技能的机制，如定期盲审、轮换部分案例不使用AI、每周对比机器与人工输出。
如何快速运行四问审计？
60分钟版本：1. 具体陈述任务（10分钟）；2. 与执行任务的人一起回答问题（25分钟）；3. 映射错误表面（15分钟）；4. 将设计条件写入简报（10分钟）。重点是与实际工作者交流，明确错误类型及可见性/后果。
