内容提要
本文探讨如何让AI工作流具备“可委托性”,即人设定边界和验收标准,AI执行并交回结果。核心在于稳定优先,通过外置文档和确定性runtime确保跨上下文连续性和规则一致,同时明确人、模型、工具的职责分工。作者提出Task-Driven实现方式,强调授权不可让渡,成本与验收标准挂钩,并接受不追求证明所有问题已解决。
延伸解读
稳定优先于最优
文章强调,AI工作流的稳定性比偶尔的出色表现更重要。一个偶尔得A、偶尔掉到C的系统,难以让人放心委托。稳定的B+更有价值。这里的稳定不是要求模型每次给出相同答案,而是让流程的波动可控:范围不扩大、验收标准不中途变化、不同上下文不各自为政、较差结果不未经检查就传递。边界内让模型发挥,真正需要约束的是波动的传导方式,而非消除波动本身。
成本与验收标准挂钩
可预测性包括质量和成本两部分。任务可能三轮也可能三十轮,难以安排和预算。可控的杠杆是验收标准:要求做到什么程度,就付出相应代价。顺序应为:工作价值决定验收标准,验收标准决定投入成本。低价值工作用轻流程,高价值工作才值得多轮检查。轻流程不是马虎,而是选择与价值相称的完成标准。流程可减轻,但底线不能消失,如外置记录、范围外问题明确写出、授权不靠推测。
授权不可让渡
在人与AI的分工中,授权是最不能让渡的部分。授权表达人的意志,而非对事实的判断。模型可以分析事情是否值得做,但不能据此推断已获准去做。提交、推送、发布等改变共享历史或外部环境的动作,仍需单独确认。这不等于要求人亲手写所有契约,模型应主动整理讨论、暴露假设、提出问题,人的注意力只留给无法推断、必须由人作出的决定。
外置记录与确定性运行时
委托跨越上下文,需要独立于对话、可长期保存的外置记录,它本身就是当前工作的权威。对话记录、模型记忆等可辅助,但冲突时以外置记录为准。交接必须双向,下游发现的问题、异议、裁决要能写回。仅有外置文档不够,还需确定性runtime,用固定规则决定任务起点、当前上下文可做什么、前提、结果写到哪里、下一轮交给谁。它不保证答案相同,但保证不同答案都经过同一套读取、校验、写回和交接规则。
Q&A
什么是AI工作流的“可委托性”?
可委托性是指人设定边界和验收标准后,AI能在明确边界内执行并交回结果,人不必盯住每一步;遇到缺口会停下来交回,换一个上下文后也能从同一状态接上。
为什么稳定的B+比偶尔做到A更有价值?
因为偶尔A偶尔C的系统波动太大,不敢把工作交出去;稳定的B+让流程波动可控,范围不会越做越大,验收标准不会中途变化,不同上下文不会各自处理不同的事,较差结果也不会未经检查就传到最终交付。
如何控制AI任务的成本?
通过设定有边界的验收标准来控制成本。工作价值决定验收标准,验收标准决定投入成本。低价值工作使用轻流程,高价值工作才值得多轮检查。
在AI委托中,人、模型和工具各自的职责是什么?
人负责意图、边界、验收标准、价值判断和授权;模型负责边界内的判断与执行;工具负责事实、状态、记录,以及对边界的强制。任何一方越界都会带来问题。
为什么需要外置文档?
因为委托会跨越不同上下文,只存在于当前对话里的目标和边界,下一个上下文看不到。外置文档独立于对话,可以长期保存,是当前工作的权威,确保不同上下文面对同一项工作,并支持双向交接。
什么是Task-Driven工作方式?
Task-Driven是一种具体实现可委托性的方法。工作从讨论开始,AI整理目标、边界、假设和授权,人确认后形成可执行、可验收的task。复杂工作会进入不同角色(如Frame、PM、Design、Dev、QA),每个角色使用新上下文,通过runtime提供状态和交接,结束时写回结果。
为什么授权不能由模型推断?
因为授权表达的是人的意志,不是对事实的判断。模型可以分析一件事是否值得做,但不能据此推断“已经获准去做”。提交、推送、发布等改变共享历史或外部环境的动作,必须由人单独确认。
如何确保AI工作流在模型升级后仍然有效?
固定责任边界和交接规则,而不是越来越厚的执行手册。人的意图、价值和授权不会因模型升级消失;事实和任务状态需要稳定保存。外置文档提供连续性,runtime提供确定性,确保不同答案都经过同一套读取、校验、写回和交接规则。