内容提要
Martin Fowler 指出,LLM 生成的文字常引发“恐怖谷”式反感,且难以用工具辨别。他建议作者不要用 LLM 起草,因为其文风难以清除;可用于辅助大纲或检索,但正文须自己写。写作本身是思考过程,过度依赖 LLM 等于把思考一并外包。他仅在帕金森病、翻译等特殊情况下接受 LLM 文风,并主张使用 AI 应公开说明。
延伸解读
“恐怖谷”式反感:工具检测为时已晚
Fowler 描述读到 LLM 文风时会产生一种“恐怖谷”式的反感,阅读欲望逐渐萎缩甚至厌恶。他认为现有检测工具准确性存疑,且等到需要工具判断时,读者的不适已经发生,工具再确认“无 LLM”也无法挽回。这提醒我们,LLM 文风的问题首先是人类阅读体验问题,而非技术识别问题。
用 LLM 起草的陷阱:文风难以清除
Fowler 强烈建议作者不要用 LLM 写初稿,因为即使经过人工编辑,LLM 文风也很难被彻底清除。他提到一个反例:初稿完全由 LLM 完成,但经大型刊物专业编辑清理后,最终成品未被他察觉出 LLM 味。这说明清除文风需要极高成本,普通作者难以复制。
写作即思考:外包文字等于外包理解
Fowler 认为写作是整理思路、克服困惑的过程,许多文章正是在与文字搏斗中才变得连贯。若把写作交给 LLM,就等于把思考和理解一并外包。他建议作者自己填充正文,LLM 最多用于大纲或检索,且检索结果需回溯原始来源核实。
例外与披露:特殊需求下可接受,但应公开
Fowler 并非绝对排斥 LLM 文风。他接受 Jim Highsmith 因帕金森病借助 LLM 写作,也理解非英语母语者用 LLM 翻译辅助沟通,但仍更偏好真人略显笨拙的文字。他主张使用 AI 辅助写作应公开说明用法,并举例称自己仅将 AI 用作搜索工具,且会核实信息。
Q&A
为什么 Martin Fowler 建议作者不要用 LLM 起草文章?
因为 LLM 生成的文风(LLM-Voice)很难被清除,即使经过人工编辑,也容易引发读者的“恐怖谷”式反感。Fowler 强烈建议作者不要落入让 LLM 写草稿的陷阱。
LLM 生成的文字为什么让人反感?
Fowler 认为这种反感是人的本能反应,就像在散文里遇到了“恐怖谷”。即使有工具能检测,但当你需要借助工具来判断时,反感已经产生了。
用 LLM 辅助写作的边界在哪里?
Fowler 认为可以用 LLM 来开发大纲和结构,但仅限于大纲层面,正文必须由作者自己撰写。他也仅将 LLM 用作搜索工具,并会核实信息来源。
为什么说写作本身是思考过程,不能外包给 LLM?
Fowler 指出,写作是理清思路、克服困惑的关键工具。把写作委托给 LLM,就等于把思考和理解也一并外包了,从而失去了写作的乐趣和思维锻炼。
在哪些特殊情况下可以接受 LLM 文风?
Fowler 举了两个例子:一是 Jim Highsmith 因帕金森病需要借助 LLM 写作;二是非英语母语者用 LLM 翻译以方便沟通。此外,写形式公函或无人阅读的报告时也可接受。
使用 AI 辅助写作时,Fowler 主张怎样的披露政策?
Fowler 主张任何使用 AI 帮助写作的人都应该公开说明使用方式,通常写在致谢中。这既是为了透明,也是为了让读者学习有用的 AI 使用方式。