内容提要
作者用Pangram检测AI文本,发现即使人工重写、逐句改写,只要结构由大模型生成,仍会被判为100% AI。他借重写David Sacks推文实验说明:AI检测器对“人机协作”文本过于严苛,可能误导读者,但也让他意识到自己两年来对AI写作工具的依赖日益加深。
延伸解读
AI检测器的工作原理与局限
Pangram通过让大模型基于人类文本生成新文本或进行部分编辑来制造训练数据,从而识别“人机协作”的痕迹。其宣称的误报率仅0.0041%,漏报率0.34%。但作者实验表明,即使人工逐句重写、结构仍由大模型生成,也会被判定为100% AI。这说明检测器对结构层面的AI参与极为敏感,可能无法区分深度编辑与完全生成。
人机协作写作的检测困境
作者用Opus 5生成推文后,又手动重写,最终文本与原文相似度约50%,但无一句完全相同。然而Pangram仍给出100% AI评分。这揭示了当前检测工具的一个关键问题:它们往往将“AI辅助”等同于“完全AI生成”,忽略了人类在重写、调整和润色中的实质性贡献。对于依赖LLM进行结构规划的作者,这种评分可能显得过于严苛。
对AI写作依赖的反思
作者坦言,过去两年博客一直有AI支持,且自己越来越依赖这些工具,甚至注意到它们成为更激进的编辑。Pangram的检测结果让他意识到这种依赖的深度。虽然他认为“100% AI”标签可能误导读者,但也承认这或许公平地反映了AI在写作中的核心作用。这引发了一个值得思考的问题:当AI参与结构生成时,人类编辑的边界在哪里?
Q&A
Pangram 是什么?它如何检测 AI 文本?
Pangram 是一个训练过的模型,用于检测文本是明确人类、明确 AI 还是两者混合。它通过从已知人类撰写的文本集合出发,让 LLM 理解并生成同主题新文本,以及让 LLM 对原始人类文本进行部分编辑,从而制造训练数据,学习这些共同创作的细节。
Pangram 的误报率和漏报率是多少?
Pangram 声称其模型误报 AI 率为 0.0041%,漏报 AI 文本率为 0.34%。
为什么即使人工重写,Pangram 仍将文本判为 100% AI?
因为如果文本的结构由大模型生成,即使人工逐句重写、没有一句相同,Pangram 仍会判为 100% AI。作者实验发现,依赖 LLM 提供文本结构,即使大量编辑,也很难让 Pangram 认为不是 AI 生成。
作者用什么实验来测试 Pangram?
作者用 LLM 重新创作 David Sacks 的推文,先让 LLM 生成结构,再用 Opus 5 生成文本,然后人工逐段重写,最后用 Pangram 检测。结果人工重写后的文本仍被 Pangram 判为 100% AI。
作者对 AI 检测器(如 Pangram)的态度是什么?
作者认为 AI 检测器对“人机协作”文本过于严苛,可能误导读者,因为作者做了大量编辑却被判为 100% AI。但他也欣赏 Pangram 的存在,因为它让他意识到使用 LLM 写作的影响,并发现自己两年来对 AI 写作工具的依赖日益加深。
作者使用 LLM 写作工具的经历是怎样的?
作者使用 LLM 辅助写作博客约两年,他注意到自己越来越依赖这些工具,而且这些工具成为更激进的编辑,这让他停下来思考。