内容提要
Substack推出AI检测工具,由Pangram提供技术支持,可扫描帖子、评论等,估算AI生成内容比例。该功能旨在提高透明度,防止“Claudefishing”现象。同时,平台允许创作者声明写作过程,并可报告检测错误。CEO强调,此举旨在维护读者信任和作者权益。
延伸解读
检测原理与局限
Substack的AI检测工具由Pangram提供技术支持,可扫描超过100字的帖子、评论等,估算AI生成或辅助写作的比例。但CEO Chris Best也承认,该工具只能检测文本是否由AI生成,无法判断是否经过人类精心打磨,也无法识别AI是否仅作为素材来源。因此,检测结果应视为参考,而非绝对定论。
“Claudefishing”现象
文章引入“Claudefishing”一词,指读者在不知情的情况下,将注意力投入没有人类思考的内容。这一现象的核心问题并非AI使用本身,而是读者期望与现实之间的错位。Substack推出检测工具,正是为了减少这种信息不对称,帮助读者在阅读前做出更明智的选择,从而维护平台内容的可信度。
对创作者的影响
新功能不仅面向读者,也为创作者提供了“How I make this”声明选项,允许他们主动说明写作过程。同时,创作者可扫描自己的草稿,并报告检测错误。这体现了平台在AI时代对作者权益的重视,旨在平衡透明度与创作者自主权,避免因AI检测而误伤合理使用AI工具的写作者。
Q&A
Substack新推出的AI检测工具是什么?
Substack推出了一款由AI检测公司Pangram提供技术支持的工具,可以扫描帖子、评论、笔记和回复,估算其中有多少文本可能是AI生成或辅助编写的。
Substack的AI检测工具如何使用?
读者可以在网页版或iOS应用上,对超过100字的帖子,通过点击右上角三点菜单中的“Scan for AI text”选项来使用该工具。Android版本即将推出。
Substack为什么推出AI检测工具?
Substack联合创始人兼CEO Chris Best表示,这是为了提高平台透明度,因为AI在社交媒体上越来越普遍。核心问题是读者期望与现实不匹配,尤其是当读者无意中投入注意力到没有人类思考的内容上,即所谓的“Claudefishing”。
什么是“Claudefishing”?
根据Substack CEO Chris Best的说法,“Claudefishing”指的是读者在不知情的情况下,将注意力投入到没有人类思考的内容上,即内容完全由AI生成,但读者误以为有真人作者。
Substack的AI检测工具能检测出什么?
该工具只能检测文本是否使用了AI,无法判断是否有大量人工投入,也无法判断AI工具是否仅作为来源使用。
Substack为创作者提供了哪些与AI检测相关的功能?
Substack允许创作者通过新的“How I make this”声明向读者解释他们的写作过程。创作者还可以用Pangram扫描自己的草稿,并报告不准确的结果。
Substack CEO对AI检测工具的目标是什么?
Chris Best表示,目标是让读者更容易决定是否投入时间阅读博客文章。他认为,当读者怀疑内容真实性时,会破坏对作者信任,威胁作家生计,包括那些深思熟虑使用AI工具的作家。