OpenAI将文本水印引入其API——与Anthropic不同,该功能默认关闭

OpenAI将文本水印引入其API——与Anthropic不同,该功能默认关闭

💡 原文英文,约1100词,阅读约需4分钟。
📝

内容提要

OpenAI推出文本水印系统textGrain,通过影响模型选词嵌入统计信号。API客户可自愿启用,欧盟ChatGPT和Codex将默认加水印以符合AI法案。检测率约80%(200词)至95%(400词),但编辑会削弱信号,代码因选择少更难水印。检测工具初期仅限研究机构。

🔎

延伸解读

与Anthropic的默认策略差异

OpenAI的textGrain在API中默认关闭,客户可自愿启用;而Anthropic对Claude的文本水印是全局强制,且未提供API层面的退出选项。这种差异意味着使用OpenAI API的开发者能自主决定是否让输出携带水印,而Claude的开发者则没有同等控制权。对于需要灵活应对不同地区透明度要求的企业,OpenAI的方案提供了更多选择空间。

检测率与编辑脆弱性

OpenAI称其检测器在200词段落中能识别约80%的水印文本,400词段落约95%,但编辑会显著削弱信号:替换10%的同义词后检测率从92%降至66%,替换25%后仅剩17%。短文本可能因信号不足而无法可靠检测。这意味着水印更适合长篇幅、少修改的场景,对频繁编辑或短内容的效果有限。

代码水印的固有难点

代码因可选词少,水印嵌入更困难,OpenAI也承认这一点。尽管其测试显示水印对Astra模型的编码基准性能无显著影响,但并未说明生成的代码能否被可靠检测。欧盟即将对Codex输出自动加水印,但OpenAI尚未明确“合格”输出的定义,也未提供代码专用的检测率数据,实际效果有待观察。

检测工具的研究机构限制

启用textGrain的API客户不会自动获得检测能力,OpenAI初期仅向经批准的研究和学术机构开放检测器访问。这限制了普通开发者验证水印存在或评估其鲁棒性的能力。研究机构可借此探究水印在编辑后的存活率及误报情况,但商业用户短期内难以自行检测,可能影响水印在透明度合规中的实际应用。

❓

Q&A

OpenAI的文本水印功能在API中默认开启吗?

默认关闭。API客户可以自愿选择启用,OpenAI表示这能让客户自行决定水印如何符合其透明度义务。

OpenAI的textGrain水印检测率有多高?

在目标误报率为1%的情况下,200个token的段落检测率约80%,400个token的段落约95%。但数学等受限领域检测率更低。

编辑文本对OpenAI水印检测有什么影响?

编辑会显著削弱信号。在400个token的段落中,替换10%的词语为同义词,检测率从约92%降至66%;替换25%则降至17%。

OpenAI和Anthropic的文本水印策略有什么不同?

OpenAI的API水印默认关闭,客户可自愿启用;Anthropic则在全球范围内默认应用水印,且API开发者无法选择退出。

为什么代码比普通文本更难加水印?

因为代码中下一个词的可选范围更小,模型能嵌入统计信号的机会更少。不过代码中的自然语言注释相对容易加水印。

谁可以使用OpenAI的水印检测工具?

初期仅限经批准的研究和学术组织,用于研究文本溯源和检测可靠性等领域。API客户即使启用了水印,也不会自动获得检测能力。

🏷️

标签

➡️

继续阅读