内容提要
OpenAI在欧盟为ChatGPT和Codex推出textGrain文本水印,暂不设为全球默认。API客户可自愿启用,研究机构可申请检测工具。OpenAI称水印性能不逊于SynthID,但不保证可靠检测,也不能证明作者身份或准确性。
延伸解读
欧盟先行:监管驱动的区域策略
OpenAI 将 textGrain 水印首先限定在欧盟推出,覆盖所有套餐的 ChatGPT 和 Codex 用户,并明确暂不设为全球默认。这一区域化做法与欧盟《人工智能法案》的要求直接相关,同时也为 OpenAI 留出观察真实使用反馈的空间。对欧盟以外用户而言,短期内不会默认获得水印文本,但 API 客户可自愿选择启用。
水印的能力边界:不保证检测,不证明作者
OpenAI 坦承 textGrain 不保证可靠检测,且文本水印无法验证内容准确性、确定文本所有权、衡量人类贡献比例或证明人类作者身份。这意味着水印只能作为来源提示信号,不能当作事实核查或版权归属的依据。读者和机构在使用检测结果时,需警惕漏检和误报风险。
检测工具受限开放:研究者优先,公众暂不可用
经批准的研究者和专家组织可申请检测工具,初期按个案审批,用于评估和改进文本溯源。检测结果仅报告是否发现 OpenAI 水印,不会识别用户或泄露提示与对话。由于存在漏检和误报风险,OpenAI 未在发布时向公众开放该工具,这反映出水印检测在准确性和隐私之间的平衡难题。
行业对照:与 SynthID 等方案的性能比较
OpenAI 称 textGrain 在性能上匹配或超过 Google DeepMind 的 SynthID 文本水印,后者也是 Anthropic 八月宣布的水印方案的基础。三家厂商均因欧盟 AI 法案要求而推进文本水印,但 Anthropic 的举措曾引发部分用户不满。OpenAI 引用基准测试显示水印与未加水印文本表现相近,试图缓解对输出质量下降的担忧。
Q&A
OpenAI 在 ChatGPT 和 Codex 中加入了什么水印技术?
OpenAI 加入了名为 textGrain 的文本水印技术。
textGrain 水印首先在哪些地区推出?
首先在欧盟推出,面向所有套餐的符合条件的 ChatGPT 和 Codex 用户。
OpenAI 的 API 客户可以如何使用水印功能?
全球 API 客户可以从今天起自愿选择为特定模型的输出启用带水印的文本。
研究人员如何获取 OpenAI 的水印检测工具?
经过批准的研究人员和专家组织可以从今天起申请,初期按个案授予访问权限。
textGrain 水印能保证可靠检测吗?
不能,OpenAI 指出 textGrain 不保证可靠检测,且水印不能验证准确性、确定所有权、衡量人类贡献或证明人类作者身份。
OpenAI 为什么在欧盟推出文本水印?
为了满足欧盟《人工智能法案》的要求。