量子位
·
不敢用ChatGPT水论文了！OpenAI反作弊工具曝光，准确度高达99.9%，好消息：还没上线
💡
原文中文，约1800字，阅读约需5分钟。
📝
内容提要
OpenAI开发了一个作弊检测工具，准确率达到99.9%，用于检测论文和作业中是否使用了ChatGPT。然而，由于内部争议，该工具尚未发布。一项调查显示，三分之一的忠实用户会放弃使用ChatGPT，尤其是非英语母语者。谷歌和苹果等其他公司也在准备类似的工具。围绕该工具的技术成熟度和用户偏好的争议延迟了其发布。OpenAI计划在秋季制定一项计划，以影响公众对于AI透明度的看法。不发布该工具的主要原因是技术问题和用户偏好。
🎯
关键要点
- OpenAI开发了一个准确率高达99.9%的作弊检测工具，用于检测论文和作业中是否使用了ChatGPT。
- 该工具因内部争议已被雪藏2年，尚未对外发布。
- 调查显示，近三分之一的忠实用户表示如果使用反作弊工具，他们会放弃ChatGPT，尤其是非英语母语者受影响更大。
- 谷歌和苹果等公司也在准备类似的检测工具，但尚未正式上线。
- OpenAI在ChatGPT发布前就考虑到了如何甄别AI生成内容的问题。
- 2023年初，OpenAI的调查显示，全球仅有1/4的人支持增加检测工具。
- 尽管技术上已成熟，但用户调查结果显示用户对水印的接受度低。
- OpenAI认为技术问题和用户偏好是未公开该工具的主要原因。
- 技术上，该工具利用水印方法嵌入文本中，成功率已提高至99.9%。
- 内部员工担心该技术可能会损害ChatGPT的写作质量，并提出规避水印的潜在风险。
- 用户主要使用ChatGPT进行写作和完成家庭作业，因此对检测技术的反对情绪较强。
➡️
