/cdn.vox-cdn.com/uploads/chorus_asset/file/24390406/STK149_AI_03.jpg)
OpenAI正在开发新的AI图像检测工具
内容提要
OpenAI正在开发一种新的AI图像检测工具，能够判断图像是否由DALL-E 3生成，准确率约为98%。该工具可以识别经过裁剪或压缩的图像，并引入了防篡改水印来标记生成内容。尽管对其他AI模型的识别效果较差，仅能识别5%至10%的图像，OpenAI仍在不断改进这些技术，并寻求用户反馈。
延伸解读
检测工具的适用范围有限
OpenAI的图像检测工具主要针对DALL-E 3生成的图像，准确率约98%，但对其他AI模型（如Midjourney）的识别率仅为5%至10%。这意味着该工具目前仅适用于特定模型，无法通用检测所有AI生成内容。用户在使用时需注意其局限性，避免误判。
水印与内容凭证的防篡改设计
OpenAI引入了防篡改水印，可在音频等内容中嵌入不可见信号，并加入C2PA联盟，在图像元数据中添加内容凭证。这些措施旨在标记AI生成内容并追踪来源，但水印技术仍在完善中，其实际效果需进一步验证。
用户反馈与测试渠道
OpenAI表示，图像分类器和音频水印技术仍在改进中，需要用户反馈来测试有效性。研究人员和非营利新闻组织可通过OpenAI的研究访问平台测试图像检测分类器。这为相关领域提供了参与改进的机会。
历史经验与当前挑战
OpenAI曾于2023年终止AI文本检测项目，因准确率持续偏低。此次图像检测工具虽在DALL-E 3上表现良好，但跨模型识别率低，且水印技术尚未成熟。这表明AI生成内容检测仍面临准确性和通用性的挑战。
Q&A
OpenAI的新AI图像检测工具有什么主要功能？
该工具能够判断图像是否由DALL-E 3生成，准确率约为98%。
这个工具如何处理经过裁剪或压缩的图像？
该工具可以识别经过裁剪或压缩的图像，仍能判断其是否由DALL-E 3生成。
OpenAI的图像检测工具对其他AI模型的识别效果如何？
对于其他AI模型的识别效果较差，仅能识别5%至10%的图像。
OpenAI如何确保生成内容的来源和真实性？
OpenAI加入了内容来源和权威联盟（C2PA），并在图像元数据中添加了内容凭证。
OpenAI在改进图像检测工具方面采取了哪些措施？
OpenAI正在不断改进这些技术，并寻求用户反馈以测试其有效性。
用户如何参与测试OpenAI的图像检测工具？
研究人员和非营利新闻组织可以通过OpenAI的研究访问平台测试图像检测分类器。
