OpenAI
·
DALL·E 3 现已在 ChatGPT Plus 和企业版中推出
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
DALL·E 3 具有一个安全系统来防止有害内容，并配备一个分类器以高精度识别其生成的图像。用户反馈对于改进系统非常重要。该分类器可以用于识别由人工智能生成的内容。
🎯
关键要点
- DALL·E 3 采用多层安全系统，限制生成潜在有害图像的能力，包括暴力、成人或仇恨内容。
- 安全检查在用户提示和生成的图像上运行，以确保内容安全。
- 与早期用户和专家团队合作，识别并解决安全系统中的覆盖缺口。
- 采取措施限制模型生成活跃艺术家风格的内容和公众人物的图像，改善生成图像的人口代表性。
- 用户反馈对持续改进系统至关重要，ChatGPT 用户可以通过标记图标向研究团队反馈不安全的输出。
- 正在研究和评估一个初步版本的来源分类器，帮助识别图像是否由 DALL·E 3 生成。
- 来源分类器在内部评估中对未修改的图像识别准确率超过 99%，对常见修改后的图像准确率超过 95%。
- 该分类器只能表明图像可能由 DALL·E 生成，尚无法得出明确结论。
- 来源分类器可能成为帮助人们理解音频或视觉内容是否为 AI 生成的一系列技术的一部分。
- 需要在 AI 价值链中进行合作，以应对识别 AI 生成内容的挑战，并期望随着时间的推移改进方法。
➡️
