Instagram的AI检测系统再次陷入混乱
内容提要
Instagram的AI标签系统误将用户原创或轻微编辑的照片标记为“AI内容”，同时漏掉真正的AI生成图片。问题源于Meta对C2PA等元数据的检测不准确，如Canva背景移除工具被误判。作者测试发现，只有Meta自家AI生成的图片被正确标记，其他AI工具生成的图片未被识别，引发对标签系统可靠性的质疑。
延伸解读
误判根源：元数据检测的局限
Meta主要依赖C2PA等元数据来识别AI内容，但这类技术只能检测到明确嵌入的生成痕迹。许多辅助性AI工具（如Canva的背景移除）虽使用机器学习，却未必添加生成式AI元数据，导致系统误判。同时，不同AI工具的元数据标准不一，Meta的检测器难以全面覆盖，造成漏判。
检测系统的信任危机
当AI标签既误伤原创内容又漏掉真正的AI生成图片时，用户对平台的信任度会下降。标签本应帮助用户辨别内容真伪，但频繁出错反而让人怀疑所有内容的真实性。作者测试发现，只有Meta自家AI生成的图片被正确标记，其他工具生成的图片均未被识别，凸显系统的不一致性。
用户应对建议
面对AI标签的不确定性，创作者可暂时避免使用可能触发误判的编辑工具，或关注平台更新。同时，对于被误标的图片，可主动申诉或联系平台澄清。但根本解决仍需Meta改进检测算法，并公开更透明的标准，以减少用户困惑。
Q&A
Instagram的AI标签系统最近出了什么问题？
最近几周，Instagram的AI标签系统出现混乱：一方面，用户原创或仅用轻微编辑工具（如Canva的背景移除）处理的照片被错误标记为“AI内容”；另一方面，真正的AI生成图片却未被标记。
为什么Instagram会把非AI图片标记为AI内容？
原因多样，但主要与Meta对C2PA等元数据的检测不准确有关。例如，Canva的背景移除工具等辅助AI功能被误判为生成式AI，导致图片被标记。此外，有些图片可能被“投毒”处理，也会触发标记。
Canva对AI标签问题有何回应？
Canva回应称，其部分辅助AI工具被错误地标记为生成式AI，但现已修复，并声明使用背景移除工具不会添加AI生成内容的元数据。然而，仍有用户反映问题未完全解决。
作者测试了哪些工具？结果如何？
作者测试了Canva背景移除、Photoshop背景擦除、Adobe Firefly、Google Gemini的Nano Banana模型以及iOS Apple Intelligence等功能，甚至上传了完全由AI生成的图片。结果只有使用Meta自家AI工具生成的图片被标记，其他均未被标记。
Meta的AI标签系统存在哪些可靠性问题？
系统不可靠，既会误标非AI图片，又会漏标真正的AI图片。作者指出，目前唯一确定能触发标签的是Meta自家AI生成的图片，而其他AI工具生成的图片即使带有C2PA和SynthID水印也未被识别，导致用户对标签的信任度下降。
Instagram的AI标签系统在2024年也出现过类似问题吗？
是的，2024年2月，Meta推出“Made by AI”标签后不久，就曾因扫描IPTC和C2PA元数据而误标了使用Adobe生成式AI工具进行轻微修改的照片。Meta当时承诺调整标签方法，但问题至今仍存在。
