Instagram的AI标签系统误将用户原创或轻微编辑的照片标记为“AI内容”,同时漏掉真正的AI生成图片。问题源于Meta对C2PA等元数据的检测不准确,如Canva背景移除工具被误判。作者测试发现,只有Meta自家AI生成的图片被正确标记,其他AI工具生成的图片未被识别,引发对标签系统可靠性的质疑。
微软画图及照片应用为AI生成图片添加不可见盲水印,嵌入像素中,截图或裁剪仍可识别。该机制独立于用户可关闭的Copilot水印,无法彻底移除。生成图片时需连接微软服务器审核提示词并获取水印ID,本地NPU生成后写入盲水印。若写入失败,画图应用会终止生成。此外,图片还含C2PA元数据,形成双重来源证明。
美国视频鉴真专利趋势显示,主题从“检测假视频”转向“证明真视频”。Bank of America、Arranged BV等公司通过哈希上链、旋转水印、受控光照等技术实现可复核认证,弥补C2PA对无元数据视频的缺口。落地机会包括视频公证订阅和防篡改报告代做,个人开发者可用低成本技术栈快速实现MVP。
谷歌更新Gemini和Flow,允许用户关闭AI生成内容的可见“闪光”水印。关闭后,内容仍会嵌入不可见的SynthID和C2PA元数据,便于验证AI来源。此举因用户常自行移除水印,且其他AI工具如OpenAI和Meta也不使用可见标记。该设置将推广至搜索,但不在要求可见水印的国家启用。
Unified Streaming推出内容溯源系统,在视频分发前将C2PA凭证附加到直播、点播及动态流中,记录来源、编辑和AI使用信息。此技术避免重新处理目录,扩展至多来源直播频道,旨在保留内容真实性。C2PA标准获Adobe等支持,提供加密验证记录。此举顺应欧盟AI法案透明度要求,将于IBC2026演示。
苹果正在开发iOS功能“Apple Reference Image”,可在拍摄时嵌入照片来源元数据,用于验证照片真实性,防止AI伪造。该功能默认关闭,需在设置中启用,拍摄后通过点击Reference徽章将原始图像和传感器数据发送至苹果私有云服务器验证。其机制类似C2PA标准,但苹果未采用该标准,可能旨在提供更可靠的解决方案。
A社为Claude AI生成内容添加盲水印及C2PA元数据,覆盖所有产品,全球适用。盲水印肉眼不可见,可机器检测,但编辑可能破坏;C2PA用于文件来源。检测结果不能证明原作者,未检测到也不代表非AI生成。
Anthropic宣布其新款Claude模型将嵌入不可见的隐形文本水印,并签署欧盟AI法案,在全球范围内推行。该水印在复制编辑后仍能保留,用于检测AI生成内容。公司还添加了C2PA元数据,覆盖全产品线。部分网友担忧此举可能影响内容质量,已有第三方工具尝试去除水印。
Big Blue Marble宣布加入C2PA合规列表,通过其云视频工具包为视频生成内容凭证。C2PA由Adobe等公司创立,旨在验证视频来源和真实性,应对虚假信息。该工具在转码时自动生成凭证,观众可直接在播放器验证,无需额外工具。
Google推出了SynthID和C2PA技术,以识别深度伪造内容。SynthID通过隐形水印标记图像,C2PA提供内容来源元数据。这两项技术的结合将增强在线内容的透明度,帮助用户验证图像的真实性。尽管存在元数据可能被删除的挑战,这项合作为打击AI伪造提供了新机会。
Irdeto 获得内容溯源与真实性联盟 (C2PA) 批准,成为可信证书颁发机构。C2PA 规范 2.3 版引入了直播和广播媒体的签名协议,增强了内容的来源和完整性验证。Irdeto 现可提供可信凭证,帮助行业应对 AI 技术带来的内容操控挑战。
Instagram负责人亚当·莫塞里对AI影响表示担忧,认为真实性变得可复制。他提到C2PA作为解决方案,但效果有限,无法有效防止AI生成的虚假内容。尽管有技术支持,社交平台仍在推动AI工具,给内容创作者带来挑战。
本文探讨了C2PA标签倡议在区分真实与虚假图像、视频方面的挑战与局限。尽管C2PA旨在通过元数据提升内容真实性,但其实施尚未普及。随着AI生成内容的增加,公众对图像真实性的信任下降,平台需采取更有效的应对措施。
AI图像生成技术迅速进步,生成的图像越来越真实。谷歌的Nano Banana模型和Adobe的Firefly生成器模仿手机摄影风格,提升了图像的真实感。尽管AI仍有局限,其图像生成能力显著提高,未来可能与真实图像融合。C2PA的内容凭证标准正在受到关注,以帮助辨别真假图像。
谷歌的Gemini应用程序将能够检测由谷歌AI生成或编辑的图像,用户只需询问“这是AI生成的吗?”即可进行验证。未来,谷歌计划扩展视频和音频的验证功能,并支持C2PA内容凭证。当前验证依赖于SynthID水印,C2PA的引入将有助于识别更多AI生成的内容。
谷歌照片推出新功能,用户可通过文本或语音请求编辑图片,简化编辑流程。Pixel 10用户首批体验,支持C2PA内容凭证以提高透明度,用户可轻松进行创意编辑,如更改背景或添加物品,无需选择工具。
Cloudflare Images已整合C2PA标准,帮助内容创作者保留数字内容的来源链,确保创作者获得应有的信用,并帮助用户验证媒体真实性。用户在图像转换过程中可保留内容凭证,确保信息完整性和可验证性。
YouTube推出新标签“用相机拍摄”,用于标识上传视频是否来自真实相机且未经过修改。该标签基于C2PA标准,确保视频的音频和视觉未被篡改。创作者需使用支持C2PA 2.1或更高版本的设备才能显示此标签,旨在提高视频内容的透明度,特别是针对AI生成内容。
在巴黎的谷歌负责任AI峰会上,谷歌信任与安全副总裁Laurie Richardson强调AI在解决重大挑战中的潜力,如预测洪水和药物发现。谷歌推出AI责任生命周期框架,确保AI的安全性和公平性,并通过大型语言模型加速滥用检测。谷歌还与行业合作提升信息质量,加入C2PA开发内容来源标准。
谷歌加入内容来源和真实性联盟(C2PA)指导委员会,推广内容来源技术,提供更安全的凭证。计划将技术应用于搜索和广告产品,帮助用户了解内容来源和修改历史。鼓励其他服务和硬件提供商采用C2PA的内容凭证。谷歌还与其他组织合作在AI安全和研究方面,并引入了安全AI框架(SAIF)和联盟。
完成下面两步后,将自动完成登录并继续当前操作。