生成式 AI 面临的抄袭问题 —— Midjourney 和 DALL-E 3 的实验揭示了版权方面的难题 [译]
内容提要
本文讨论了生成式人工智能（AI）系统在图像生成中可能存在的版权侵犯问题。作者实验证明了OpenAI和Midjourney等公司的系统可能使用了受版权保护的素材进行训练，并能生成与商标角色相似的图像。作者呼吁生成式AI开发者限制使用合法授权的数据进行训练，并对艺术家的贡献给予适当的补偿。问题可能在音乐创作等其他领域中出现。
延伸解读
“无意侵权”风险：用户可能不知不觉踩雷
文章通过实验证明，即使提示中不直接提及电影或角色名称，Midjourney 和 DALL-E 3 也能生成与受版权保护角色高度相似的图像。这意味着普通用户在使用这些工具时，可能在没有意识到的情况下创作出侵权内容。而系统既不警告用户，也不提供图像来源信息，用户难以判断输出是否合法。这种责任错位值得警惕。
技术补救的局限：过滤与下架并非易事
文章指出，从现有模型中移除特定版权材料并不像删除数据库记录那样简单，往往需要重新训练，成本高昂。而通过过滤查询来阻止侵权输出，则面临安全防护过严或过松的问题，用户也能通过修改提示绕过限制。因此，仅靠修补现有系统难以可靠解决版权侵权问题，根本出路可能在于使用合法授权数据重新训练。
Napster 前车之鉴：诉讼可能重塑行业
作者将当前生成式 AI 的版权争议与 Napster 案类比：Napster 因大规模侵权被法院叫停，随后流媒体模式兴起并向版权方分成。文章认为，如果迪士尼、任天堂等公司效仿《纽约时报》提起诉讼，AI 公司可能面临巨额赔偿。这提示行业，版权法不会为迎合 AI 公司而轻易改写，商业模式的可持续性取决于能否获得合法授权。
透明度缺失：用户与创作者的双重困境
文章强调，生成式 AI 系统如同“黑箱”，无法追溯输出与训练数据的具体关联。用户无法得知生成图像是否侵权，个体艺术家也缺乏法律资源对抗 AI 公司。作者呼吁开发者记录数据来源、仅使用授权数据并补偿艺术家。在技术解决方案出现前，限制使用合法授权数据是更道德的做法，否则行业基础可能建立在道德上不稳固的基础之上。
Q&A
生成式AI图像模型如Midjourney和DALL-E 3是否使用了受版权保护的素材进行训练？
是的，实验表明Midjourney V6和DALL-E 3很可能使用了受版权保护的素材进行训练。它们能生成与电影、游戏和卡通中可识别角色高度相似的图像，甚至在没有明确提示的情况下也能做到，这强烈暗示训练数据包含了这些版权内容。
用户在使用Midjourney或DALL-E 3时，是否可能在无意中侵犯版权？
是的，用户可能无意中侵犯版权。实验显示，即使提示中未直接提及特定电影或角色名称，系统也能生成与受版权保护角色（如星球大战角色、马里奥等）几乎相同的图像。用户可能并不知晓生成内容侵权，而系统也不会主动警告。
Midjourney和DALL-E 3在生成版权内容方面有哪些具体表现？
Midjourney V6能自主生成与电影场景、视频游戏角色和卡通角色（如辛普森一家）几乎一模一样的图像，甚至仅用“screencap”一词就能产生侵权内容。DALL-E 3同样能生成与商标角色（如马里奥、索尼克、C-3PO）高度相似的图像，即使提示很简短。
为什么生成式AI的抄袭性输出难以通过简单过滤或下架来解决？
因为大型神经网络是“黑箱”系统，无法像数据库一样轻松删除特定版权材料。过滤查询和输出也面临长尾问题，用户可以通过巧妙提示绕过防护。重新训练模型成本高昂，且可能影响输出质量，因此简单修补难以可靠实施。
生成式AI公司应如何道德地处理版权问题？
作者建议生成式AI开发者应限制使用未经授权的数据进行训练，只使用已合法授权的数据，并对艺术家的贡献给予适当补偿。同时，应提高透明度，记录数据来源，并允许社区进行红队调查以发现侵权风险。
Midjourney对版权问题的态度和做法引发了哪些争议？
Midjourney CEO对版权持有者权益显得不关心，承认无法追踪图片来源。公司还被指禁止调查者使用其服务（如本文作者被三次禁号），并修改服务条款限制侵权使用，可能阻碍红队研究。此外，有证据显示其可能故意使用未授权艺术家作品训练。
