AI生成的互联网时代已经到来
内容提要
自从ChatGPT上市以来，人工智能生成的内容在互联网中广泛传播，但大量生成的内容导致网络变成垃圾，难以验证和跟踪。一些公司正在与人工智能技术公司达成许可协议。研究人员发现，人工智能模型在合成数据上训练时会退化。人工智能生成的互联网已经到来，包括产品评论摘要、电子邮件和文件起草工具、职位描述生成工具和图像生成平台。点击诱饵网站是真正的肇事者，提供低质量的重复内容。互联网上出现了人工智能生成的学术论文和肖像。社区和组织将采取措施保护内容免受人工智能模型的侵害。预计互联网将迎来新的发展趋势和商业模式。模型崩溃的一线希望是需求的丧失。
延伸解读
模型崩溃：AI自我吞噬的恶性循环
文章指出，AI模型在合成数据上训练会导致不可逆的缺陷，即“模型崩溃”。因为模型相互学习对方生成的内容，缺乏多样性，原始数据分布的尾部消失，最终生成的内容质量下降、同质化。这就像复印件的复印件，越来越模糊。研究人员已通过多篇论文证实这一现象，意味着当前AI生成内容的泛滥可能加速网络内容整体退化。
版权与授权：AI时代的法律博弈
文章提到，AI未经许可复制艺术品、书籍、名人肖像和声音，但现有版权法和知识产权法已提供保护。同时，一些公司正探索与AI合作，如Grimes的收入共享协议和唱片公司的许可协议。立法者提出《无假货法案》保护公众人物。这些动态显示，法律和商业模式正在适应AI生成内容，但全面监管尚未出台。
点击诱饵与低质内容：真正的网络垃圾制造者
文章强调，点击诱饵网站才是网络内容质量下降的主要肇事者。它们利用AI快速生成低质量、重复的内容，以获取高搜索引擎排名和收入，欺骗其他媒体。此外，AI生成的学术论文和名人肖像也混入网络，甚至出现在谷歌搜索和学术平台。这些行为加剧了信息验证的难度，侵蚀了网络可信度。
未来趋势：付费墙、验证工具与需求萎缩
面对AI生成内容的泛滥，文章预测互联网将出现新趋势：更多媒体设置付费墙，提供可信的订阅信息；开发水印和验证工具保护版权；新闻机构与OpenAI等公司达成授权协议。同时，随着低质量模型失去效用，由炒作驱动的生成式AI需求可能枯竭，留下人类真实表达的空间。
Q&A
AI生成的互联网时代已经到来，具体有哪些表现？
亚马逊推出AI生成的产品评论摘要；谷歌和微软的工具用AI帮助起草电子邮件和文件；Indeed推出工具让招聘人员创建AI生成的职位描述；DALL-E 3和Midjourney等平台让用户创建AI生成图像并在网上分享。
什么是模型崩溃？它为什么会导致AI生成内容质量下降？
模型崩溃指AI模型在合成数据（AI生成的数据）上训练时会退化，导致生成的模型出现不可逆转的缺陷，原始内容分布的尾部消失。根本问题是缺乏多样性，因为AI模型试图取代人类创造力，却离目标越来越远。
AI生成内容泛滥对互联网造成了哪些负面影响？
大量生成的内容导致网络变成垃圾，难以验证和跟踪；内容质量下降，出现完全同质化、不可靠的未来网络；点击诱饵网站提供低质量重复内容；AI生成的学术论文和肖像未经授权使用，侵犯版权和知识产权。
面对AI生成内容的侵蚀，社区和组织采取了哪些应对措施？
社区和组织将采取措施保护内容免受AI模型侵害；更多知名媒体网站将内容置于付费墙之后，并提供来自订阅者通讯的可信信息；开发像“夜影”这样的工具来破坏在图像上训练的模型；开发先进的新型水印和验证工具。
AI生成内容时代，互联网的商业模式可能会发生哪些变化？
开放的、广告支持的、基于搜索的网络可能会消失；更多媒体网站将内容置于付费墙之后，并依赖订阅者通讯提供可信信息；美联社等新闻出版机构可能拥抱生成式AI，与OpenAI等公司达成授权协议；建立在搜索引擎优化基础上的收入模式将改变。
模型崩溃的一线希望是什么？
模型崩溃的一线希望是需求的丧失。目前生成式AI的扩散由炒作决定，如果在低质量内容上训练出来的模型不再有用，需求就会枯竭。
