💡 原文英文,约600词,阅读约需2分钟。
📝

内容提要

Cloudflare推出“代理的Markdown”功能,允许AI爬虫请求网页的Markdown版本,并提出“内容信号”机制,让出版商声明内容是否可用于AI训练。这一举措引发了关于网络是否应为AI代理重构的争论。Cloudflare认为Markdown比HTML更高效,许多出版商开始限制AI爬虫的访问,随着更多出版商探索付费模式,关于同意、补偿和技术适应的讨论将加剧。

🎯

关键要点

  • Cloudflare推出'代理的Markdown'功能,允许AI爬虫请求网页的Markdown版本。
  • 该功能配合'内容信号'机制,允许出版商声明内容是否可用于AI训练、搜索索引或推理。
  • Cloudflare认为Markdown比HTML更高效,能减少AI处理所需的token数量。
  • 出版商可以在robots.txt中插入信号,控制内容的使用权限。
  • Cloudflare的信号仅为偏好,不具强制性,默认情况下允许AI训练和搜索。
  • 一些出版商已开始限制AI爬虫的访问,探索付费模式以实现内容的货币化。
  • 关于同意、补偿和技术适应的讨论将随着出版商的不同策略而加剧。
  • Medium等出版商已采取措施阻止AI训练,认为AI公司在未经同意的情况下使用内容。
  • Cloudflare实验了按爬取付费的模式,允许出版商对特定爬虫收费或阻止访问。
  • Markdown-for-Agents是否成为广泛采用的标准取决于AI平台的反应和出版商的需求。
➡️

继续阅读