内容提要
该文章介绍Anubis,一种用于保护网站免受AI公司大规模数据抓取的解决方案。它采用类似Hashcash的工作量证明机制,增加抓取成本,同时不影响普通用户。文章指出,这是临时措施,未来将改进浏览器指纹识别技术,以更好区分真实用户和自动化程序。
延伸解读
工作量证明的代价与权衡
Anubis采用类似Hashcash的工作量证明机制,对普通用户而言额外负载可忽略,但对大规模抓取者来说成本显著增加。这种设计旨在通过经济成本遏制AI公司的数据抓取,但并非完美方案。文章明确指出,这是临时措施,未来将转向更精细的浏览器指纹识别技术,以区分真实用户与自动化程序。
对普通用户的影响与注意事项
Anubis依赖现代JavaScript特性,因此用户必须启用JavaScript才能通过挑战。此外,像JShelter这类安全插件可能会禁用相关功能,导致无法访问。文章提醒用户,若遇到加载问题,需检查并禁用此类插件。这反映了网站防护与用户便利之间的现实冲突。
AI抓取引发的社会契约变化
文章指出,AI公司的大规模抓取行为已改变网站托管的社会契约,迫使网站采取额外防护措施。Anubis的引入正是对这一变化的回应。虽然它增加了访问门槛,但作者认为这是必要的妥协,以保护网站资源不被滥用,确保所有用户都能正常访问。
Q&A
Anubis是什么?它主要解决什么问题?
Anubis是一种用于保护网站免受AI公司大规模数据抓取的解决方案。它通过工作量证明机制增加抓取成本,从而减少对网站资源的滥用,防止网站因被过度抓取而宕机。
Anubis是如何工作的?它采用什么机制?
Anubis采用类似Hashcash的工作量证明(Proof-of-Work)方案。访问者需要完成一定的计算任务,对普通用户来说负担很小,但对大规模抓取者来说,累积的计算成本会显著增加,从而降低抓取的经济效益。
Anubis对普通用户有什么影响?
对普通用户来说,Anubis带来的额外计算负担可以忽略不计,不会明显影响浏览体验。但用户需要启用JavaScript才能通过挑战,且某些插件(如JShelter)可能会干扰其运行。
为什么Anubis需要启用JavaScript?
Anubis依赖现代JavaScript特性来执行工作量证明和挑战页面。由于AI公司改变了网站托管的社交契约,网站需要这种保护,而目前无JavaScript的解决方案仍在开发中,所以暂时必须启用JavaScript。
Anubis是永久解决方案吗?未来有什么计划?
不是。Anubis只是一个临时解决方案,目的是为开发者争取时间,以便改进浏览器指纹识别技术,特别是识别无头浏览器(如通过字体渲染方式),从而更准确地区分真实用户和自动化程序,最终可能无需向合法用户展示挑战页面。
为什么网站需要Anubis这样的保护?
因为AI公司大规模抓取网站数据,导致网站服务器过载、宕机,使资源无法正常访问。Anubis通过增加抓取成本来缓解这一问题,保护网站的正常运行。