最近遇到一个需求,需要抓取Docusaurus和Uniswap Docs上的全部文档。通过研究网站,发现可以在域名后加上 /sitemap.xml ,然后搜索关键词 /docs/ 或 /concepts 就能找到所有文档URL。使用Charles抓取Ajax请求解析起来麻烦,可以采用这种简单的方法获取URL。
完成下面两步后,将自动完成登录并继续当前操作。