RawWeb最近进行了两项重要更新:引入SimHash实现文档去重,并将Elasticsearch迁移至Meilisearch以降低运维成本。成功清理了56,000个相似文档,但在Meilisearch的内存和性能上遇到挑战。SimHash通过哈希算法高效评估文本相似度,优化了分词质量。迁移过程中发现了存储空间和内存使用的问题,后续将继续调试和优化。
在过去两周,我对RawWeb进行了两项重要改进:引入SimHash算法进行文档去重,并将数据从Elasticsearch迁移到Meilisearch以降低运营成本。成功清理了56000个相似文档,但在Meilisearch上遇到了一些内存和性能挑战。
RawWeb.org是一个搜索引擎项目,旨在帮助用户发现被主流搜索引擎忽视的个人数字花园。该项目使用PostgreSQL作为数据库,Redis进行缓存,Elasticsearch进行全文搜索,支持多语言内容索引。经过Django、Nest.js和Go三个版本的开发,最终选择Go作为主要技术栈,前端使用SvelteKit,基础设施采用Docker Compose和VPS。未来计划包括建立监控系统。
RawWeb.org is a search engine project I launched in 2024-08. The initial goal was to help more people discover personal digital gardens that are often overlooked by mainstream search engines.
RawWeb.org 是一个搜索引擎项目,旨在展示被忽视的个人数字花园,已收录17,000个站点和615,000篇文章。该项目使用PostgreSQL、Redis和Elasticsearch等技术,支持多语言内容索引。经过Django、Nest.js和Go的重构,最终选择Go作为后端,前端使用SvelteKit,基础设施采用Docker Compose,部署在Hetzner VPS上。
RawWeb.org是一个搜索引擎项目,旨在展示被主流搜索引擎忽视的个人数字花园。该项目使用PostgreSQL、Redis、RabbitMQ和Elasticsearch等技术,支持多语言内容索引。爬虫通过RSS获取数据,后端经历了Django、Nest.js和Go的重构,最终选择Go作为主要开发语言,前端使用SvelteKit,基础设施采用Docker Compose,确保不依赖特定供应商。
完成下面两步后,将自动完成登录并继续当前操作。