Gaia - 一个使用Rust实现的Local LLM服务解决方案
原文中文,约1200字,阅读约需3分钟。发表于: 。最近发现一个不错的项目,Gaia (https://github.com/GaiaNet-AI/gaianet-node),它的功能是: 在本地运行下载的大模型LLM(通过wasmedge实现) 可以选择各种开源的LLM 实现了RAG,可自定义训练自己的知识库 实现了一种类似去中心化的模型,在本地启动LLM Chat服务,可为其它人提供LLM Chat服务 提供兼容 OpenAI...
Gaia是一个开源项目,提供本地运行和下载大模型LLM,以及LLM Chat服务。使用WasmEdge提供的基于wasm的LLM运行方案。集成了RAG,可自定义训练知识库。提供客户端即服务器模式,可通过Web UI进行聊天。未来可能提供付费方式。