本文介绍了在Windows 11 PRO环境下安装和部署Langchain-Chatchat的步骤,包括安装Python 3.10.11和CUDA Toolkit 12.1,配置Git和pip环境,解决常见问题,拉取仓库,安装依赖,下载模型,初始化知识库和配置文件,通过启动脚本启动服务。硬件要求包括显存和内存大小,推荐使用的GPU包括RTX 3090、RTX 4080等。
Langchain-Chatchat 是一个基于 ChatGLM 等大语言模型的开源知识库项目,支持离线部署,满足数据安全和私域化需求。它兼容主流本地模型,提供免费商用,并附有详细文档和快速启动指南。
完成下面两步后,将自动完成登录并继续当前操作。