Langchain-Chatchat 部署(默认ChatGLM-6B 模型,本地可用)
原文中文,约3700字,阅读约需9分钟。发表于: 。背景信息 官方仓库 https://github.com/chatchat-space/Langchain-Chatchat 本次 ...
本文介绍了在Windows 11 PRO环境下安装和部署Langchain-Chatchat的步骤,包括安装Python 3.10.11和CUDA Toolkit 12.1,配置Git和pip环境,解决常见问题,拉取仓库,安装依赖,下载模型,初始化知识库和配置文件,通过启动脚本启动服务。硬件要求包括显存和内存大小,推荐使用的GPU包括RTX 3090、RTX 4080等。