💡
原文中文,约3700字,阅读约需9分钟。
📝
内容提要
本文介绍了在Windows 11 PRO环境下安装和部署Langchain-Chatchat的步骤,包括安装Python 3.10.11和CUDA Toolkit 12.1,配置Git和pip环境,解决常见问题,拉取仓库,安装依赖,下载模型,初始化知识库和配置文件,通过启动脚本启动服务。硬件要求包括显存和内存大小,推荐使用的GPU包括RTX 3090、RTX 4080等。
🎯
关键要点
- 背景信息:演示环境为Windows 11 PRO,使用RTX 4080显卡和Python 3.10.11。
- 安装CUDA Toolkit:建议安装CUDA 12.1版本以确保兼容性。
- 网络环境配置:需要设置代理以解决下载问题,推荐使用阿里或腾讯源。
- 常见问题解决:包括CUDA环境问题、端口占用、依赖安装错误等。
- 拉取仓库和安装依赖:使用Git克隆仓库并安装所有依赖。
- 下载模型:推荐使用Git LFS下载模型,避免手动下载。
- 初始化知识库和配置文件:通过命令初始化数据库和配置。
- 一键启动服务:使用startup.py脚本启动所有服务,并可通过参数指定服务类型。
- 硬件要求:显存和内存要求根据模型大小而定,推荐使用高显存GPU。
- 硬件推荐:列出适合家用和云服务器的GPU型号及其显存。
➡️