本文介绍了在Windows 11 PRO环境下安装和部署Langchain-Chatchat的步骤,包括安装Python 3.10.11和CUDA Toolkit 12.1,配置Git和pip环境,解决常见问题,拉取仓库,安装依赖,下载模型,初始化知识库和配置文件,通过启动脚本启动服务。硬件要求包括显存和内存大小,推荐使用的GPU包括RTX 3090、RTX 4080等。
Langchain-Chatchat 是一个基于 ChatGLM 等大语言模型的开源知识库项目,支持离线部署,满足数据安全和私域化需求。它兼容主流本地模型,提供免费商用,并附有详细文档和快速启动指南。
Chat Chat是一个开源项目,支持在线或离线部署,提供多种AI模型,包括OPENAI、微软的Azure OPENAI、Claude、Cohere、Hugging Face等。它具有丰富的交互界面和多种功能,如TTS、文件聊天、分享对话、Markdown格式化、代码语言语法高亮、System Prompt、快捷菜单、聊天记录等。用户需要提供各个AI模型的API才能使用,支持快速部署和本地部署。未来还将提供语音输入、深色模式、多语言支持等功能。
完成下面两步后,将自动完成登录并继续当前操作。