AI应用已经变得非常实用,打造自己的AI应用也变得简单。配置基础环境需要Python3.8+、CUDA、PyTorch和支持C++17的编译器。安装PyTorch环境可以使用conda或源码编译。在Windows上编译PyTorch源码较复杂,需要注意Python版本和硬件要求。除了配置环境,还有一些开源的大语言模型可供使用,如ChatGLM和LLaMA。在中文领域,效果最好且应用最多的开源底座模型是MOSS。此外,还有基于RWKV架构的Chat模型和Embedding模型。还有一些平台化的解决方案,如gradio和FastChat。知识库文件是重要的一环,常用的相似度检测工具是faiss。langchain是一套成熟的AI应用方案,可以快速构建chat AI。
完成下面两步后,将自动完成登录并继续当前操作。