从0开始入门智能知识库和星火大模型,打造AI客服。
内容提要
FastWiki是一个高性能、基于最新技术栈的知识库系统,采用微软Semantic Kernel进行深度学习和自然语言处理。它具有智能搜索、高性能、现代化前端、强大的后端等特点。FastWiki是开源和社区驱动的项目,鼓励开发者和企业使用和贡献。部署FastWiki需要使用docker-compose进行部署。One-Api用于AI的中转站,将国内的AI转换成openai的接口格式。FastWiki提供了一键docker-compose的文件,内部提供的postgresql自带了vector插件。FastWiki还提供了免费的向量Api。
延伸解读
部署前的环境准备
文章强调部署FastWiki前需确保docker和docker-compose环境已安装。由于PostgreSQL需要向量插件,自行打包较为麻烦,因此FastWiki提供了一键docker-compose文件,其中PostgreSQL镜像已内置vector插件,用户只需执行脚本即可,这降低了部署门槛。
One-Api的中转作用
One-Api用于将国内五花八门的AI接口格式转换为OpenAI的API格式,因为多数AI工具仅支持OpenAI格式。部署时使用最轻量级的Sqlite版本,默认账号root、密码123456。添加星火大模型渠道需在讯飞开放平台申请应用和产品,获取APPID、APISecret、APIKey,并按指定格式填入One-Api。
关键环境变量配置
在FastWiki的docker-compose文件中,需修改OPENAI_CHAT_TOKEN为One-Api创建的Token,OPENAI_CHAT_ENDPOINT为fast-wiki-service能访问的地址(如局域网IP加端口)。此外,FAST_WIKI_SERVICE环境变量必须设置为外网可访问的地址,否则回复知识库内容时引用的文件会出现404错误。
自定义模型与国产模型支持
FastWiki允许通过model.json文件自定义模型列表,该文件需与docker-compose.yml同级。在ChatModel数组中可添加国产模型如SparkDesk-v3.5(星火大模型),EmbeddingModel数组则用于配置向量模型。这样用户可以在应用中选择星火大模型进行对话,实现基于知识库的智能问答。
Q&A
FastWiki是什么?
FastWiki是一个高性能的知识库系统,采用微软Semantic Kernel进行深度学习和自然语言处理,旨在提供智能搜索和信息检索解决方案。
如何部署FastWiki?
部署FastWiki需要使用docker-compose,提供了一键docker-compose的文件,内部的PostgreSQL自带了向量插件。
One-Api的作用是什么?
One-Api用于将国内的AI接口格式转换为OpenAI的接口格式,简化了AI工具的使用。
FastWiki支持哪些文档格式上传?
FastWiki支持上传.md、.pdf和.txt格式的文档。
如何创建知识库并上传文档?
用户可以通过FastWiki创建知识库,上传文档并进行数据量化,最终创建应用以便进行智能搜索。
FastWiki提供哪些API服务?
FastWiki提供免费的向量API,支持自定义模型的json文件以便支持国产模型。