fastgpt+oneapi实现大模型整合
内容提要
OneAPI是一个统一的API,可以访问不同的大模型,如OpenAI和谷歌Gemini。用户只需一个入口和统一的参数即可访问不同模型。使用教程:部署命令和设置令牌。FastGPT部署和设置应用名称、模板和AI模型。知识库设置和导入数据。现在可以提问关于知识库内容的问题了。
延伸解读
OneAPI 的核心价值:统一接口简化多模型管理
OneAPI 通过统一的 base_url 和 api_key 将不同大模型的输入输出和鉴权方式标准化,解决了 OpenAI、谷歌 Gemini、智普 AI 等模型接口不一致的问题。用户无需为每个模型单独配置,只需一个入口和统一参数即可访问多种模型,降低了集成复杂度,尤其适合需要灵活切换模型的场景。
部署与配置要点:数据库选择与渠道令牌设置
OneAPI 支持 SQLite 和 MySQL 两种数据库部署,通过 Docker 命令可快速启动。部署后需登录后台(默认账号 root,密码 123456),在“渠道”中新增模型渠道(如智普 ChatGLM 或自定义 m3e 嵌入模型),并在“令牌”中创建访问令牌,可设置金额和有效期。这些步骤是后续 FastGPT 集成的基础。
FastGPT 集成关键:配置文件中的模型对接
FastGPT 部署需下载 docker-compose.yml 和 config.json,并在其中配置 OneAPI 的 base_url、api_key 以及聊天和向量模型。config.json 中需指定模型,若只配置一个 m3e 向量模型,知识库会默认使用它。正确配置后,登录 FastGPT(默认账号 root,密码 1234)即可创建应用并选择模型进行对话。
知识库应用:导入方式与关联使用
FastGPT 知识库支持手动导入、文本数据和表格数据三种导入模式。创建知识库时需选择文件处理模型,若未特别指定向量模型,则使用 config.json 中配置的默认模型。知识库创建后,需在应用中关联该知识库,之后即可针对知识库内容进行提问,实现基于自有数据的问答。
Q&A
OneAPI 是什么?它解决了什么问题?
OneAPI 是一个统一的 API,能够访问不同的大模型,如 OpenAI、谷歌 Gemini 等。它统一了各个模型的输入输出和鉴权方式,让用户只需一个入口和统一的参数即可访问不同的模型。
如何部署 OneAPI?
可以使用 Docker 部署 OneAPI。使用 SQLite 的命令:docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api。使用 MySQL 则在上面的基础上添加 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi",并修改数据库连接参数。
OneAPI 中如何设置渠道和令牌?
登录 OneAPI 后台(账号 root,密码默认 123456),点击“渠道”新增渠道,选择渠道类型(如智普 ChatGLM 或自定义渠道)。然后点击“令牌”新建令牌,可设置令牌金额和有效期。
如何部署 FastGPT?
创建目录并下载配置文件:mkdir fastgpt,cd fastgpt,然后使用 curl 下载 docker-compose.yml 和 config.json。在 docker-compose.yaml 中配置 OneAPI 的 base_url 和 api_key,在 config.json 中配置聊天模型和向量模型。之后启动 FastGPT,登录用户名 root,密码 1234。
如何在 FastGPT 中创建和使用知识库?
在 FastGPT 中点击右侧“知识库”,新建知识库,输入名称并选择文件处理模型。进入知识库后,点击“新建/导入”,支持手动导入、文本数据和表格数据三种导入模式。创建成功后,在应用中关联该知识库,即可提问关于知识库内容的问题。
FastGPT 中如何配置 AI 模型进行聊天?
在 FastGPT 的 config.json 中配置好聊天模型和向量模型。登录 FastGPT 后,点击“新建”,设置应用名称和模板,AI 模型选择在 config 中配置好的模型,即可开始聊天。