Thor发布v0.2.0

💡 原文中文,约7100字,阅读约需17分钟。
📝

内容提要

Thor是一款AI大模型管理工具,支持多种AI模型和数据库类型。它提供了用户管理、数据统计预览、日志查看等功能。Thor兼容OpenAI接口,方便用户管理和使用多种AI模型。

🔎

延伸解读

v0.2.0 更新要点解读

本次更新主要围绕界面、代码和对接方式展开。Lobe Chat UI 的展示效果得到调整,代码结构经过优化并修复了一些 bug。讯飞星火的对接从 WebSocket 改为 HttpClient,这可能提升连接的稳定性和兼容性。此外,新增了 RabbitMQ 分布式事件支持和单个请求耗时记录,为后续的监控和扩展提供了基础。

数据库切换的注意事项

Thor 支持 SqlServer、PostgreSql、Sqlite 和 MySql 四种数据库,通过修改 appsettings.json 中的 ConnectionStrings:DBType 配置项即可切换。但需要注意,切换数据库类型并不会自动迁移原有数据,这意味着如果已有数据,需要手动处理迁移,否则可能导致数据丢失或服务异常。

部署与数据持久化

Thor 推荐使用 Docker 部署,官方提供了 docker compose 和 docker run 两种方式。无论哪种方式,都需要将本地的 data 目录挂载到容器内的 /data,以持久化数据库文件。如果克隆项目后根目录缺少 data 文件夹,需要手动创建,否则容器启动可能失败。

模型支持与接口兼容性

Thor 兼容 OpenAI 接口格式,并支持 OpenAI、Kimi、星火、Claudia、智谱 AI、AzureOpenAI、Ollama、通义千问、腾讯混元、百度 ErnieBot 等多种大模型。其中多数模型支持 function calling,但 Claudia 仅在非 Stream 模式下支持。这为开发者统一调用不同模型提供了便利,但需留意个别模型的特性差异。

❓

Q&A

Thor的主要功能有哪些?

Thor提供用户管理、渠道管理、token管理、数据统计预览、日志查看等功能。

Thor支持哪些AI模型?

Thor支持OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问、AzureOpenAI和腾讯混元大模型等。

如何使用Docker部署Thor?

可以通过docker compose或docker run命令启动Thor服务,并配置相应的环境变量。

Thor兼容哪些数据库?

Thor支持SqlServer、PostgreSql、Sqlite和MySql等多种数据库。

Thor的更新内容包括哪些?

更新内容包括界面调整、代码结构优化、对接修改和新增功能,如对RabbitMQ的支持。

Thor适合哪些用户使用?

Thor适合AI开发者、企业和个人用户,提供一站式的AI管理解决方案。

🏷️

标签

➡️

继续阅读