Thor发布v0.2.0
内容提要
Thor是一款AI大模型管理工具,支持多种AI模型和数据库类型。它提供了用户管理、数据统计预览、日志查看等功能。Thor兼容OpenAI接口,方便用户管理和使用多种AI模型。
延伸解读
v0.2.0 更新要点解读
本次更新主要围绕界面、代码和对接方式展开。Lobe Chat UI 的展示效果得到调整,代码结构经过优化并修复了一些 bug。讯飞星火的对接从 WebSocket 改为 HttpClient,这可能提升连接的稳定性和兼容性。此外,新增了 RabbitMQ 分布式事件支持和单个请求耗时记录,为后续的监控和扩展提供了基础。
数据库切换的注意事项
Thor 支持 SqlServer、PostgreSql、Sqlite 和 MySql 四种数据库,通过修改 appsettings.json 中的 ConnectionStrings:DBType 配置项即可切换。但需要注意,切换数据库类型并不会自动迁移原有数据,这意味着如果已有数据,需要手动处理迁移,否则可能导致数据丢失或服务异常。
部署与数据持久化
Thor 推荐使用 Docker 部署,官方提供了 docker compose 和 docker run 两种方式。无论哪种方式,都需要将本地的 data 目录挂载到容器内的 /data,以持久化数据库文件。如果克隆项目后根目录缺少 data 文件夹,需要手动创建,否则容器启动可能失败。
模型支持与接口兼容性
Thor 兼容 OpenAI 接口格式,并支持 OpenAI、Kimi、星火、Claudia、智谱 AI、AzureOpenAI、Ollama、通义千问、腾讯混元、百度 ErnieBot 等多种大模型。其中多数模型支持 function calling,但 Claudia 仅在非 Stream 模式下支持。这为开发者统一调用不同模型提供了便利,但需留意个别模型的特性差异。
Q&A
Thor的主要功能有哪些?
Thor提供用户管理、渠道管理、token管理、数据统计预览、日志查看等功能。
Thor支持哪些AI模型?
Thor支持OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问、AzureOpenAI和腾讯混元大模型等。
如何使用Docker部署Thor?
可以通过docker compose或docker run命令启动Thor服务,并配置相应的环境变量。
Thor兼容哪些数据库?
Thor支持SqlServer、PostgreSql、Sqlite和MySql等多种数据库。
Thor的更新内容包括哪些?
更新内容包括界面调整、代码结构优化、对接修改和新增功能,如对RabbitMQ的支持。
Thor适合哪些用户使用?
Thor适合AI开发者、企业和个人用户,提供一站式的AI管理解决方案。