.NET Core C#系列之 AI Gateway网关Thor雷神托尔(开发篇)
💡
原文中文,约2500字,阅读约需6分钟。
📝
内容提要
本章介绍了Thor网关的代码实现,指导用户从GitHub下载项目并配置后端和前端。后端使用Visual Studio,前端使用Visual Studio Code,涉及数据库配置、API接口和模型管理。用户需修改appsettings.json以设置数据库连接,前端需配置.env文件。系统支持模型轮询和限流,并提供管理后台和监控功能。
🎯
关键要点
- 本章介绍Thor网关的代码实现,指导用户从GitHub下载项目并配置后端和前端。
- 后端使用Visual Studio,前端使用Visual Studio Code,涉及数据库配置、API接口和模型管理。
- 用户需修改appsettings.json以设置数据库连接,前端需配置.env文件。
- 系统支持模型轮询和限流,并提供管理后台和监控功能。
- 后端项目的数据库配置使用sqlite,用户可根据需要修改数据库类型和连接串。
- 模型映射支持对gpt-4o进行权重轮询,以解决API接口限流问题。
- API接口包括聊天接口、嵌入接口和图片接口,使用Open AI统一出入参风格。
- 前端需安装node环境并配置后端URL,启动后可访问管理后台。
- 管理后台提供模型管理、Token管理和用户管理等功能。
- 系统监控大模型渠道的可用性,自动禁用不可用模型并轮询其他可用模型。
➡️