【.Net/C#之ChatGPT开发系列】四、ChatGPT多KEY动态轮询,自动删除无效KEY
原文中文,约10700字,阅读约需26分钟。发表于: 。ChatGPT是一种基于Token数量计费的语言模型,它可以生成高质量的文本。然而,每个新账号只有一个有限的初始配额,用完后就需要付费才能继续使用。为此,我们可能存在使用多KEY的情况,并在每个KEY达到额度上限后,自动将其删除。那么,我们应该如何实现这个功能呢?????ChatGPT多KEY轮询为了实现多KEY管理,我们通常需要把所有密钥保存在数据库中,但为了简化演示,这里我使用Redis...
本文介绍了实现ChatGPT的多KEY轮询和自动删除无效KEY的方法,使用Redis存储和管理多个KEY,实现初始化、获取、移除密钥的功能。通过非依赖注入实现多KEY轮询,手动创建IOpenAIService服务实例并使用随机密钥进行授权。通过依赖注入实现多KEY轮换,创建自定义的DelegatingHandler拦截请求并切换密钥。使用账单查询API和账单明细查询API判断KEY是否有效,并定时过滤无效KEY。