从 AntSK 接入讯飞星火大模型,看如何为 Semantic Kernel 对接无OpenAI接口协议的大模型平台...
原文中文,约1200字,阅读约需3分钟。
📝
内容提要
本文介绍了大模型应用项目AntSK的学习成果,包括接入第三方模型的方法、动态在线配置和数据库改进。作者还讨论了如何让没有Azure服务的人也能启动AntSK,并通过对接讯飞星火的sdk实现了星火的对接。下回作者将讲述如何在AntSK实现本地方法调用,让AI直接驱动真实业务。
🎯
关键要点
-
本文介绍了大模型应用项目AntSK的学习成果。
-
作者与AntSK项目的作者密切合作,最近开始review当前版本。
-
AntSK是开源项目,旨在让更多人参与开发。
-
运行AntSK需要Postgre数据库和openai服务参数,初学者面临困难。
-
经过沟通,模型配置实现了动态在线配置,数据库改为默认sqlite。
-
AntSK最初只支持OpenAI和llama本地模型,作者希望能支持更多模型。
-
通过对接SK,作者实现了讯飞星火的sdk对接。
-
接入其他大模型只需实现对话接口和SK的相关服务。
-
下次将讨论如何在AntSK实现本地方法调用。
❓
延伸问答
AntSK项目的主要目标是什么?
AntSK项目旨在让更多人参与开发大模型应用,提供开源解决方案。
如何在AntSK中实现对接讯飞星火的sdk?
通过实现ITextExecutionService和IAIService接口,可以轻松对接讯飞星火的sdk。
AntSK运行需要哪些数据库和服务参数?
AntSK运行需要Postgre数据库和OpenAI服务参数,后期已改为默认sqlite以简化配置。
AntSK如何支持没有Azure服务的用户?
通过对接其他大模型和实现内存模拟模型,AntSK可以支持没有Azure服务的用户。
AntSK项目的开源特性有什么优势?
AntSK的开源特性允许更多开发者参与,促进技术共享和社区贡献。
下次文章将讨论什么内容?
下次将讨论如何在AntSK中实现本地方法调用,让AI直接驱动真实业务。
🏷️