从 AntSK 接入讯飞星火大模型,看如何为 Semantic Kernel 对接无OpenAI接口协议的大模型平台...
💡
原文中文,约1200字,阅读约需3分钟。
📝
内容提要
本文介绍了大模型应用项目AntSK的学习成果,包括接入第三方模型的方法、动态在线配置和数据库改进。作者还讨论了如何让没有Azure服务的人也能启动AntSK,并通过对接讯飞星火的sdk实现了星火的对接。下回作者将讲述如何在AntSK实现本地方法调用,让AI直接驱动真实业务。
🎯
关键要点
- 本文介绍了大模型应用项目AntSK的学习成果。
- 作者与AntSK项目的作者密切合作,最近开始review当前版本。
- AntSK是开源项目,旨在让更多人参与开发。
- 运行AntSK需要Postgre数据库和openai服务参数,初学者面临困难。
- 经过沟通,模型配置实现了动态在线配置,数据库改为默认sqlite。
- AntSK最初只支持OpenAI和llama本地模型,作者希望能支持更多模型。
- 通过对接SK,作者实现了讯飞星火的sdk对接。
- 接入其他大模型只需实现对话接口和SK的相关服务。
- 下次将讨论如何在AntSK实现本地方法调用。
➡️