从 AntSK 接入讯飞星火大模型,看如何为 Semantic Kernel 对接无OpenAI接口协议的大模型平台...

💡 原文中文,约1200字,阅读约需3分钟。
📝

内容提要

本文介绍了大模型应用项目AntSK的学习成果,包括接入第三方模型的方法、动态在线配置和数据库改进。作者还讨论了如何让没有Azure服务的人也能启动AntSK,并通过对接讯飞星火的sdk实现了星火的对接。下回作者将讲述如何在AntSK实现本地方法调用,让AI直接驱动真实业务。

🎯

关键要点

  • 本文介绍了大模型应用项目AntSK的学习成果。
  • 作者与AntSK项目的作者密切合作,最近开始review当前版本。
  • AntSK是开源项目,旨在让更多人参与开发。
  • 运行AntSK需要Postgre数据库和openai服务参数,初学者面临困难。
  • 经过沟通,模型配置实现了动态在线配置,数据库改为默认sqlite。
  • AntSK最初只支持OpenAI和llama本地模型,作者希望能支持更多模型。
  • 通过对接SK,作者实现了讯飞星火的sdk对接。
  • 接入其他大模型只需实现对话接口和SK的相关服务。
  • 下次将讨论如何在AntSK实现本地方法调用。
➡️

继续阅读