DEV Community
·
在Semantic Kernel中使用多个语言模型
内容提要
本文介绍了如何在Semantic Kernel中注册多个大型语言模型（LLMs），通过serviceId和modelId配置不同的文本生成和嵌入服务。示例代码展示了如何添加Azure OpenAI和Ollama服务，并在执行提示时传递这些ID。所有AI服务实现IAIService接口，支持通过serviceId和modelId选择服务。
关键要点
-
本文介绍了如何在Semantic Kernel中注册多个大型语言模型（LLMs）。
-
使用serviceId和modelId配置不同的文本生成和嵌入服务。
-
示例代码展示了如何添加Azure OpenAI和Ollama服务。
-
在执行提示时，可以传递serviceId和modelId。
-
所有AI服务实现IAIService接口，支持通过serviceId和modelId选择服务。
-
注册聊天完成服务时，如果提供serviceId，Semantic Kernel会将服务注册为键控服务。
-
IAIService接口定义了服务的元数据属性，包含特定于服务实现的属性。
-
默认的IAIServiceSelector首先通过serviceId解析服务，然后通过modelId匹配IAIService元数据。
-
可以实现自定义IAIServiceSelector以获得对AI服务选择的完全控制。
延伸解读
多模型注册的灵活性
在Semantic Kernel中注册多个大型语言模型（LLMs）使得开发者能够根据不同需求灵活选择服务。通过使用serviceId和modelId，用户可以轻松切换不同的文本生成和嵌入服务，这在进行多模型评估时尤为重要。
IAIService接口的重要性
IAIService接口为所有AI服务提供了统一的元数据结构，确保不同服务之间的兼容性和可扩展性。了解该接口的属性可以帮助开发者更好地管理和使用不同的AI服务，尤其是在复杂的应用场景中。
自定义服务选择器的优势
实现自定义IAIServiceSelector可以让开发者对AI服务的选择过程有更大的控制权。这在需要特定逻辑或条件来选择服务时尤为重要，能够提高系统的灵活性和响应能力。
延伸问答
如何在Semantic Kernel中注册多个语言模型？
可以使用serviceId和modelId来注册多个大型语言模型，配置不同的文本生成和嵌入服务。
在Semantic Kernel中，如何使用Azure OpenAI和Ollama服务？
可以通过示例代码添加Azure OpenAI和Ollama服务，使用相应的serviceId和modelId进行配置。
什么是IAIService接口，它的作用是什么？
IAIService接口定义了AI服务的元数据属性，包含特定于服务实现的属性。
如何在执行提示时传递serviceId和modelId？
在执行提示时，可以将serviceId和modelId传递到PromptExecutionSettings中。
Semantic Kernel如何处理服务选择？
默认的IAIServiceSelector首先通过serviceId解析服务，然后通过modelId匹配IAIService元数据。
如何实现自定义IAIServiceSelector？
可以实现自定义IAIServiceSelector以获得对AI服务选择的完全控制，并将其注册为Semantic Kernel的服务。
