开启 LLMs 应用开发之门 | 新程序员
内容提要
本文深入探讨了将LLMs融入实际业务场景的创新应用，介绍了Copilot Stack和Semantic Kernel框架，支持多语言且能与企业数据结合，实现智能任务划分。展望了Semantic Kernel在未来AI Agent框架中的角色，以及通过多框架结合实现高效智能体任务管理。预计2024年将成为LLMs应用爆发的一年。
延伸解读
从概念到落地：Copilot Stack 的 MVC 架构
文章将 Copilot Stack 类比为 MVC 架构，其中 Model 对应各类大语言模型，View 是 Copilot 应用的展现形态，Controller 则是提示词。这一架构为开发者提供了清晰的思路，但实际落地时仍需解决如何融入传统工程、技术栈兼容性、提示词与代码结合以及对接商业场景等问题。
Semantic Kernel：企业级 LLM 应用开发的桥梁
Semantic Kernel 支持多语言，能结合代码和提示词，并通过连接器链接商业场景。其 Planner 功能可智能划分任务步骤，每个步骤基于不同的 Prompt（称为 Plugins），类似于 LEGO 积木的底座。这使其成为企业级解决方案的更好选择，尤其适合需要整合传统工程应用的场景。
RAG 应用开发：结构化与非结构化数据的处理
在企业级场景中，Semantic Kernel 可结合结构化数据和非结构化数据快速打造 RAG 应用。对于非结构化数据，结合 Embedding 可快速完成开发；对于结构化数据，则可利用 LLMs 的代码生成能力。这种灵活性使 Semantic Kernel 能很好地适应企业 AI 转型需求。
未来展望：Semantic Kernel 在 AI Agent 框架中的角色
文章预测 2024 年将是 LLMs 应用爆发的一年，AI Agent 将成为主流。Semantic Kernel 将扮演“中间件”角色，负责任务划分，而 AutoGen 等框架更像前端，接收指令并派工。多框架结合可实现更高效的智能体任务管理，Prompt flow 则用于稳定和监控 LLMs 输出。
Q&A
Copilot Stack 是什么？它包含哪些部分？
Copilot Stack 是微软 CTO Kevin Scott 在 2023 年 5 月 Microsoft Build 开发者大会上提出的概念，用于构建基于 LLMs 的应用。它包含三个部分：Model（各种 LLMs）、View（Copilot 应用的展现形态）和 Controller（提示词管理）。
Semantic Kernel 是什么？它有什么特点？
Semantic Kernel 是 2023 年 3 月诞生的一个框架，支持多语言（如 Java、.NET、Python），能结合代码和提示词，通过连接器链接商业应用场景。它基于 Copilot Stack 而生，具有提示词组织管理能力，适合企业级解决方案。其最大特点是 Planner，可对前端指令进行任务步骤划分。
Semantic Kernel 如何帮助企业构建 RAG 应用？
对于非结构化数据，结合 Embedding 可以快速完成 RAG 应用开发；对于结构化数据，可以结合 LLMs 的代码生成能力来完成应用开发。Semantic Kernel 能适应企业 AI 转型需求，快速整合到传统工程应用中。
Semantic Kernel 的未来角色是什么？
Semantic Kernel 将作为 AI Agent 框架中的“中间件”，负责单个智能体的任务划分。它与 AutoGen（前端）和 Prompt flow（稳定和监控 LLMs 输出）等多框架结合，实现高效的智能体任务管理。
为什么说 2024 年将成为 LLMs 应用爆发的一年？
2023 年 LLMs 应用创新较少，主要集中在 Microsoft 365 Copilot 等应用，大家处于认识阶段。而 2024 年，随着 Copilot Stack 和 Semantic Kernel 等框架的成熟，开发者能更高效地构建应用，因此预计将迎来 LLMs 应用的爆发。
Semantic Kernel 的 Planner 功能有什么作用？
Planner 可以方便地对前端指令进行任务步骤划分，每个步骤基于不同业务的 Prompt（在 Semantic Kernel 中称为 Plugins）。它像 LEGO 积木的底座，通过组合不同组件完成不同任务。
