如何设计一个 JVM 语言的 LLM 应用开发框架？以 Chocolate Factory 为例
原文中文，约4700字，阅读约需11分钟。发表于：。本文将介绍 Chocolate Factory 框架背后的一系列想法和思路。在我们探索和设计框架的过程中，受到了：LangChain4j、LangChain、LlamaIndex、Spring AI、Semantic Kernel、PromptFlow 的大量启发。
本文介绍了开发 JVM 语言的 LLM 应用开发框架的思考过程，强调了框架的多样性和复杂性，以及如何通过框架和工具来支持各种 LLM 应用场景。文章提供了有用的示例代码和抽象概念，包括结合向量化的交互、自动化规划、以及如何解释 RAG 实现的 RAGScript。同时，文章也探讨了 Prompt 调试与编排的挑战，并提供了解决方案。
