JHipster快速生成大模型应用:Spring AI+Langchain

💡 原文中文,约1800字,阅读约需5分钟。
📝

内容提要

JHipster快速生成大模型应用:Spring AI+Langchain。使用LLM快速生成Spring Boot应用程序代码的工具,利用JHipster输出Spring Boot应用程序代码的各种变体。使用Spring AI和Langchain for Java支持的LLM库进行编码。支持Ollama和Llama.cpp的Java绑定。先决条件为Java 17或更高版本、Node.js 20或更高版本、运行Ollama需要Docker。使用npm install -g generator-jhipster-llm命令安装代码生成器。执行jhipster-llm generate-sample sample.jdl命令创建应用程序。启动Spring Boot后,访问http://localhost:8080/chat-ui/index.html打开聊天应用程序。

🔎

延伸解读

技术栈与生成机制

该工具通过JHipster的Blueprint功能扩展代码生成能力,输出Spring Boot应用服务器代码、OpenAI API兼容服务器代码,以及基于OpenAPI规范的Chat Completions API代码。LLM库方面,目前仅支持Ollama和Llama.cpp的Java绑定,开发者需根据项目需求选择。

环境准备与安装

使用前需确保Java 17或更高版本、Node.js 20或更高版本,若运行Ollama还需Docker。通过npm全局安装代码生成器:npm install -g generator-jhipster-llm。这些先决条件保证了生成和运行环境的兼容性。

生成与启动流程

创建应用时,先新建目录并进入,执行jhipster-llm generate-sample sample.jdl(Gradle用户使用sample_gradle.jdl)。命令会交互式询问LLM框架、库和模型,默认选择Spring AI、llama.cpp和mistral 7B。随后用./mvnw启动Spring Boot,启动时自动下载所需模型。

聊天界面配置与测试

启动后访问http://localhost:8080/chat-ui/index.html打开聊天应用。在BetterChatGPT中,需勾选Use custom API endpoint并填入http://localhost:8080/api/llm/v1/chat/completions。若收到回复,说明配置成功。注意目前仅支持最小JHipster配置,未来计划扩展。

❓

Q&A

JHipster是什么,它的主要功能是什么?

JHipster是一个快速生成Spring Boot应用程序代码的工具,主要功能是利用LLM输出多种Spring Boot应用程序代码变体。

使用JHipster生成应用程序的先决条件是什么?

先决条件包括Java 17或更高版本、Node.js 20或更高版本,运行Ollama需要Docker。

如何安装JHipster的代码生成器?

使用命令npm install -g generator-jhipster-llm安装代码生成器。

创建Spring Boot应用程序的命令是什么?

创建应用程序的命令为jhipster-llm generate-sample sample.jdl。

如何启动生成的Spring Boot应用程序?

启动Spring Boot后,访问http://localhost:8080/chat-ui/index.html以打开聊天应用程序。

JHipster支持哪些LLM库?

JHipster支持的LLM库包括Ollama和Llama.cpp的Java绑定。

🏷️

标签

➡️

继续阅读