极道
·
JHipster快速生成大模型应用：Spring AI+Langchain
内容提要
JHipster快速生成大模型应用：Spring AI+Langchain。使用LLM快速生成Spring Boot应用程序代码的工具，利用JHipster输出Spring Boot应用程序代码的各种变体。使用Spring AI和Langchain for Java支持的LLM库进行编码。支持Ollama和Llama.cpp的Java绑定。先决条件为Java 17或更高版本、Node.js 20或更高版本、运行Ollama需要Docker。使用npm install -g generator-jhipster-llm命令安装代码生成器。执行jhipster-llm generate-sample sample.jdl命令创建应用程序。启动Spring Boot后，访问http://localhost:8080/chat-ui/index.html打开聊天应用程序。
关键要点
-
JHipster是一个快速生成Spring Boot应用程序代码的工具，适配LLM（大型语言模型）。
-
该工具利用JHipster的Blueprint功能，输出多种Spring Boot应用程序代码变体。
-
支持的LLM库包括Ollama和Llama.cpp的Java绑定。
-
先决条件为Java 17或更高版本、Node.js 20或更高版本，运行Ollama需要Docker。
-
使用命令npm install -g generator-jhipster-llm安装代码生成器。
-
创建应用程序的命令为jhipster-llm generate-sample sample.jdl。
-
启动Spring Boot后，访问http://localhost:8080/chat-ui/index.html以打开聊天应用程序。
-
在BetterChatGPT屏幕中，检查Use custom API endpoint并输入http://localhost:8080/api/llm/v1/chat/completionsAPI端点。
