Shaun Thomas：开箱即用：用 llama.cpp 在本地为 AI DBA Workbench 提供动力
内容提要
本文介绍如何用 Docker 搭建 pgEdge AI DBA Workbench 全本地化技术栈，共七个容器：Postgres、负载生成器、llama.cpp 模型服务、工作台服务器、采集器、告警器和客户端。使用 Qwen3.8-27B 推理模型与 nomic-embed-text 嵌入模型，通过 OpenAI 兼容接口调用，无需外部 AI 服务，适合气隙或敏感环境，可低成本实现 Postgres 智能监控与诊断。
延伸解读
本地AI栈的合规与成本优势
文章强调，使用llama.cpp在本地运行AI模型，可避免与外部AI服务交互，满足气隙部署或严格合规要求。同时，无需支付前沿模型订阅费用，适合对数据主权敏感的企业。整个栈基于开源软件，部署后自给自足，无外部服务中断风险。
模型配置的关键调整
为适配本地模型，需在预设文件中禁用思考模式（enable_thinking=false），因为推理模型可能耗尽令牌预算。嵌入模型nomic-embed-text需重命名为text-embedding-3-small以通过工作台验证。此外，温度设为0.7、max_iterations限制为50，可防止本地模型行为异常或陷入循环。
知识库对本地模型的重要性
本地模型参数较少，知识面较窄。文章通过添加pgEdge AI知识库包，为工作台提供Postgres专业知识，弥补模型自身不足。知识库以预计算嵌入数据库形式存在，需在服务器镜像中额外安装，否则AI分析可能缺乏深度。
实际效果与适用场景
演示中，本地模型成功识别出检查点频繁、缓存命中率低、random_page_cost设置过高等问题，分析结果准确。作者认为，这相当于为团队增加一名不知疲倦的初级DBA，适合没有全职Postgres DBA的团队。也可在笔记本上部署小模型，用于离线现场检查。
Q&A
pgEdge AI DBA Workbench 默认的 Docker Compose 会启动哪些服务？
默认的 docker-compose 文件会启动七个容器：Postgres 数据库、负载生成器（loadgen）、llama.cpp 模型服务（llama-server）、工作台服务器（server）、采集器（collector）、告警器（alerter）和客户端（client）。
为什么要在本地用 llama.cpp 替代外部 AI 服务？
因为有些合规规则不允许与外部 AI 服务交互，或者要求气隙部署，使得外部服务无法使用。本地运行 llama.cpp 可以满足这些安全与合规要求，同时避免 AI 订阅费用。
在 llama.cpp 的 preset.ini 中，为什么要把 nomic-embed-text 模型命名为 text-embedding-3-small？
因为工作台会对支持的提供商进行模型预验证，而 OpenAI 只允许特定的嵌入模型。由于使用 llama.cpp 的 OpenAI 兼容接口，需要让工作台误以为使用的是 OpenAI 的嵌入模型，所以将 nomic-embed-text 命名为 text-embedding-3-small 来绕过验证。
如何为工作台服务器镜像添加知识库？
需要基于基础服务器镜像（ghcr.io/pgedge/ai-dba-server:1.0）编写 Dockerfile，安装 pgEdge 仓库中的 pgedge-ai-kb-ollama-nomic-embed-text 包，然后构建新镜像（如 ai-dba-server-with-kb:latest）并在 compose 文件中使用。
启动整个栈后，如何创建管理员用户并启用 pg_stat_statements 扩展？
首先将密码文件复制到服务器容器，然后执行 ai-dba-server 命令添加用户（-add-user）并设置为超级用户（-set-superuser）。接着在 postgres 容器中执行 CREATE EXTENSION pg_stat_statements 命令，在 ai_workbench 数据库中启用该扩展。
本地模型（如 Qwen3.8-27B）在 AI DBA Workbench 中能提供哪些分析能力？
本地模型可以分析查询、查询计划、统计信息和服务器状态，提供集群或服务器的简短摘要，识别性能问题（如频繁强制检查点、缓存命中率低、random_page_cost 设置过高等），并给出潜在修复建议。
