如何在AWS上构建一个可缩放至零的无服务器RAG管道

本教程介绍如何在AWS上部署一个完全无服务器的RAG管道，处理文档、图像、视频和音频。

该管道在无人使用时可缩放至零，成本低至每月2-3美元，用户数据始终保留在自己的基础设施中。

RAG管道的成本分为两个阶段：摄取（处理文档一次）和操作（随时间查询）。

无服务器架构使得摄取成本一次性，之后所有服务可缩放至零。

Textract是摄取中最昂贵的部分，适用于需要文本提取的扫描PDF和图像。

Bedrock Embeddings用于将内容转换为向量，成本极低。

LLM用于分析每个文档并自动提取结构化元数据，成本也很低。

存储向量和文档的成本非常便宜，几乎可以忽略不计。

操作阶段的成本主要来自LLM推理，通常在每月0.50到3.00美元之间。

与传统的始终在线堆栈相比，无服务器堆栈的成本显著降低。

RAGStack-Lambda允许用户上传多种格式的文档，并自动处理和嵌入。

用户可以通过AI聊天界面与知识库互动，获取相关文档和引用。

RAGStack支持通过Web组件嵌入到任何应用程序中，方便集成。

MCP服务器可以将知识库连接到AI助手，提供直接查询功能。

用户可以构建个人档案、客户项目的知识库或特定数据集的AI聊天工具。

该无服务器RAG管道在处理文档、嵌入、元数据提取和AI聊天方面表现出色，且成本极低。