亚马逊AWS官方博客 ·

Amazon Titan Text V2 现已在 Amazon Bedrock 中提供，并进行优化以改进 RAG

💡 原文中文，约3700字，阅读约需9分钟。

📝

内容提要

Amazon Titan系列模型是Amazon Bedrock独有的，用于文本嵌入的最新模型。它通过优化检索增强生成，提高语义搜索、标签分类和搜索结果的质量和相关性。模型提供不同大小的向量，节省存储空间并保持准确度。可通过API在Amazon Bedrock中访问。

🔎

延伸解读

向量维度选择：存储与准确度的权衡

Amazon Titan Text Embeddings V2 允许选择 256、512 或 1024 维的输出向量。文章指出，512 维向量的准确度约为 1024 维的 99%，而 256 维向量仍保持 97% 的准确度。这意味着从 1024 维降至 256 维可节省约 75% 的向量存储空间，同时保持较高的准确度。对于需要控制存储成本或降低检索延迟的应用，选择较小维度可能更有利，但需根据具体场景评估准确度损失是否可接受。

归一化对 RAG 准确度的影响

模型提供了改进的单位向量归一化方法，并允许通过 normalize 参数选择是否归一化。文章强调，对于 RAG 使用案例，归一化版本更加准确。归一化将向量缩放为单位长度，确保所有向量在相似性计算中具有相同比例，防止某些向量因量级较大而主导结果。因此，在构建基于 RAG 的应用时，建议保持 normalize 为默认的 true，以提高检索相关性。

RAG 中嵌入模型的作用与局限

文章将嵌入模型比作 RAG 的“助手”，负责从自定义来源检索最新信息，以弥补 LLM 训练数据可能过时或缺乏细节的问题。高质量的嵌入模型能更准确地捕捉文本关键思想，从而提升检索与生成答案的质量。但需注意，RAG 的效果不仅取决于嵌入模型，还受检索系统、知识库质量等因素影响。Amazon Titan Text Embeddings V2 针对 RAG 优化，但并非唯一决定因素。

模型可用性与集成方式

Amazon Titan Text Embeddings V2 现已在 AWS 区域美国东部（弗吉尼亚州北部）和美国西部（俄勒冈州）的 Amazon Bedrock 中推出，并很快将成为知识库的默认 LLM。现有使用原始 Titan 嵌入模型的知识库不受影响。开发者可通过 Amazon Bedrock 运行时 API 直接调用，有效负载包含 inputText、normalize 和 dimensions 三个参数。使用前需在 Bedrock 控制台中启用模型访问权限。

❓

Q&A

Amazon Titan Text Embeddings V2 的主要功能是什么？

Amazon Titan Text Embeddings V2 主要用于文本嵌入，优化了检索增强生成（RAG），提高了语义搜索和搜索结果的质量。

Amazon Titan Text Embeddings V2 支持哪些向量维度？

该模型支持256、512和1024维的输出向量。

使用 Amazon Titan Text Embeddings V2 的主要好处是什么？

使用该模型可以节省存储空间，缩短响应时间，同时保持较高的准确度。

如何通过 API 访问 Amazon Titan Text Embeddings V2？

可以通过 Amazon Bedrock 的 API 直接调用模型，使用指定的参数进行请求。

Amazon Titan Text Embeddings V2 如何提高 RAG 的准确度？

该模型通过生成高质量的嵌入，帮助 RAG 检索与大型语言模型最相关的信息，从而提高答案的准确性。

Amazon Titan Text Embeddings V2 的归一化方法有什么改进？

模型提出了一种改进的单位向量归一化方法，提高了向量相似性测量的准确度。

🏷️