利用 Amazon Bedrock 中提供的全新 Amazon Titan Text Premier 模型，构建基于 RAG 和代理的生成式人工智能应用程序
内容提要
Amazon Titan Text Premier是Amazon Titan系列模型的新成员，适用于基于文本的企业应用程序。它具有32K令牌的最大上下文长度，并针对RAG和基于代理的应用程序进行了优化。用户可以在Amazon Bedrock中使用自己的数据对其进行微调，以构建专属于自己领域和用例的应用程序。该模型已在多语言文本数据上进行了预训练，但最适合英语任务。Amazon Titan Text Premier的性能在各种基准测试中表现出色，适用于各种企业用例。用户可以在Amazon Bedrock控制台中启用对该模型的访问权限，并使用AWS SDK或AWS CLI调用模型。
延伸解读
模型定位与选择建议
Titan Text Premier 是 Amazon Titan 系列中最新的大型语言模型，专为基于文本的企业应用设计。与 Titan Text Express（8K 上下文）和 Titan Text Lite（4K 上下文）相比，Premier 提供 32K 令牌的最大上下文长度，更适合处理长文档和复杂任务。如果您的应用需要高质量的 RAG 或基于代理的多步骤任务，Premier 是更合适的选择；若追求速度或成本，可考虑 Lite 或 Express。
RAG 与代理集成的优势
Titan Text Premier 针对 RAG 和基于代理的应用程序进行了专门优化，训练数据包含总结、问答和对话式聊天等任务示例，并针对与 Amazon Bedrock 知识库和代理的集成进行了优化。这意味着开发者可以更轻松地构建连接企业专有数据的问答系统，或创建能跨系统执行多步骤任务的代理，如管理零售订单或处理保险索赔，从而加速生成式 AI 应用的落地。
性能表现与性价比
在多项公开基准测试中，Titan Text Premier 展现了强劲性能。例如，在 MMLU 上得分为 70.4%，与 GPT-3.5 的 70.0% 和 Gemini Pro 1.0 的 71.8% 相当；在 HellaSwag 常识推理上达到 92.6%，优于后两者的 85.5% 和 84.7%。这些结果表明，该模型在处理企业应用中的多样化用例时具有极高的性价比，尤其适合需要多步推理和阅读理解的任务。
使用与定制注意事项
要使用 Titan Text Premier，需在 Amazon Bedrock 控制台中启用模型访问权限，然后可通过 AWS SDK 或 AWS CLI 调用。模型支持 temperature、topP、maxTokenCount 和 stopSequences 等推理参数，以控制输出的随机性和长度。此外，您可以使用自己的数据对模型进行微调（预览版），以构建专属领域、品牌风格的应用。目前该模型仅在美国东部（弗吉尼亚州北部）区域推出，且最适合英语任务。
Q&A
Amazon Titan Text Premier 的最大上下文长度是多少？
最大上下文长度为 32K 令牌。
如何在 Amazon Bedrock 中微调 Titan Text Premier？
用户可以在 Amazon Bedrock 中使用自己的数据对 Titan Text Premier 进行微调，通过提供任务特定的标记训练数据集。
Titan Text Premier 适合哪些类型的企业应用？
Titan Text Premier 适合基于文本的企业应用程序，特别是 RAG 和基于代理的应用程序。
Titan Text Premier 在基准测试中的表现如何？
Titan Text Premier 在指令遵循、阅读理解和多步推理等基准测试中表现优异。
如何在 Amazon Bedrock 控制台启用 Titan Text Premier 的访问权限？
导航到 Amazon Bedrock 控制台，选择模型访问权限，然后启用对 Titan Text Premier 的访问。
Titan Text Premier 如何与 Amazon Bedrock 知识库集成？
Titan Text Premier 可以安全连接到公司的数据，通过知识库实现高质量的 RAG，执行问答和总结任务。
