Amazon Bedrock 代理现在支持记忆保留和代码解释(预览版)

Amazon Bedrock 代理现在支持记忆保留和代码解释(预览版)

💡 原文中文,约10800字,阅读约需26分钟。
📝

内容提要

Amazon Bedrock代理推出了两项新功能:多次互动间的记忆保留和代码解释,提升上下文感知能力和处理能力。

🔎

延伸解读

记忆保留的隔离机制与计费注意

记忆保留通过唯一的记忆标识符(ID)存储每个用户的对话摘要,确保用户间完全隔离。开发者可为不同用户分配不同ID,避免数据混淆。预览期间该功能不额外收费,但启用后需为用于生成会话摘要的模型付费,且模型使用费照常收取。需注意,摘要可能包含重复内容,尤其对短会话。

代码解释的安全沙盒与适用边界

代码解释在隔离的沙盒环境中运行,每个用户会话独立,确保安全。它仅在LLM判断代码有助于更准确解决问题时触发,不支持用户直接请求生成任意代码。该功能支持CSV、XLS、JSON等多种文件格式,并能生成图表,适用于数据分析、方程求解等复杂任务,但预览期间仅限特定区域。

预览版区域与模型支持限制

记忆保留在提供Amazon Bedrock代理和Anthropic Claude 3 Sonnet或Haiku的所有AWS区域以预览版提供,而代码解释仅限美国东部(弗吉尼亚州北部)、美国西部(俄勒冈州)和欧洲地区(法兰克福)。预览期间两项功能均无额外费用,但需支付普通模型使用费。开发者应确认目标区域是否支持所需功能。

❓

Q&A

Amazon Bedrock 代理的新功能有哪些?

Amazon Bedrock 代理推出了记忆保留和代码解释两项新功能。

记忆保留功能如何提升用户体验?

记忆保留功能允许代理在用户之间保持对话摘要,从而提供个性化和高效的体验,特别是在复杂的多步骤任务中。

代码解释功能的主要用途是什么?

代码解释功能使代理能够在安全的沙盒环境中动态生成和运行代码片段,处理复杂用例,如数据分析和可视化。

用户如何调用 Amazon Bedrock 代理?

用户可以通过 AWS 开发工具包调用代理,管理记忆内容。

在预览期间使用这些新功能会产生费用吗?

在预览期间,使用记忆保留和代码解释功能不会产生额外费用。

代理如何处理复杂的多步骤任务?

代理通过记忆保留功能能够从用户中断的地方继续工作,简化业务流程自动化。

🏷️

标签

➡️

继续阅读