Gallup借助Amazon Bedrock为数千用户扩展实时辅导

Gallup借助Amazon Bedrock为数千用户扩展实时辅导

💡 原文英文,约1300词,阅读约需5分钟。
📝

内容提要

Gallup利用Amazon Bedrock构建了Gallup AI助手,将90年职场研究转化为实时个性化指导。该方案采用Claude模型、知识库和防护机制,实现秒级响应。自2024年6月上线后,提示词增长7倍,用户增长5.5倍,并计划扩展提示库和代理功能。

🔎

延伸解读

技术选型的关键考量

Gallup选择Amazon Bedrock而非自建模型,主要看重三点:无需管理基础设施即可使用Claude等前沿模型、内置的RAG能力(Bedrock Knowledge Bases)确保回答基于验证过的研究、以及原生的Guardrails保障内容安全。这使团队能在数周内从原型到生产,且无需专门的ML运维团队,对非技术背景的机构尤其有参考价值。

架构设计的可扩展性

该方案采用完全无服务器架构,支持多组织同时使用。通过Amazon ElastiCache Serverless实现亚毫秒级会话检索,Amazon RDS作为持久化存储,Data Firehose流式传输使用指标到S3用于成本与性能优化。这种设计不仅保证了低延迟,还提供了全面的可观测性,便于持续调整模型设置和防护策略,无需中断服务。

落地效果与增长数据

自2024年6月上线以来,Gallup AI的提示词量增长约7倍,活跃用户增长约5.5倍,每次对话的平均提示词数增加约55%,表明用户进行持续的多轮交互。响应延迟方面,流式响应首字节时间低于1秒,会话检索低于1毫秒。这些数据说明AI助手不仅被广泛采用,而且深度融入日常工作流程。

未来规划:从助手到代理

Gallup计划推出AI策划的提示词库,收录管理者常见问题,并引入引导式辅导体验,通过结构化对话流程帮助管理者应对特定场景。更长远的是基于Amazon Bedrock AgentCore构建代理基础,使Gallup AI不仅能服务终端用户,还能以编程方式调用工具、工作流和专有知识,支持其他系统集成,实现从助手到代理的演进。

Q&A

Gallup AI是什么?它是如何利用Amazon Bedrock构建的?

Gallup AI是Gallup基于Amazon Bedrock构建的生成式AI助手,集成在Gallup Access应用中。它利用Anthropic的Claude模型、Amazon Bedrock Knowledge Bases和Amazon Kendra进行检索增强生成,并通过Amazon Bedrock Guardrails确保内容安全,从而将Gallup 90年的职场研究转化为实时的个性化辅导。

Gallup为什么选择Amazon Bedrock而不是其他方案?

Gallup选择Amazon Bedrock的原因有三:一是可以访问Anthropic Claude等领先基础模型而无需管理基础设施;二是通过Amazon Bedrock Knowledge Bases内置的RAG功能,将回答基于经过验证的研究;三是原生防护机制可在规模上强制内容安全。这些优势使Gallup能在数周内从原型进入生产,而无需专门的ML运维团队。

Gallup AI的工作原理是什么?它如何检索和生成回答?

Gallup AI的工作原理是:Gallup的专有研究内容存储在Amazon S3并导入Amazon Bedrock Knowledge Bases,同时持续爬取Gallup网站内容索引到Amazon Kendra。当用户提问时,系统从这两个来源检索相关研究,根据置信度阈值筛选和整合文档,然后发送给Claude模型生成回答。对话通过AWS Lambda处理,支持实时流式响应,并使用Amazon ElastiCache Serverless缓存对话历史,Amazon RDS for MySQL作为持久化存储。

Gallup AI上线后取得了哪些成果?

自2024年6月上线以来,Gallup AI的提示词数量增长了约7倍,对话数增长约4.5倍,活跃用户增长约5.5倍,平均每次对话的提示词数量增加了约55%,表明用户进行了持续的多轮互动。响应延迟方面,流式响应的首字节时间低于1秒,会话检索通过Amazon ElastiCache Serverless实现亚毫秒级响应。

Gallup AI如何确保回答的准确性和安全性?

Gallup AI通过Amazon Bedrock Knowledge Bases和Amazon Kendra检索经过验证的研究内容,确保回答基于可靠的职场科学。同时,Amazon Bedrock Guardrails在生成过程中应用内容安全策略,并能在检测到违规时中途干预。此外,系统会记录来源引用,确保可追溯性。

Gallup AI未来的发展计划是什么?

Gallup计划开发一个AI策划的提示库,收录管理者常见问题的高价值提示;引入引导式辅导体验,通过结构化对话流程帮助管理者改善员工敬业度、解决团队挑战或发展员工;并基于Amazon Bedrock AgentCore构建代理基础,使Gallup AI不仅能服务终端用户,还能通过程序化方式为其他系统和集成提供工具、工作流和专有知识。

🏷️

标签

➡️

继续阅读