内容提要
MHK 在 Amazon Bedrock 上构建了符合 HIPAA 的智能体 AI 框架 SmartProminence AI Orchestrator,采用控制器-智能体模式、事件驱动架构和 DAG 并行执行,实现多租户数据隔离与合规审计。该方案将人工审核工作量减少 90%,AI 功能部署周期从 3-6 个月缩短至约 2 周,并统一了 HIPAA 与 SOC 2 合规认证。
延伸解读
合规基础设施应作为编排层统一建设
MHK 将 HIPAA 与 SOC 2 合规控制集中在编排器层面,而非每个 AI 功能单独认证。新智能体注册后自动继承加密、审计、令牌访问等控制,无需重复合规流程。这避免了碎片化基础设施带来的重复投入,使合规从项目级负担转变为平台级能力,为多租户场景下的快速扩展奠定基础。
控制器-智能体分离提升扩展性与容错
工作流引擎控制器负责解析依赖、调度步骤,LLM 处理智能体仅执行具体任务。两者通过 SQS 异步通信,实现无状态处理、独立扩展和故障隔离。只有调用 Bedrock 是阻塞操作,其余环节异步,因此系统可并发处理数百个作业,且单个智能体失败不会阻塞并行步骤,死信队列捕获异常。
DAG 并行与条件跳过优化成本与速度
基于深度优先的并行执行让同层步骤同时运行,控制器轮询完成后推进下一层。条件表达式可根据上游结果动态跳过无关步骤,例如分类确定不涉及处方药时,药房验证步骤自动跳过。这既缩短了处理时间,也减少了不必要的模型调用,直接节省 token 成本。
多租户隔离依赖每客户端密钥与能力令牌
每个健康计划客户拥有独立 KMS 密钥,S3 文档双重加密,数据库行级加密叠加存储加密。能力令牌按调度生成,控制器与智能体权限严格限定,即使智能体被攻破也无法访问其他步骤、工作流或客户数据。网络层面数据库子网无互联网访问,服务通信走 VPC 端点,全程 TLS 1.3。
Q&A
MHK 的 SmartProminence AI Orchestrator 是什么?它解决了什么问题?
SmartProminence AI Orchestrator 是 MHK 在 AWS 上构建的符合 HIPAA 的智能体工作流框架,采用多租户架构,通过配置驱动的方式部署 AI 工作流。它解决了医疗组织处理大量医疗文档时面临的合规、安全和效率挑战,将人工审核工作量减少 90%,AI 功能部署周期从 3-6 个月缩短至约 2 周。
SmartProminence AI Orchestrator 的架构核心是什么?
架构核心是控制器-智能体模式,其中 Workflow Engine Controller 解析工作流依赖并将步骤分派给 LLM 处理智能体。系统基于 Spring Boot 运行在 AWS Fargate 上,通过 REST API 处理作业提交、工作流管理、LLM 代理和令牌管理。Agent Orchestration Core 是唯一直接访问数据库的组件,强制执行严格的数据访问边界。
该方案如何实现多租户数据隔离和 HIPAA 合规?
通过每客户端独立的 AWS KMS 密钥加密数据,S3 文档双重加密(S3 服务器端加密加客户端 KMS 加密),数据库层增加行级加密。能力令牌模型限制组件访问权限,令牌按每次分派通过 KMS 生成。网络隔离确保数据库子网无互联网访问,服务通信通过 VPC 端点。LLM 请求和响应体不记录日志,仅记录令牌计数和内容哈希。工作流配置不可变存储在 S3 中。
DAG 并行执行是如何工作的?能举例说明吗?
工作流引擎使用基于深度的并行执行。例如医疗政策审查工作流:深度 0 同时提取患者人口统计和索赔历史;深度 1 政策查找智能体识别相关标准;深度 2 证据收集智能体搜索临床历史。控制器仅在当前深度步骤完成后才推进到下一深度。条件表达式可动态跳过步骤,如分类确定不涉及处方药时,药房验证步骤自动跳过,节省时间和令牌成本。
动态智能体注册如何加速 AI 功能部署?
当需要新智能体类型时,开发者定义智能体配置(提示模板、输入/输出模式、模型选择),通过编排核心 API 注册。Terraform 自动配置支持基础设施(SQS 队列、IAM 角色、ECS 任务定义)。智能体立即可用于工作流步骤分配,无需新的合规认证,因为它在已认证的编排器内运行。这使新 AI 功能部署从 3-6 个月缩短至约 2 周。
该方案使用了哪些 AWS 服务?各自的作用是什么?
Amazon Bedrock 用于基础模型推理;Amazon ECS (Fargate) 运行容器化编排核心、工作流控制器和处理智能体;Amazon SQS 实现事件驱动通信和死信队列;Amazon RDS (MySQL 8.4) 存储工作流定义和执行状态;Amazon S3 存储作业工件和文档;AWS KMS 用于令牌签名和每客户端加密密钥;Amazon Cognito 提供 OAuth2/JWT 认证;Amazon CloudWatch 用于日志和指标;Elastic Load Balancing 终止 TLS 1.3;Amazon VPC 提供网络隔离。
该方案在负责任 AI 方面有哪些控制措施?
每个智能体的处理管道内置应用层验证:对模型响应进行后处理以匹配预期输出模式,交叉引用提取数据与源文档以检测幻觉,拒绝低于置信度阈值的响应。领域特定检查验证输出仅引用患者自己的临床记录并匹配政策特定医疗标准。LLM 输入和输出记录完整审计轨迹,支持合规审查和可重复性。
SmartProminence AI Orchestrator 取得了哪些业务成果?
人工审核工作量减少 90%:文档处理时间从每份 5-10 分钟降至 1 分钟以下(带人工验证);医疗主任审查从数小时文档搜索缩短至 30 秒决策。AI 功能部署速度提升 85%:从 3-6 个月缩短至约 2 周。统一合规态势:单一编排器级 HIPAA 和 SOC 2 认证覆盖所有智能体。多租户可扩展性:健康计划客户无需自建 HIPAA 基础设施即可运行 AI 工作流。