内容提要
亚马逊云科技推荐企业客户采用Amazon MSK + Lambda的无服务器事件驱动处理架构,提供云原生优势。该架构支持Kafka API导入实时数据流到数据湖仓,具有资源弹性、数据流处理时效性和高并发波峰响应处理能力。同时提供后处理扩展能力,包括数据存储服务、安全控制、数据加密存储传输、监控告警日志以及机器学习和大数据分析应用。在中国大陆的北京/宁夏区域,暂未发布Lambda ESM for MSK功能,需采用Apache Kafka URL作为跨账号Lambda触发源实现跨账号的数据流处理架构。
关键要点
-
亚马逊云科技推荐企业客户采用Amazon MSK + Lambda的无服务器事件驱动处理架构,提供云原生优势。
-
该架构支持Kafka API导入实时数据流到数据湖仓,具有资源弹性和高并发波峰响应处理能力。
-
提供后处理扩展能力,包括数据存储服务、安全控制、数据加密存储传输、监控告警日志等。
-
在中国大陆的北京/宁夏区域,Lambda ESM for MSK功能暂未发布,需采用Apache Kafka URL实现跨账号的数据流处理架构。
-
跨账号的MSK消费成为普遍需求,客户可在海外区域使用Amazon MSK和Lambda ESM for MSK构建跨账号消息处理流程。
-
在北京/宁夏区域,构建跨账号的MSK消息自动化处理需利用Lambda trigger调用Apache Kafka URL。
-
跨账号的MSK集群访问需采用SASL/SCRAM认证方式,并开启Kafka ACL功能。
-
用户可通过AWS CloudFormation模板快速部署生产者和消费者应用,源代码托管在GitHub。
-
在部署过程中需对CloudFormation yaml文件进行区域适配,修改arn格式为arn:aws-cn。
-
为集群配置Kafka ACL功能和SASL/SCRAM认证,确保客户端访问安全控制。
-
通过Amazon PrivateLink服务构建跨账号的私有网络通道,确保消费者账号访问生产者账号的MSK集群。
-
配置Lambda函数的触发器时需选择Apache Kafka,并配置认证方式和Secrets Manager密钥等信息。
-
实验结束后需清理创建的云计算资源,以避免不必要的费用。
延伸问答
如何在北京/宁夏区域部署跨账号的MSK集群和Lambda函数?
在北京/宁夏区域,需利用Lambda触发器调用Apache Kafka URL实现跨账号的Lambda函数触发,并配置SASL/SCRAM认证和Kafka ACL功能。
Amazon MSK + Lambda架构的主要优势是什么?
该架构提供云原生优势,支持实时数据流处理,具备资源弹性和高并发响应能力,同时提供多种后处理扩展能力。
在中国大陆使用MSK时需要注意哪些限制?
在中国大陆的北京/宁夏区域,Lambda ESM for MSK功能尚未发布,需使用Apache Kafka URL作为跨账号触发源。
如何确保跨账号MSK集群的安全访问?
需采用SASL/SCRAM认证方式,并开启Kafka ACL功能,以确保客户端访问的安全控制。
如何快速部署MSK生产者和消费者应用?
用户可以通过AWS CloudFormation模板快速部署生产者和消费者应用,源代码托管在GitHub。
实验结束后如何清理云计算资源?
需登录生产者和消费者账号,清理手动创建的VPC endpoint和CloudFormation堆栈,以避免不必要的费用。