百万并发,API 网关抗住了亚运会流量高峰
内容提要
阿里云推出百万并发规格的API网关,为2023年杭州亚运会提供技术支持。API网关具备弹性能力,突破100万RPS,支持授权与鉴权、日志监控与报警,与微服务体系对接。阿里云API网关是一款成熟的高性能云产品。
延伸解读
专享实例集群如何突破单实例瓶颈
文章指出,单个最大规格专享实例仅支持6万RPS,难以满足大型场景。API网关通过专享实例集群,将多个实例组成集群,实现弹性扩缩容,从而突破单实例上限。在亚运会项目中,该集群方案支撑了超过100万RPS的流量。理论上,只要底层资源充足,集群可无限扩容。这为高并发业务提供了一种可扩展的架构思路。
性能指标:1毫秒内的请求占比意味着什么
文章分享2023年统计的专享实例关键性能指标:98.17%的请求在API网关耗时在1毫秒以内,平均耗时也在1毫秒以内。由于所有业务请求都需经过网关,网关性能直接影响整体系统响应。这一指标表明,在绝大多数情况下,网关不会成为系统瓶颈,有助于保障终端用户体验。
流控与鉴权:保护后端与统一入口
流控是API网关的基础能力,用户可根据后端承受能力设置阈值,超量请求被直接驳回,避免过载。流控支持API、App、用户三个维度,并可基于请求参数(如IP头)进行限流。鉴权方面,网关提供访问凭证、标准JWT及第三方鉴权服务,能统一不同AI能力提供者的鉴权方式,降低调用复杂度。
可观测性与微服务集成:运维与架构价值
API网关将调用日志同步至SLS,支持实时查询、多维分析及日志审计,并集成云监控实现多级报警。用户还可上传日志至链路追踪平台,分析全链路调用。此外,网关支持对接Nacos、Zookeeper、Eureka等注册中心,动态感知服务地址,实现动态路由和负载均衡,降低系统耦合度。
Q&A
阿里云API网关在亚运会期间达到了多少并发请求量?
阿里云API网关为2023年杭州亚运会提供了突破100万RPS的服务能力,成功抗住了流量高峰。
阿里云API网关如何实现弹性扩容以应对高并发?
API网关支持使用专享实例组建专享实例集群,能够根据用户对服务性能的需求进行缩容和扩容,突破最大规格专享实例的并发限制。理论上只要底层资源足够,实例集群具备无限扩容的能力。
阿里云API网关的性能指标如何?
根据2023年统计的专享实例关键性能指标,98.17%的请求在API网关耗时在1毫秒以内,API网关平均耗时在1ms以内。
阿里云API网关的流量控制功能支持哪些维度?
API网关允许用户通过多个维度对请求进行流控,包括API、App(访问凭证)、用户(访问方的App归属用户)三个维度,并支持秒、分钟、小时、天等时间维度。同时提供针对请求中自定义参数的限流,任意一个参数都可以成为流控的锚定值。
阿里云API网关提供哪些鉴权方式?
API网关提供访问凭证类型的鉴权方式,支持标准的JWT鉴权方式,还提供灵活的第三方鉴权能力,用户可配置自己的鉴权服务为API的访问进行鉴权。
如何通过阿里云API网关进行日志监控和报警?
用户可以将调用日志同步到SLS日志服务进行实时查询、下载和多维度统计分析,并配置基于日志的报警策略;日志也会自动同步到云监控,用户可配置报警规则,监控Http应答码、API响应时间、请求次数、流入流量、流出流量等指标;还可以上传日志到链路追踪平台分析全链路调用情况。
阿里云API网关支持对接哪些微服务注册中心?
API网关目前已经能够支持三种主流的微服务注册中心:Nacos、Zookeeper、Eureka。