使用托管 Prometheus 优化 Azure Fluid Relay 的负载
内容提要
Azure Fluid Relay (AFR)服务使用Nodejs和Azure Kubernetes Service构建实时协作体验。它利用Azure Monitor Managed Service for Prometheus收集和分析指标，确定集群负载并限制额外的流量。Loadfeedback服务查询Prometheus端点以评估集群负载并设置CPU使用率的阈值。AFR还利用水平Pod扩展（HPA）和Azure Front Door（AFD）进行流量路由和负载均衡。当集群已满时，AFD将流量重定向到下一个可用的集群。
延伸解读
阈值分层：HPA 与 Loadfeedback 的协同
AFR 将 HPA 的自动扩展阈值设为 70% CPU，而 Loadfeedback 的满载阈值设为 80%。这种分层设计确保集群先通过 HPA 扩展至最大 Pod 数量，之后若负载继续上升至 80%，Loadfeedback 才判定集群已满并停止接收新流量。这既避免了过早拒绝流量，又防止了在扩展潜力耗尽后仍超负荷运行，平衡了性能与资源利用率。
基于 HTTP 状态码的流量调度机制
Loadfeedback 服务通过返回 HTTP 状态码来控制 Azure Front Door 的流量路由。当集群达到容量时，端点返回 500 状态码，AFD 随即寻找下一个返回 200 的可用集群。一旦 Prometheus 指标显示负载降至阈值以下，端点恢复 200，AFD 重新将新请求路由至该集群。这种机制实现了跨区域集群的自动故障转移和负载均衡。
监控指标与未来扩展方向
AFR 利用预定义的指标列表监控 AKS 集群及 Istio、Nginx 等服务，涵盖集群和节点 CPU 使用率、集群内存使用率、Nginx CPU 利用率等关键指标。这些指标通过 Prometheus 端点查询，用于评估集群负载。未来 AFR 计划添加自定义指标，如会话相关错误和组件故障，以更精细地反映系统状态，提升监控的全面性和准确性。
Q&A
Azure Fluid Relay (AFR) 是什么？
Azure Fluid Relay (AFR) 是一个服务，帮助开发者构建实时协作体验，使用 Nodejs 和 Azure Kubernetes Service。
AFR 如何监控集群负载？
AFR 利用 Azure Monitor Managed Service for Prometheus 收集和分析 Kubernetes 指标，以确定集群负载。
Loadfeedback 服务的作用是什么？
Loadfeedback 服务查询 Prometheus 端点以获取集群的汇总指标，并根据预定义阈值评估集群负载。
AFR 如何处理流量路由和负载均衡？
AFR 使用 Azure Front Door (AFD) 进行流量路由和负载均衡，当集群达到容量时，AFD 会重定向流量到下一个可用集群。
AFR 如何实现自动扩展？
AFR 利用水平 Pod 扩展 (HPA) 根据流量负载自动扩展集群，Loadfeedback 设置的阈值高于 HPA 的阈值。
AFR 未来有什么计划？
AFR 计划在未来添加自定义指标，以监控会话相关错误和组件故障。
