面向智算服务,构建可观测体系最佳实践

💡 原文中文,约8700字,阅读约需21分钟。
📝

内容提要

阿里云在AI领域的产品布局和可观测体系建设。提供多个层次的产品满足不同场景需求。推出Prometheus云产品可观测监控生态,提供全栈可观测能力。介绍了AI可观测最佳实践,包括灵骏智算服务、ACK灵骏托管集群、阿里云人工智能平台PAI和模型服务灵机DashScope的监控能力。介绍了Smart Metrics和Text2PromQL两个可观测工具的应用场景和优势,并介绍了Prometheus的新计费模式。

🔎

延伸解读

AI可观测的层次化覆盖

文章展示了阿里云从IaaS到MaaS的AI可观测体系,覆盖灵骏智算服务、ACK灵骏托管集群、PAI平台和灵机DashScope模型服务。这种分层设计针对不同层面的监控需求,例如基础设施层关注GPU、RDMA等资源,平台层则需处理更复杂的应用和容器监控。读者可借此理解AI可观测的完整链路,以及各层监控的侧重点和集成方式。

智能告警与自然语言查询的实践

Smart Metrics通过历史数据学习指标特征,自动生成动态基线,解决静态阈值告警的无效和难配问题。Text2PromQL则利用大语言模型和提示词工程,将自然语言转换为PromQL查询,准确率提升至70-80%。这两个工具分别针对告警和查询痛点,提升了可观测的效率和准确性,已在阿里云Grafana版上线。

Prometheus新计费模式的影响

Prometheus新计费模式基于实际写入数据量(GB)计费,提供每月50GB免费额度,单价0.4元/GB。相比旧模式,新计费可显著降低成本,例如中小企业案例中节省70%以上。这种变化让成本更可控,尤其适合数据量波动大的场景,但用户需注意基础指标和自定义指标的计费差异。

❓

Q&A

阿里云在AI领域的产品布局分为哪几个层次?

阿里云在AI领域的产品布局分为四个层次:IaaS层提供以“灵骏”智算服务为特色的软硬件一体化算力集群;CaaS层提供“ACK灵骏托管集群”+“云原生AI套件”组合;PaaS层以“人工智能平台PAI”为核心提供一站式机器学习解决方案;MaaS层提供“灵机模型服务DashScope”、通义大模型等,通过标准化API提供模型推理、微调训练等服务。

阿里云Prometheus如何实现云产品多租户监控?

阿里云Prometheus采用采集、存储查询分离架构,采集端具备多租识别和分发能力,存储端内置多租能力,租户之间资源完全隔离。为每个阿里云用户创建一个Prometheus云服务实例来存储用户对应的云产品指标,解决数据孤岛问题,并为每个云产品提供深度定制、开箱即用的大盘和告警能力。

阿里云AI可观测最佳实践覆盖了哪些层面的监控?

覆盖IaaS层灵骏智算服务(监控GPU、RDMA等资源)、CaaS层ACK灵骏托管集群(监控K8s集群资源、GPU等)、PaaS层人工智能平台PAI(监控EAS在线推理、DLC训练作业等)、MaaS层灵机模型服务DashScope(通过日志中转实现API层面监控)。

Smart Metrics如何解决告警配置中的痛点?

Smart Metrics基于历史数据学习Metrics特征,预测未来正常变化范围生成上下基线,解决无效告警多和告警难配的问题。它采用自研分类算法+多模型融合,支持开箱即用、效果可视、准确率高,并支持Grafana原生告警。例如对QPS波动指标自动生成边界,对CPU使用率等平稳指标每天自动更新模型,减少敞口告警。

Text2PromQL是什么?它如何提升可观测效率?

Text2PromQL是自然语言转PromQL的智能机器人,利用LLM解决可观测提效问题。它通过Prompt Engineering和Chain-of-Thought提示词,将用户自然语言问题转换为PromQL查询,准确率从5%以下提升到70-80%。它覆盖20+场景,准确率76.9%,能减轻SRE工作、降低服务工单,并随用户提问增多而越问越聪明。

Prometheus新计费模式有哪些变化和优惠?

新计费模式屏蔽原有上报指标采样点数量和存储时长计费项,改为按实际写入数据量(GB)计费。提供每月50GB免费额度,单价0.4元/GB(公有云-中国内地),指标保存90天。基础指标默认存储7天且免费,不占用免费额度。相比旧计费,新计费可节省70%以上成本。

🏷️

标签

➡️

继续阅读