运维大模型探索之 Text2PromQL 问答机器人
💡
原文中文，约9800字，阅读约需24分钟。
📝
内容提要
阿里云可观测团队开发了自然语言转换PromQL的机器人，使用Chain-of-Thought提示词工程和通义千问模型提高准确性。展望未来发展方向。
🎯
关键要点
-
阿里云可观测团队开发了自然语言转换PromQL的机器人。
-
PromQL是Prometheus的时序数据库的专属查询语句，广泛用于K8s应用的运维。
-
需要自然语言转PromQL的机器人是因为PromQL语法复杂、指标名混乱且使用频繁。
-
ChatGPT和通义千问在自然语言到PromQL的翻译上表现不佳，需要更多知识。
-
采用Fine-tuning和Prompt Engineering两种方案来提升模型的准确性。
-
通过Chain-of-Thought提示词工程，准确率从5%提升到70-80%。
-
Chain-of-Thought格式提供了推理过程，帮助模型更好地理解问题。
-
系统架构包括离线和在线系统，利用历史问答示例提升准确率。
-
目前覆盖了ARMS应用性能监控的多个场景，准确率达到76.9%。
-
未来展望包括自然语言到图表的机器人和更智能的可观测领域机器人。
➡️
