SemanticKernel之使用监控

💡 原文中文,约9800字,阅读约需24分钟。
📝

内容提要

该文章介绍了在SemanticKernel中使用监控和量化监控的方法。通过添加Nuget包和配置Prometheus、Grafana等工具,可以实现对Token数量的监控和展示。

🎯

关键要点

  • SemanticKernel中的监控方法可以为服务和业务量化提供支持。

  • 使用的Nuget包包括Microsoft.SemanticKernel、NAudio、OpenTelemetry等。

  • 通过添加PrometheusHttpListener监控插件,可以实现Token数量的监控。

  • 需要下载Prometheus并配置prometheus.yml以设置监控目标。

  • Grafana用于配置数据源为Prometheus并展示监控数据。

  • 左上角线型图用于展示总Token数,右上角饼型图用于展示提示和回复Token数。

  • 左下角和右下角线型图分别展示提示Token数和回复Token数的变化。

延伸问答

如何在SemanticKernel中实现监控?

可以通过添加Nuget包和配置Prometheus、Grafana等工具来实现监控。

使用哪些Nuget包来支持SemanticKernel的监控?

使用的Nuget包包括Microsoft.SemanticKernel、NAudio、OpenTelemetry等。

如何配置Prometheus以监控Token数量?

需要下载Prometheus并修改prometheus.yml,设置监控目标为localhost:9465。

Grafana在SemanticKernel监控中有什么作用?

Grafana用于配置数据源为Prometheus并展示监控数据。

如何展示Token数量的变化?

可以通过左上角线型图展示总Token数,左下角线型图展示提示Token数,右下角线型图展示回复Token数。

在SemanticKernel中监控Token数量的主要图表有哪些?

主要图表包括总Token数线型图、提示Token数饼型图和回复Token数线型图。

🏷️

标签

➡️

继续阅读