Using Monitoring in SemanticKernel

💡 原文英文,约800词,阅读约需3分钟。
📝

内容提要

该文章介绍了在SemanticKernel中使用监控和量化监控的方法。通过添加Nuget包和配置Prometheus、Grafana等工具,可以实现对Token数量的监控和展示。

🎯

关键要点

  • SemanticKernel中的监控方法可以为服务和业务量化提供支持。
  • 使用的Nuget包包括Microsoft.SemanticKernel、NAudio、OpenTelemetry等。
  • 通过添加PrometheusHttpListener监控插件,可以实现Token数量的监控。
  • 需要下载Prometheus并配置prometheus.yml以设置监控目标。
  • Grafana用于配置数据源为Prometheus并展示监控数据。
  • 左上角线型图用于展示总Token数,右上角饼型图用于展示提示和回复Token数。
  • 左下角和右下角线型图分别展示提示Token数和回复Token数的变化。
🏷️

标签

➡️

继续阅读