Using Monitoring in SemanticKernel
💡
原文英文,约800词,阅读约需3分钟。
📝
内容提要
该文章介绍了在SemanticKernel中使用监控和量化监控的方法。通过添加Nuget包和配置Prometheus、Grafana等工具,可以实现对Token数量的监控和展示。
🎯
关键要点
- SemanticKernel中的监控方法可以为服务和业务量化提供支持。
- 使用的Nuget包包括Microsoft.SemanticKernel、NAudio、OpenTelemetry等。
- 通过添加PrometheusHttpListener监控插件,可以实现Token数量的监控。
- 需要下载Prometheus并配置prometheus.yml以设置监控目标。
- Grafana用于配置数据源为Prometheus并展示监控数据。
- 左上角线型图用于展示总Token数,右上角饼型图用于展示提示和回复Token数。
- 左下角和右下角线型图分别展示提示Token数和回复Token数的变化。
🏷️
标签
➡️