SemanticKernel之使用监控

💡 原文中文,约9800字,阅读约需24分钟。
📝

内容提要

该文章介绍了在SemanticKernel中使用监控和量化监控的方法。通过添加Nuget包和配置Prometheus、Grafana等工具,可以实现对Token数量的监控和展示。

Q&A

如何在SemanticKernel中实现监控?

可以通过添加Nuget包和配置Prometheus、Grafana等工具来实现监控。

使用哪些Nuget包来支持SemanticKernel的监控?

使用的Nuget包包括Microsoft.SemanticKernel、NAudio、OpenTelemetry等。

如何配置Prometheus以监控Token数量?

需要下载Prometheus并修改prometheus.yml,设置监控目标为localhost:9465。

Grafana在SemanticKernel监控中有什么作用?

Grafana用于配置数据源为Prometheus并展示监控数据。

如何展示Token数量的变化?

可以通过左上角线型图展示总Token数,左下角线型图展示提示Token数,右下角线型图展示回复Token数。

在SemanticKernel中监控Token数量的主要图表有哪些?

主要图表包括总Token数线型图、提示Token数饼型图和回复Token数线型图。

🏷️

标签

➡️

继续阅读