Dev Proxy v0.28 具备语言模型使用和成本跟踪功能

Dev Proxy v0.28 具备语言模型使用和成本跟踪功能

💡 原文英文,约1000词,阅读约需4分钟。
📝

内容提要

Dev Proxy v0.28发布,新增OpenAITelemetryPlugin以跟踪语言模型使用和成本,改进TypeSpec生成和插件灵活性,支持JSONC,增强OpenAI有效载荷支持,并修复多个bug。同时简化了与.NET Aspire的集成,提升开发效率。

🎯

关键要点

  • Dev Proxy v0.28发布,新增OpenAITelemetryPlugin以跟踪语言模型使用和成本。

  • 改进TypeSpec生成和插件灵活性,支持JSONC。

  • 增强OpenAI有效载荷支持,修复多个bug。

  • 简化与.NET Aspire的集成,提升开发效率。

  • OpenAITelemetryPlugin可以跟踪模型使用情况、令牌计数和请求成本估算。

  • 支持将Dev Proxy配置为使用Foundry Local作为本地语言模型提供者。

  • 发布了Dev Proxy的.NET Aspire扩展,简化与.NET Aspire应用的集成。

  • 扩展了对OpenAI有效载荷的支持,支持多种类型的补全。

  • 改进了TypeSpec的PATCH操作生成,符合TypeSpec v1.0特性。

  • 所有Dev Proxy文件支持JSONC,方便团队共享配置。

  • 修复了与并发请求相关的日志问题,提升了日志显示的准确性。

  • CRUD API插件增强了对CORS的支持,改进了JSON响应。

  • 移除了GraphConnectorNotificationPlugin,更新了devproxy jwt create命令的参数名称。

  • 发布了Dev Proxy Toolkit v0.24.0,包含新命令和更新的代码片段。

  • 鼓励用户下载Dev Proxy v0.28并参与反馈和讨论。

延伸问答

Dev Proxy v0.28的新功能有哪些?

Dev Proxy v0.28新增了OpenAITelemetryPlugin以跟踪语言模型使用和成本,改进了TypeSpec生成和插件灵活性,支持JSONC,并增强了OpenAI有效载荷支持。

OpenAITelemetryPlugin的作用是什么?

OpenAITelemetryPlugin可以跟踪语言模型的使用情况、令牌计数和请求成本估算,帮助用户了解应用与OpenAI的交互。

如何将Dev Proxy与Foundry Local集成?

用户可以配置Dev Proxy使用Foundry Local作为本地语言模型提供者,从而提高OpenAPI规格和TypeSpec文件的生成效率。

Dev Proxy v0.28修复了哪些bug?

修复了与并发请求相关的日志问题,提升了日志显示的准确性,并改进了CRUD API插件对CORS的支持。

Dev Proxy的.NET Aspire扩展有什么优势?

Dev Proxy的.NET Aspire扩展简化了与.NET Aspire应用的集成,只需少量代码即可完成集成,支持本地安装或Docker容器运行。

Dev Proxy Toolkit v0.24.0包含哪些新功能?

Dev Proxy Toolkit v0.24.0新增了发现模式命令和多个更新的代码片段,改进了对Dev Proxy Beta的支持。

➡️

继续阅读