Microsoft 365 Developer Blog
·
Dev Proxy v1.0：构建可靠的AI应用的新功能
内容提要
Dev Proxy v1.0发布，新增语言模型测试功能，包括故障模拟、速率限制和成本报告。同时改进了OpenAPI生成，推出新工具和插件，提升AI应用开发的可靠性。
关键要点
-
Dev Proxy v1.0发布，新增语言模型测试功能。
-
新增15种现实故障类型的语言模型故障模拟。
-
支持基于令牌的速率限制模拟。
-
改进语言模型令牌使用跟踪和成本报告。
-
改进OpenAPI规范生成，简化API集成。
-
推出Dev Proxy工具的新版本，提升开发体验。
-
修复了多个bug并进行了改进。
-
Dev Proxy Toolkit更新，支持新插件和配置部分。
-
Dev Proxy Visual Studio Code任务简化调试配置集成。
-
Dev Proxy GitHub Actions简化在GitHub工作流中的使用。
-
Dev Proxy .NET Aspire扩展支持.NET 8。
-
Dev Proxy MCP服务器为编码代理提供最新文档和最佳实践。
-
DevToolsPlugin和AuthPlugin修复了流响应显示和OIDC元数据支持。
-
Linux安装脚本使用更直观的默认设置，提升用户体验。
延伸解读
语言模型故障模拟的重要性
Dev Proxy v1.0引入的语言模型故障模拟功能，能够帮助开发者测试应用在面对AI不可靠响应时的表现。这种模拟可以有效识别应用的错误处理能力，确保用户体验不受影响，尤其是在AI生成内容的场景中。
速率限制模拟的实用性
新版本中的基于令牌的速率限制模拟功能，允许开发者在集成语言模型时，真实地模拟API调用的限制。这对于控制成本和优化资源使用至关重要，尤其是在高并发的应用场景中，能够帮助开发者提前识别潜在的性能瓶颈。
OpenAPI生成的简化
Dev Proxy的OpenAPI生成工具经过改进，能够更轻松地生成API规范。这对于开发者来说，意味着可以更快速地与云服务集成，减少了手动编写文档的时间，提高了开发效率，尤其是在快速迭代的项目中。
延伸问答
Dev Proxy v1.0有哪些新功能？
Dev Proxy v1.0新增语言模型测试功能，包括故障模拟、速率限制和成本报告，同时改进了OpenAPI生成。
如何模拟语言模型的故障？
可以使用LanguageModelFailurePlugin来模拟15种常见的语言模型故障类型，帮助测试应用程序的错误处理能力。
Dev Proxy如何进行速率限制模拟？
通过LanguageModelRateLimitingPlugin，可以配置输入和完成令牌的不同限制，模拟真实的速率限制情况。
Dev Proxy v1.0如何改进OpenAPI生成？
改进后的OpenApiSpecGeneratorPlugin可以忽略响应类型，并捕获默认参数值，简化API集成过程。
Dev Proxy Toolkit有哪些更新？
Dev Proxy Toolkit更新至v1.0.2，增加了新的语言模型故障插件和速率限制插件的配置部分，并更新了所有代码片段。
Dev Proxy在GitHub工作流中的使用如何简化？
Dev Proxy GitHub Actions封装了启动和控制Dev Proxy的功能，方便用户在GitHub工作流中集成使用。
