DEV Community
·
Azure OpenAI C# 的一些经验分享
内容提要
本文分享了使用Azure OpenAI的实践经验，包括模型输出处理、内容过滤和错误信息。对于不支持标准输出的模型，需要传入JSON模式或示例文档。内容过滤时返回200状态码，但响应会被截断。支持结构化输出的模型可使用CreateJsonSchemaFormat方法。
关键要点
-
使用Azure OpenAI的实践经验分享，包括模型输出处理、内容过滤和错误信息。
-
对于不支持标准输出的模型，需要传入JSON模式或示例文档。
-
内容过滤时返回200状态码，但响应会被截断，并包含内容过滤结果的JSON部分。
-
如果模型不支持图像输入，将返回类似于'Error copying to stream'的错误信息。
-
支持结构化输出的模型可以使用CreateJsonSchemaFormat方法来返回特定类的答案。
-
目前支持结构化输出的模型数量较少。
延伸解读
模型输出处理的注意事项
在使用Azure OpenAI时，特别是对于不支持标准输出的模型，务必传入JSON模式或示例文档。这可以确保模型输出符合预期格式，避免因格式不当导致的错误或不完整的响应。
内容过滤的影响
内容过滤机制虽然返回200状态码，但会导致响应被截断，且只包含过滤结果的JSON部分。开发者需仔细解析返回的内容，以确保获取到必要的信息，避免因过滤导致的误解。
结构化输出的局限性
目前支持结构化输出的模型数量较少，因此在设计应用时需考虑这一限制。使用CreateJsonSchemaFormat方法时，确保所选模型能够支持该功能，以便有效返回所需的特定类答案。
延伸问答
如何处理Azure OpenAI模型的输出？
对于不支持标准输出的模型，需要传入JSON模式或示例文档来处理输出。
内容过滤时会发生什么？
内容过滤时返回200状态码，但响应会被截断，并包含内容过滤结果的JSON部分。
如果模型不支持图像输入，会出现什么错误？
如果模型不支持图像输入，将返回类似于'Error copying to stream'的错误信息。
如何使用CreateJsonSchemaFormat方法？
支持结构化输出的模型可以使用CreateJsonSchemaFormat方法来返回特定类的答案。
目前支持结构化输出的模型数量如何？
目前支持结构化输出的模型数量较少。
在使用Azure OpenAI时需要注意哪些实践经验？
需要注意模型输出处理、内容过滤和错误信息等实践经验。
