在 Workers AI 中实现嵌入式函数调用:更简单、更智能、更快速
原文英文,约1300词,阅读约需5分钟。发表于: 。Introducing a new way to do function calling in Workers AI by running function code alongside your inference. Plus, a new @cloudflare/ai-utils package to make getting started as simple as possible
Cloudflare推出了嵌入式函数调用和新的ai-utils包,以简化开发人员的函数调用体验。这使得开发人员可以利用大型语言模型(LLM)生成结构化输出并将其传递给API调用。Cloudflare旨在提供一个开源的模型生态系统,并提供类似于OpenAI的开发者工具包。嵌入式函数调用功能允许LLM推理和函数执行在同一环境中运行,消除了不必要的请求。ai-utils包提供了强大的抽象和方法来处理多个函数调用、递归工具调用、验证和流处理。Cloudflare还提供了一个辅助函数,可以根据OpenAPI规范动态生成工具架构和API端点。通过这些进步,开发人员可以用更少的代码轻松构建智能AI系统。