提升 Workers AI:正式发布及更多新功能
原文英文,约2100词,阅读约需8分钟。发表于: 。Today, we’re excited to make a series of announcements, including Workers AI, Cloudflare’s inference platform becoming GA and support for fine-tuned models with LoRAs and one-click deploys from...
Cloudflare在2024年开发者周的AI日宣布了一系列新的AI功能和愿景,包括Workers AI正式发布、GPU硬件动力更新、与Hugging Face合作的扩展、支持自定义LoRA的推理、Workers中的Python支持、AI Gateway中的更多提供商以及Vectorize元数据过滤等。Cloudflare计划在2024年底之前全球范围内部署GPU,成为最广泛分布的云AI推理平台。Cloudflare还与Hugging Face合作,在Workers AI平台上提供了一系列开源模型。Cloudflare还宣布支持自定义LoRA的推理,并在Python中支持Cloudflare Workers。AI Gateway现在还支持Anthropic、Azure、AWS Bedrock、Google Vertex和Perplexity等提供商。Cloudflare还计划在2024年第二季度推出持久日志、自定义元数据和安全管理等功能。