推出llama-deploy：基于微服务的LlamaIndex工作流部署方式

llama-deploy是用于部署和扩展使用llama-index构建的代理工作流的解决方案。

llama-deploy结合了构建工作流的简易性和简单的部署机制。

架构包括消息队列、控制平面、编排器和工作流服务。

关键特性包括无缝部署、可扩展性、灵活性、容错性、状态管理和异步优先设计。

要开始使用，请参考GitHub存储库上的文档。

llama-agents是部署基于llama-index构建的代理系统的方法。

llama-deploy将llama-agents和Workflows结合，简化了部署过程。

llama-deploy的架构包括消息队列、控制平面、编排器和工作流服务。

消息队列用于服务和控制平面之间的消息传递。

控制平面是llama-deploy系统的中央网关，管理当前任务和注册的服务。

编排器处理传入任务并决定将其发送到哪个服务。

工作流服务是实际处理任务的地方。

无缝部署使得从开发到生产的过渡变得简单。

可扩展性确保系统能够处理不断增长的需求。

灵活性允许更换组件或添加新服务而不干扰整个系统。

容错性确保多代理AI系统在生产环境中保持稳健。

状态管理简化了复杂多步骤过程的开发。

异步优先设计适合实时和高吞吐量应用。

可以通过GitHub存储库上的文档开始使用llama-deploy。

未来的路线图包括流式支持、改进的弹性和更好的配置选项。