llama-deploy是一个用于部署和扩展使用llama-index构建的代理工作流的解决方案。它结合了构建工作流的简易性和简单的部署机制。架构包括消息队列、控制平面、编排器和工作流服务。关键特性包括无缝部署、可扩展性、灵活性、容错性、状态管理和异步优先设计。要开始使用,请参考GitHub存储库上的文档。未来的路线图包括流式支持、改进的弹性和更好的配置选项。
完成下面两步后,将自动完成登录并继续当前操作。