走出大模型部署新手村！小明这样用魔搭×函数计算
💡
原文中文，约6500字，阅读约需16分钟。
📝
内容提要
本文介绍了魔搭 ModelScope 社区模型服务 SwingDeploy 的使用方法。开发者可以将模型从魔搭社区的模型库一键部署至阿里云函数计算，节约机器使用成本。使用魔搭的 SwingDeploy 一键部署模型到函数计算后，可以在函数计算控制台找到部署好的服务和函数。函数的调用是事件驱动的，可以通过魔搭平台提供的示例代码调用已部署好的模型。文章还介绍了如何调优模型的性能、如何定位模型问题以及如何实现异步调用效果。最后，文章提到了函数计算的其他注意事项和相关链接。
🎯
关键要点
- 魔搭 ModelScope 社区模型服务 SwingDeploy 允许开发者一键部署模型至阿里云函数计算。
- 通过 SwingDeploy，开发者可以节约机器使用成本，快速完成模型推理 API 服务的生产转换。
- 用户可以在模型库中过滤支持快速部署的模型，并进行一键部署。
- 部署后，用户可以在函数计算控制台找到相应的服务和函数，函数调用是事件驱动的。
- 函数计算平台会根据服务和函数的配置创建 CPU/GPU 容器实例，空闲时不会消耗资源。
- 用户可以通过魔搭平台提供的示例代码调用已部署的模型。
- 首次调用模型可能耗时较长，后续调用耗时短，用户可以通过配置预留实例来减少冷启动延时。
- 函数计算支持同步调用、异步调用和异步任务，用户可以根据需求选择合适的调用方式。
- 用户可以通过配置 SLS 日志和监控指标来定位模型或应用问题。
- 用户可以在函数配置中调整资源规格，包括 CPU、内存和显存等。
- 函数计算平台支持设置函数实例的并发度，以优化批量推理的性能。
- 用户在使用 GPU 实例时需注意相关的使用说明和限制。
➡️
