阿里云云栖号 -

使用 PAI-Blade 优化 Stable Diffusion 推理流程

PAI-Blade是 PAI 推出的通用推理优化工具,可以通过模型系统联合优化,使模型达到最优推理性能。

AI生成摘要 本文介绍了PAI-Blade,这是PAI推出的通用推理优化工具,可以通过模型系统联合优化,使模型达到最优推理性能。PAI-Blade依托于完全动态尺寸的AI编译器BladeDISC和基于深度学习自动调度的高性能计算库BlaDNN,为包括图像生成模型Stable Diffusion在内的众多模型提供自动的高性能推理优化。使用PAI-Blade优化Stable Diffusion具有高性能、完全动态shape支持和易用性、可扩展性三点优势。文章还介绍了PAI-Blade在社区流行的"runwayml/stable-diffusion-v1-5"的Text2Img pipeline中的使用方法,并给出了A100和A10的性能对比和推理结果验证。最后,文章展望了PAI-Blade团队未来的工作方向。

相关推荐 去reddit讨论
热榜 Top10
...
白鲸技术栈
...
观测云
...
eolink
...
LigaAI
...
ShowMeBug
...
天勤数据
...
Dify.AI
推荐或自荐