阿里云云栖号

阿里云云栖号 -

使用 PAI-Blade 优化 Stable Diffusion 推理流程

PAI-Blade是 PAI 推出的通用推理优化工具,可以通过模型系统联合优化,使模型达到最优推理性能。

PAI-Blade是PAI推出的通用推理优化工具,可以通过模型系统联合优化,使模型达到最优推理性能。PAI-Blade依托于完全动态尺寸的AI编译器BladeDISC和基于深度学习自动调度的高性能计算库BlaDNN,为包括图像生成模型Stable Diffusion在内的众多模型提供自动的高性能推理优化。使用PAI-Blade优化Stable Diffusion具有高性能、完全动态shape支持和易用性、可扩展性三点优势。文章还介绍了PAI-Blade在社区流行的Text2Img pipeline中的使用方法,并给出了A100和A10的性能对比和推理结果验证。最后,文章展望了PAI-Blade团队未来的工作方向。

PAI-Blade Stable Diffusion 推理优化 模型联合优化 高性能计算库

相关推荐 去reddit讨论

热榜 Top10

观测云
观测云
LigaAI
LigaAI
eolink
eolink
Dify.AI
Dify.AI

推荐或自荐