阿里云云栖号 - 2023-05-26T09:40:18Z

AI生成摘要 PAI-Blade是PAI推出的通用推理优化工具，可以通过模型系统联合优化，使模型达到最优推理性能。PAI-Blade依托于完全动态尺寸的AI编译器BladeDISC和基于深度学习自动调度的高性能计算库BlaDNN，为包括图像生成模型Stable Diffusion在内的众多模型提供自动的高性能推理优化。使用PAI-Blade优化Stable Diffusion具有高性能、完全动态shape支持和易用性、可扩展性三点优势。文章还介绍了PAI-Blade在社区流行的Text2Img pipeline中的使用方法，并给出了A100和A10的性能对比和推理结果验证。最后，文章展望了PAI-Blade团队未来的工作方向。