使用TF和GKE进行服务:稳定扩散
原文英文,约3100词,阅读约需11分钟。发表于: 。Posted by Chansung Park and Sayak Paul (ML and Cloud GDEs) Generative AI models like Stable Diffusion1 that lets anyone generate high-quality images from natural language text prompts enable...
本文介绍了如何使用TensorFlow Serving和Google Kubernetes Engine在线部署生成式AI模型Stable Diffusion。通过将每个组件打包到单独的容器中,可以更好地控制本地计算能力和微调性质。文章还介绍了如何将Stable Diffusion包装为SavedModels,并在GKE集群上部署。最后,文章展示了如何通过RestAPI调用端点生成图像。需要注意的是,为了将tokenizer嵌入到Text Encoder本身中,需要为所选提示准备令牌。最终,我们可以通过将像素值转换为图像格式来绘制生成的图像。