文生图相关模型最新进展小结
原文中文,约3500字,阅读约需9分钟。发表于: 。在较早的VAE和GAN时代,通过图形生成模型,可能出现模式坍塌(个人理解就是生成图像多样性不足)并且只有图像数据参与,在之后的diffusion时代(包括现在),有了多模态的加入,通过文本、深度图以及骨骼图(e.g.ControlNet)控制图像生成有了更高的自由度和创造性.此外有了类似LoRA,IP-Adapter等等技术提供了更好的微调方式用于在更新模型权重保持良好的风格迁移(比如原本模...
在生成式AI的发展中,扩散模型通过多模态输入提升了图像生成的自由度与创造性。新技术如LoRA和IP-Adapter改善了微调效果,增强了风格迁移和人物一致性。尽管文生图应用广泛,但商业前景仍不明朗,结合视频生成的内容创作平台可能更具潜力。