本文介绍了instruct-imagen模型，解决了异质图像生成任务并可泛化到未知任务。通过引入多模态指导，融合不同模态，统一生成意图的格式。通过两阶段框架，利用预训练的文本到图像扩散模型进行精调构建instruct-imagen模型。人工评估表明，instruct-imagen在各种图像生成数据集上与先前特定任务的模型相媲美甚至超越，并展示了对未知和更复杂任务的有希望的泛化能力。