本文提出了Device Tuning方法，以提高自注意力模型的计算效率并支持多任务学习。研究分析了多模态调优方法在复杂推理和对话任务中的表现，揭示了现有方法的局限性。通过动态选择先验知识和模型参数，优化了多任务学习系统的性能。此外，提出了多模态指令调优基准数据集MultiInstruct，以提升模型的零示性能。