Apple Machine Learning Research
·
通过传输激活控制语言和扩散模型
💡
原文英文，约1800词，阅读约需7分钟。
📝
内容提要
苹果研究人员提出了一种新技术——激活传输（AcT），该技术利用最优传输理论，在不增加计算负担的情况下，实现对大型生成模型输出的精细控制。此方法适用于语言和图像生成，能有效减少有害输出并提高真实性，克服了传统方法的局限性。
🎯
关键要点
- 苹果研究人员提出了一种新技术——激活传输（AcT），用于对大型生成模型输出进行精细控制。
- AcT利用最优传输理论，适用于语言和图像生成，能有效减少有害输出并提高真实性。
- 传统的强化学习和指令微调方法资源消耗大，随着模型复杂性增加变得不切实际。
- 用户通常通过精确提示来控制生成模型的输出，但这种方法的控制能力有限。
- 激活传输（AcT）通过学习源激活和目标激活的分布之间的最优传输映射，提供可解释的干预强度参数。
- Linear-AcT是AcT的简化版本，适用于大型语言模型和文本到图像生成模型，能够快速推理。
- Linear-AcT在毒性减轻和真实感提升任务中表现出色，显著降低了模型输出的毒性。
- AcT能够对文本到图像生成模型进行细致控制，允许用户逐步调整生成图像的细节和风格。
- AcT可以有效去除生成图像中不希望出现的概念，如“粉红色大象”。
- 随着生成模型能力的提升，提供精细控制变得愈发重要，AcT为此提供了一种高效的解决方案。
❓
延伸问答
激活传输（AcT）是什么？
激活传输（AcT）是一种新技术，利用最优传输理论对大型生成模型的输出进行精细控制，且几乎不增加计算负担。
AcT如何提高生成模型的输出质量？
AcT通过学习源激活和目标激活的分布之间的最优传输映射，有效减少有害输出并提高生成内容的真实性。
传统的控制生成模型输出的方法有哪些局限性？
传统方法如强化学习和指令微调资源消耗大，随着模型复杂性增加变得不切实际，且可能影响模型在其他任务上的表现。
Linear-AcT与AcT有什么区别？
Linear-AcT是AcT的简化版本，适用于大型语言模型和文本到图像生成模型，能够快速推理并提供可解释的控制参数。
AcT如何控制文本到图像生成模型的输出？
AcT通过学习源和目标激活分布之间的传输映射，允许用户逐步调整生成图像的细节和风格，确保生成内容符合预期。
AcT在减少生成内容毒性方面的表现如何？
在毒性减轻任务中，Linear-AcT表现出色，分别在Gemma-2-2b和Llama-3-8b模型上实现了7.5倍和4.3倍的毒性降低。
➡️
