Apple Machine Learning Research ·

通过激活传输控制语言和扩散模型

💡 原文英文，约200词，阅读约需1分钟。

📝

内容提要

大型生成模型的能力提升引发了对其可靠性和安全性的担忧。为此，本文提出了激活传输（AcT）框架，通过最优传输理论引导模型激活，控制生成输出的概念和行为。AcT适用于多种模式，能够以极小的计算开销实现对模型行为的精细控制。实验表明，AcT有效减轻毒性、引入概念、提高真实性，并实现风格控制和概念否定。

🎯

🔎

激活传输（AcT）框架通过最优传输理论实现对生成模型的精细控制，具有计算开销小的优势。这使得在实际应用中，开发者可以在不显著影响模型性能的情况下，调整生成内容的风格和概念，提升生成结果的可靠性和安全性。

随着大型生成模型的广泛应用，毒性内容和误导性信息的风险日益突出。AcT框架的引入为应对这些风险提供了新的思路，通过有效减轻毒性和提高真实性，帮助开发者在设计生成模型时更好地控制输出内容，降低潜在的负面影响。

AcT框架不仅适用于语言模型，还能在文本到图像的扩散模型中发挥作用。这种多模态的适用性意味着，开发者可以在不同类型的生成任务中应用相同的控制策略，从而实现更一致的输出质量和风格管理，提升用户体验。

❓

激活传输（AcT）框架是一种通过最优传输理论引导模型激活的通用框架，用于控制生成模型的输出行为。

AcT框架通过精细控制模型激活，能够有效减轻毒性、引入概念并提高生成内容的真实性，从而提升模型的可靠性。

AcT框架是模式无关的，适用于多种生成模式，包括大型语言模型和文本到图像的扩散模型。

使用AcT框架可以实现风格控制、概念否定以及对生成内容的细粒度控制。

AcT框架在实现对模型行为的精细控制时，计算开销极小，几乎不影响模型的能力。

实验表明，AcT框架能够有效减轻生成模型的毒性，增强概念引入和真实性，证明了其有效性和多样性。

🏷️