本文介绍了多种无数据蒸馏方法，特别是AS-DFD和DFKD-T^3框架，旨在压缩大型Transformer模型并提升NLP任务性能。这些方法在文本分类和情感分析等任务中表现优异，生成的文本可用于蒸馏其他模型，超越现有技术水平。