本文介绍了多种无数据蒸馏方法，特别是AS-DFD和DFKD-T^3框架，旨在压缩大型Transformer模型并提升NLP任务性能。这些方法在文本分类和情感分析等任务中表现优异，生成的文本可用于蒸馏其他模型，超越现有技术水平。

本文介绍了一种名为DOMINO的解码算法，能够高效生成符合预期格式的文本，速度优化接近2倍。同时，研究提出了一种新的公差预测方法，结合概率约束编程模型和贝叶斯学习，提升了大型语言模型的生成质量和结构化输出能力。实验验证了该方法在多个文本生成任务中的有效性。