本研究提出了一种名为DR-编码器的方法，通过引入两阶段随机性来解决联邦微调大型语言模型中的信息泄漏问题。该方法在多个基础模型上显著提高了效率和准确性，并进行了全面的隐私分析。

本文研究了超参数调整问题中的隐私分析，发现理论与经验边界存在差距，并提供了改进后的隐私结果。