谷歌DeepMind推出了Gemini Diffusion模型，这是一个先进的文本扩散模型，能够快速将随机噪声转化为连贯的文本或代码，并保持良好的编码性能。团队将继续优化该模型以降低延迟。

本研究提出了一种新方法，通过在训练中向输入嵌入注入随机噪声，解决了连续自回归模型在生成长序列时的误差积累问题。实验表明，该方法在音乐音频生成中显著提升了性能，为实时和交互式生成应用提供了新可能性。

本文探讨了提高联邦学习通信效率的方法，包括随机二进制掩码、动态采样和Top-K选择性掩蔽等技术。这些方法有效降低了通信成本，同时保持模型的准确性和收敛速度。研究表明，优化稀疏子网络和引入正则化项能显著提升通信和内存效率，尤其在处理异构数据时表现优越。

使用差分隐私保护的切割混合分割学习（DP-CutMixSL）框架在前向传播过程中加强了隐私保护，提高了准确性，并改善了对成员推断、重构和标签推断攻击的保护。

本文提出了一种 LoRA Dropout 机制，通过引入随机噪声和增加参数稀疏性，从稀疏正则化的角度证明了该机制的理论机制，并提供了泛化误差界限。实验证明该机制在自然语言处理任务中提高模型准确性和校准性方面有效。

差分隐私在隐私保护机器学习领域取得显著成果，但现有框架无法满足所有条件，阻碍了更好的结果。提出了Wasserstein差分隐私（WDP），一种用于衡量隐私泄露风险的替代框架，满足对称性和三角不等式。WDP具有13个优秀属性，可作为WDP相较于其他框架更好性能的理论支持。推导了通用隐私计算方法，使WDP可应用于包含子采样的随机梯度下降（SGD）场景。实验证明Wasserstein账户得到的隐私预算相对稳定且不受顺序影响，高估得到有效缓解。

本文介绍了一种知识蒸馏方法，通过引入新颖的发生器去噪蒸馏方法（GDD），从教师模型中导出更紧凑的表示，并在目标检测、实例分割和语义分割等任务中取得了最佳表现。

该研究提出了综合的医疗数据隐私风险分析和联邦学习的减轻框架，以保护私人医疗数据的隐私。研究发现，加入随机噪声的防御方法可能不总是有效保护医学图像免受隐私攻击，这对医疗数据的隐私保护带来了独特和迫切的挑战。