本文探讨了大型语言模型（LLM）的工作原理，类比于19世纪的差分机。LLM通过自回归机制动态生成输出，结合指令和数据。文章分析了RNN与Transformer的优缺点，强调Transformer在并行计算上的优势，并指出LLM在本质上是现代差分机，探讨了其在AI代理中的应用及记忆系统的重要性。

密码学的核心在于保护信息，尤其是在对手利用概率推理时。差分和线性密码分析是重要的攻击方法，通过统计偏差揭示密码设计的弱点，概率论在这些分析中至关重要，影响密码的安全性和设计理念。

本研究解决了现有去中心化学习方法中常量梯度截断界限和固定级别差分隐私噪声导致的准确性下降问题。提出的Dyn-D$^2$P方法根据梯度收敛动态调整梯度截断界限和噪声水平，从而在保证隐私的同时提高模型准确度。实验结果表明，这一方法在强隐私保证下显著优于采用固定级别噪声的对手，且首次为动态梯度截断界限和噪声水平下的差分隐私去中心化非凸优化提供了可证明的效用界限。

该研究提出了一种基于差分隐私的合成数据公平性审计框架，有效解决了传统人工智能系统中的安全与隐私问题。实验结果表明，该框架在保护敏感信息的同时，实现了有效的公平性评估。

机器之心数据服务现已上线，提供高效稳定的数据获取，简化数据爬取流程。

本研究关注如何在快速数字化的医疗体系中保护患者隐私。通过结合差分隐私和联邦学习的方法，提出了一种隐私保护模型，在不侵犯个人隐私的情况下，实现心脏病数据的有效分析。研究结果表明，所提模型在保证数据隐私的同时，测试准确率达到85%，展示了该方法在医疗健康领域的潜在应用价值。

本研究针对时间序列异常检测中建模能力不足的问题，提出了一种基于差分的对比表示学习框架DConAD。该方法通过生成差别数据及利用变换器架构，增强了对时空依赖的捕捉能力，进而提高了异常检测的准确性。实验结果表明，DConAD在五个公共数据集上的表现优于九个基线方法，展现了其优越性与有效性。

本研究针对差分隐私随机梯度下降（DP-SGD）中选择最优裁剪阈值C的挑战，提出了动态裁剪DP-SGD（DC-SGD）框架。通过利用差分隐私直方图估计梯度范数分布并动态调整裁剪阈值C，显著降低了超参数调优的负担，实验证明其在超参数调优上比DP-SGD快多达9倍，并在CIFAR10数据集上提高了10.62%的准确率。

本研究提出DPImageBench，解决了差分隐私图像合成领域评价标准不一致的问题。通过评估十一种方法，发现上游分类器的选择会高估效用评分，且低维特征添加噪声的效果优于高维特征。

本研究针对多矩阵博弈中的均衡求解，在差分隐私约束下探讨了高精度和逐渐消失的差分隐私预算不能同时实现的问题。我们提出了一种新颖的分布式算法，能够在对方访问有限通信渠道的情况下，同时达到渐近消失的纳什差距和隐私预算，具有重要的理论和实际意义。

本研究关注在线大型语言模型中的提示隐私问题，并针对现有方法仅限于文档级重写的局限性，提出了一种新颖的三阶段框架DP-GTR。该框架整合文档级和词级信息，通过组文本重写提升了隐私保护和实用性，实现了隐私与效用的优良平衡，实验结果表明其在多个任务上均优于现有方法。

本研究针对垂直联邦学习在扩大大型模型时所面临的隐私风险和低效问题，提出了一种名为DPZV的内存高效零阶优化框架。该框架通过两点梯度估计消除反向传播，显著减少了客户内存使用，同时保证了强隐私保障，提供了在资源受限条件下的隐私效用最佳平衡。