BriefGPT - AI 论文速递 ·

差分隐私切片逆回归：极小极大优化和算法

💡 原文中文，约400字，阅读约需1分钟。

📝

内容提要

本文提出了一种针对高维数据分析中隐私保护的最优差分隐私算法，并建立了差分隐私切片逆回归的下界。通过模拟和实际数据分析，证明了该算法在保护隐私的同时保留了重要信息。此外，还提供了差分隐私稀疏主成分分析的类似下界和上界。

🏷️

StickMe 隐私政策
StickMe是一款本地优先的动作记录应用，无需注册账号，不收集或上传个人数据，无广告及第三方SDK。相机画面仅用于本地识别人体骨骼动作，不分享真人画面。...
让炼丹更科学一些（九）：经典自适应梯度算法
本系列前面八篇文章，都是在围绕SGD及其学习率讨论。而从本文开始，我们将正式进入自适应梯度算法的世界。可以说，现在所有的自适应梯度算法，都有一个共同的源头...
Allora Labs证明变异AI模型群体性能超单个优化模型
Allora Labs研究表明，在AI模型群体中引入随机变异可提升整体性能，超越单个优化模型。变异群体在环境变化时表现更优，最佳情况下约80%优于优化群体...
Kimi K3 模型结构（2）：序列维度（下），chunkwise 并行与下界衰减
本文介绍Kimi K3模型序列维度的chunkwise并行算法：将序列分块，块间递推状态、块内用矩阵乘并行计算。K3将每步log-decay加−5下界，使...
Kimi K3 模型结构（1）：序列维度（上），从线性注意力到 KDA
本文介绍Kimi K3模型中KDA（Kimi Delta Attention）的递推形式，从线性注意力、DeltaNet到Gated DeltaNet演进...
Kimi K3 模型结构（4）：深度维度，Attention Residuals
本文解析Kimi K3模型中的Attention Residuals（注意力残差）结构。该机制将残差连接视为深度方向上的RNN，通过可学习伪query对e...