本文介绍Kimi K3模型中KDA（Kimi Delta Attention）的递推形式，从线性注意力、DeltaNet到Gated DeltaNet演进而来。KDA通过逐通道衰减和擦除写入机制更新状态，每头128×128矩阵，不依赖上下文长度。它采用逐头RMSNorm和满秩sigmoid输出门，在合成任务中表现优于基线，并天然具备位置编码能力。