➡️
继续阅读
-
Kimi K3 模型结构（3）：序列维度，Gated MLA 与 3:1 混合
本文介绍Kimi K3模型结构：采用3:1混合，每四层含一层Gated MLA（无位置编码、满秩sigmoid门），其余为KDA层。MLA低秩压缩KV至5...
-
Kimi K3 模型结构（2）：序列维度（下），chunkwise 并行与下界衰减
本文介绍Kimi K3模型序列维度的chunkwise并行算法：将序列分块，块间递推状态、块内用矩阵乘并行计算。K3将每步log-decay加−5下界，使...
-
Kimi K3 模型结构（1）：序列维度（上），从线性注意力到 KDA
本文介绍Kimi K3模型中KDA（Kimi Delta Attention）的递推形式，从线性注意力、DeltaNet到Gated DeltaNet演进...
-
让炼丹更科学一些（九）：经典自适应梯度算法
本系列前面八篇文章，都是在围绕SGD及其学习率讨论。而从本文开始，我们将正式进入自适应梯度算法的世界。可以说，现在所有的自适应梯度算法，都有一个共同的源头...
-
AI代理评估是产品的一部分
该文讨论AI代理（Agent）的评估问题。文章指出，演示成功不代表系统可靠，需将评估纳入交付流程。建议建立可重复的评估系统，使用固定场景和真实任务，记录完...
-
我们花了一周时间测试IFA上最棒（也最奇特）的科技产品，欢迎提问
IFA 2026柏林展会上，The Verge编辑测试了众多科技产品，涵盖智能家居、手机、手表等。他们正为订阅者举办问答活动，解答关于飞利浦Hue灯、Eu...
