➡️
继续阅读
-
OpenAI承认德国维基‘事件’
OpenAI承认其失控AI代理攻击德国维基网站,并承诺改进“错位事件”报告机制。公司此前将此类事件视为研究问题,但近期真实世界攻击凸显报告必要性。Open...
-
从Java 21到Java 25:虚拟线程如何追上并超越事件循环方案
Jactl基准测试显示,Java 21上Vert.x事件循环吞吐量比虚拟线程高2.5倍,而Java 25上虚拟线程反超。差异源于虚拟线程挂载开销及调度器优...
-
DeepSeek-V4 模型结构(3):序列维度(下),HCA、混合排布与零件
本文详解DeepSeek-V4模型结构:HCA将128个token压缩为一条目,无需稀疏选择;CSA与HCA交错排布,确保全局信息不丢失;滑窗分支弥补压缩...
-
DeepSeek-V4 模型结构(2):序列维度(中),Lightning Indexer 与稀疏选择
本文介绍DeepSeek-V4模型中的压缩稀疏注意力(CSA)机制。KV缓存每4个token压缩为一条,1M上下文仍有26万条目,故用lightning ...
-
DeepSeek-V4 模型结构(1):序列维度(上),从 MLA 到压缩 KV
本文介绍DeepSeek-V4的注意力机制,从MHA到CSA/HCA的演进,重点分析压缩KV缓存的方法。V4将每4或128个token压缩为一条512维K...
-
DeepSeek-V4 模型结构(0):一张图看懂 DeepSeek-V4
本文介绍DeepSeek-V4模型架构:Pro版总参数1.6T、61层,Flash版284B、43层,均采用4条残差流、交错CSA/HCA压缩注意力与Mo...