➡️
继续阅读
-
神所使用的 eGPU 并不完美
作者因轻薄本核显性能不足,购买华为显卡魔方外接显卡,但遇电源散热问题导致重启,遂转用机魂联盟扩展坞配RX 9060 XT显卡。性能提升显著,但雷电4带宽限...
-
选择 RTC 推流方案时如何平衡成本和性能?
RTC推流成本与性能平衡的关键在于分层供给,而非一刀切。费用主要由时长、增值服务和并发构成,高清档位和RTC链路是成本放大器。通过调整分辨率、帧率、大小流...
-
Allora Labs证明变异AI模型群体性能超单个优化模型
Allora Labs研究表明,在AI模型群体中引入随机变异可提升整体性能,超越单个优化模型。变异群体在环境变化时表现更优,最佳情况下约80%优于优化群体...
-
DeepSeek-V4 模型结构(2):序列维度(中),Lightning Indexer 与稀疏选择
本文介绍DeepSeek-V4模型中的压缩稀疏注意力(CSA)机制。KV缓存每4个token压缩为一条,1M上下文仍有26万条目,故用lightning ...
-
DeepSeek-V4 模型结构(1):序列维度(上),从 MLA 到压缩 KV
本文介绍DeepSeek-V4的注意力机制,从MHA到CSA/HCA的演进,重点分析压缩KV缓存的方法。V4将每4或128个token压缩为一条512维K...
-
DeepSeek-V4 模型结构(0):一张图看懂 DeepSeek-V4
本文介绍DeepSeek-V4模型架构:Pro版总参数1.6T、61层,Flash版284B、43层,均采用4条残差流、交错CSA/HCA压缩注意力与Mo...