➡️
继续阅读
-
DeepSeek-V4 模型结构（7）：结构决定系统
DeepSeek-V4模型采用混合压缩注意力（mHC），将KV缓存分为状态缓存和分页缓存，分别管理滑窗KV与压缩条目。上下文并行通过点对点通信和all-g...
-
Kimi K3 模型结构（7）：结构决定系统
本文总结Kimi K3模型结构对训练与推理系统的影响。KDA采用三种执行形态（FlashKDA、设备内上下文并行、状态回滚）处理固定大小状态；上下文并行通...
-
为什么你的网站没有被 ChatGPT 推荐？让网站在 AI 对话中被提到的五个可操作方向
大语言模型推荐网站基于训练数据中的品牌与关键词关联，而非实时搜索。提升被推荐概率需在公开网络积累高质量、多来源的提及，包括语义密度、结构化内容、具体数据、...
-
省 token 故事 · 各自为政 - 编程一生
多智能体并行虽高效，但每个智能体需独立上下文，重复阅读文件导致token成本高。自查不可靠，需独立质检。任务书应自包含且窄，验收独立派人，能串行则不并行。...
-
“我1%的工程师消耗了40%的token”：Coder与SpaceXAI为何要给开发者提供更好的工具
Coder推出Agent Relay服务，与SpaceXAI合作，使软件团队能在自有基础设施上运行编码代理，而Cursor负责云端推理。该方案针对银行、国...
-
DeepSeek-V4 模型结构（6）：优化器与稳定性，Muon
DeepSeek-V4采用Muon优化器，通过谱范数最速下降实现逐矩阵正交化，用Newton-Schulz迭代逼近SVD，混合系数提升小奇异值并精确稳定大...
