➡️
继续阅读
-
CPU + GPU:为何AI平台工程是一个异构基础设施问题
AI基础设施不应只关注GPU,而应视为CPU、内存、存储和网络协同工作的整体系统。平台团队需匹配各阶段资源需求,而非孤立优化GPU。通过Kubernete...
-
Qwen3.8: 从 0 到 1 用 Rust 重写 Mooncake: Suncake
本文介绍作者用Rust重写Mooncake存储模块为Suncake项目,通过Qoder和Qwen3.8从零开发,仅用37个提交完成。相比C++版,性能提升...
-
Kubernetes虽已成熟,但AI使其再度令人望而生畏
Kubernetes虽成熟,但首次采用仍具挑战,尤其AI工作负载带来GPU、突发流量等新需求。文章指出,启动集群容易,难在管理生产环境中的AI任务,如作业...
-
Kimi K3 模型结构(9):显存,把 2.8T 塞进 GPU
本文详解Kimi K3模型训练中的显存优化策略,通过账本形式分析权重、激活等内存占用,并介绍六项关键技术:均衡PP rank激活、统一激活管理器、MoE反...
-
通过专用GPU内核生成实现极致效率
Proteus系统利用智能体自动生成GPU专用内核,针对不同模型和运行时形状实现极致性能优化。通过严格验证、防作弊检查及知识层管理,Proteus为Qwe...
-
CEO的1元年薪起源 - 编程一生
手机更新换代,背后的安迪-比尔定理。还有其他一些大家天天接触但很多人没有深究的一些现象都是怎么产生的呢? 又要换手机了 现象 很多朋友都发现这种事情,刚买...