➡️
继续阅读
-
又当了一回网络工程师,找到满速断网问题
搬家后宽带频繁断网,尤其在高速下载或看高清视频时。排查发现路由器、运营商均无问题,最终确定是墙内埋设的网线故障。将设备移至弱电箱后问题解决,网速提升一倍。...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
Kimi K3 模型结构(1):序列维度(上),从线性注意力到 KDA
本文介绍Kimi K3模型中KDA(Kimi Delta Attention)的递推形式,从线性注意力、DeltaNet到Gated DeltaNet演进...
-
关于班主任不是主科老师的问题
初中开学家长会上,班主任由历史老师担任,引发家长疑虑。作者分析可能原因:学生数量高峰致师资不足,副科老师获机会;主科老师因班主任工作繁重不愿担任;副科老师...
-
CPU + GPU:为何AI平台工程是一个异构基础设施问题
AI基础设施不应只关注GPU,而应视为CPU、内存、存储和网络协同工作的整体系统。平台团队需匹配各阶段资源需求,而非孤立优化GPU。通过Kubernete...
-
How Figma Uses AI Agents for Security
The engineering team at software company Figma recently documented how they b...