➡️
继续阅读
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
DeepSeek采购160000颗华为AI芯片:专攻推理不碰训练
DeepSeek计划采购16万颗华为昇腾950DT芯片,用于内蒙古乌兰察布数据中心的推理任务,而非训练,订单约25.6亿美元。此举旨在降低成本、规避美国管...
-
Fairphone 6 Plus:我们急需的中端手机
The Fairphone 6 Plus feels like an extremely average midrange Android phone a...
-
竞技宝可梦现已登陆手机,但夺冠仍需Switch
To get started with competitive Pokémon battles, all you need is your phone. ...
-
穿透屋顶的High Kick
该文回顾韩剧《穿透屋顶的High Kick》,聚焦黄静茵因赔鞋钱当家教,与李家结缘的搞笑故事。作者感叹剧中不同年龄角色的性格表现,并反思自己31岁时的生活...
-
2026.9.6
作者在劳动节长周末优化了Playdate版《epoch》游戏。该游戏为全3D程序生成,因硬件无GPU,采用软件渲染、四叉树和Z排序,仅绘制面向相机的三角形...