➡️
继续阅读
-
神所使用的 eGPU 并不完美
作者因轻薄本核显性能不足,购买华为显卡魔方外接显卡,但遇电源散热问题导致重启,遂转用机魂联盟扩展坞配RX 9060 XT显卡。性能提升显著,但雷电4带宽限...
-
Tether: Apple Continuity Like Experience Between iOS and Linux Desktop Machines
Zack Bartel has developed Tether, an open-source project designed to integrat...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
显存账本:每张卡上住着什么,搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类:权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定,激活随输入长度增长,优化空间...
-
看 NocoBase 的分支更新:AI 无代码平台进生产前,先把风险边界想清楚
NocoBase开源AI无代码平台更新,维护main、next、develop三分支,生产环境应用稳定版。文章强调AI无代码平台非黑盒,需关注配置导出、迁...
-
数据并行与 ZeRO:三级分片各省多少
本文介绍数据并行与ZeRO优化技术。ZeRO通过三级分片(优化器状态、梯度、权重)减少显存占用,前两级不增通信量,第三级需额外all-gather。ZeR...