➡️
继续阅读
-
Kubernetes v1.37:KubeletInUserNamespace(即无根模式)升级至Beta
Kubernetes v1.37将KubeletInUserNamespace特性升级至beta,允许节点组件以非root用户运行于Linux用户命名空间...
-
一分钟读论文:《数据喂饱了,算法还饿着》
清华大学团队研究发现,在线蒸馏中仅用一条训练query即可覆盖全量数据71.5%的学生状态,恢复大部分收益。瓶颈不在数据供给,而在算法吸收效率。多教师设定...
-
数据并行与 ZeRO:三级分片各省多少
本文介绍数据并行与ZeRO优化技术。ZeRO通过三级分片(优化器状态、梯度、权重)减少显存占用,前两级不增通信量,第三级需额外all-gather。ZeR...
-
并行策略总览:六个维度各切什么、怎么通信
本文介绍大模型并行训练的核心概念,将DP、TP、SP、PP、EP、CP六种并行方式按切分维度、显存减少、通信开销和等待关系列表对比。并行本质是切分模型并引...
-
JetBrains 官方深度指南:如何在 Go 中优雅地处理错误?从底层原理到现代最佳实践
Go语言将错误视为普通值,通过error接口处理。核心技巧包括:用fmt.Errorf和%w包装错误保留链条;用errors.Is、As及泛型AsType...
-
结构化应用数据的Dataclasses
本文介绍Python dataclass如何替代易出错的配置字典,构建结构化、可维护的数据模型。涵盖组合嵌套记录、用default_factory处理可变...