➡️
继续阅读
-
并行策略总览:六个维度各切什么、怎么通信
本文介绍大模型并行训练的核心概念,将DP、TP、SP、PP、EP、CP六种并行方式按切分维度、显存减少、通信开销和等待关系列表对比。并行本质是切分模型并引...
-
Allora Labs证明变异AI模型群体性能超单个优化模型
Allora Labs研究表明,在AI模型群体中引入随机变异可提升整体性能,超越单个优化模型。变异群体在环境变化时表现更优,最佳情况下约80%优于优化群体...
-
英伟达买下Hugging Face的真正算盘
英伟达买下Hugging Face的真正算盘 英伟达为什么用129.3亿美金收购Hugging Face?这期从129303的Unicode表情与英伟达...
-
2026-09-06-前端与AI技术周报
本期覆盖 Electron 44.2、Bun 1.4、Vite 8.3 beta、Cursor 自托管机器与 Chrome 单轴滚动容器测试。
-
2026 09 06 HackerNews
Anthropic团队利用Claude AI在11天内完成了费马大定理的完整计算机验证,生成了1300万行Lean代码,证明了29500个中间定理,展示了...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...