➡️
继续阅读
-
SenseNova-U1.5-8B-MoT 统一生成与理解,解锁原生多模态创作;DeepSeek-V4-Flash-Vision-Exp 拓展视觉理解新能力
商汤科技发布SenseNova-U1.5-8B-MoT统一多模态模型,支持图像生成、编辑与理解,提升4K画质和文字渲染。HyperAI官网更新数据集、教程...
-
一台 3D 打印机,为什么藏着 GPT-6 最大的野心?|硬哲学
GPT-6 Astra宣传片展示了从画黄色圆圈到生成3D模型,最终通过拓竹P1S打印机变成实物的过程,体现AI从屏幕内容生成进入现实操作。文章认为GUI是...
-
smolts:面向教学语言的教学型IDE
作者开发了名为smolts的教学IDE,用于SMoL教学语言,灵感来自Stacker项目。该IDE支持S表达式编程,可逐步执行并可视化显示continua...
-
DeepSeek-V4 模型结构(7):结构决定系统
DeepSeek-V4模型采用混合压缩注意力(mHC),将KV缓存分为状态缓存和分页缓存,分别管理滑窗KV与压缩条目。上下文并行通过点对点通信和all-g...
-
DeepSeek-V4 模型结构(6):优化器与稳定性,Muon
DeepSeek-V4采用Muon优化器,通过谱范数最速下降实现逐矩阵正交化,用Newton-Schulz迭代逼近SVD,混合系数提升小奇异值并精确稳定大...
-
Kimi K3 模型结构(8):训练并行,一步训练里谁在等谁
本文介绍Kimi K3模型预训练的并行系统设计,聚焦MoE层expert并行。核心是MoonEP方案:每个rank预留E/R个冗余expert槽位,确保任...