➡️
继续阅读
-
Kimi K3 模型结构(4):深度维度,Attention Residuals
本文解析Kimi K3模型中的Attention Residuals(注意力残差)结构。该机制将残差连接视为深度方向上的RNN,通过可学习伪query对e...
-
九问ScienceDiscovery实现树搜索驱动RSI,加速科学发现,小时级写出通用积分器,低成本找出物理科学规律
openJiuwen社区的ScienceDiscovery平台通过树搜索自动迭代科研代码,无需训练模型或调整参数。它成功解决了振荡积分计算、高斯超几何函数...
-
华为云码道Space重磅公测:AI驱动泛研发提效,开启全民开发创造新时代!
华为云推出码道Space,一款面向泛研发场景的一站式AI工作台,融合AI专家与技能,覆盖软件开发、设计、数据分析、办公等场景,支持文档处理、全栈编码、代码...
-
Kimi K3 模型结构(7):结构决定系统
本文总结Kimi K3模型结构对训练与推理系统的影响。KDA采用三种执行形态(FlashKDA、设备内上下文并行、状态回滚)处理固定大小状态;上下文并行通...
-
Kimi K3 模型结构(6):输入端与零件,MoonViT-V2、MTP、Per-Head Muon
Kimi K3模型采用从零训练的MoonViT-V2视觉编码器,27层、patch14结构,支持高分辨率图像token化;MTP层预训练后微调为EAGLE...
-
EP224:MCP与RAG及AI代理的对比
An AI agent is kind of an AI system where the agent performs the task autonom...