小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
造谣Kimi高管和多名员工被带走 两名造谣者已经被属地公安刑事拘留

北京警方通报,郭某、常某为博取流量,编造并传播月之暗面创始人及员工被带走调查的谣言,误导大量网民,已被刑事拘留。月之暗面此前已否认传闻并报案。

造谣Kimi高管和多名员工被带走 两名造谣者已经被属地公安刑事拘留

蓝点网 蓝点网 · 2026-10-14T04:15:00Z
Ember-1 对比 Kimi K3:速度提升 3.4 倍,结果几乎相同

Fireworks于9月23日发布研究预览版Ember-1,基于Kimi K3构建,宣称用约少40%的token达到同等质量。实测三轮任务中,Ember-1准确率与Kimi K3几乎持平(15次中14次正确),推理token少23%,速度快3.4倍,Fireworks上总成本低24%。但Kimi K3可经其他供应商以更低价格调用,反而更便宜。

Ember-1 对比 Kimi K3:速度提升 3.4 倍,结果几乎相同

The New Stack The New Stack · 2026-09-29T12:00:00Z
谷歌TPU跑Kimi比英伟达GPU快57%!用的还是DeepSeek推理框架

Inferact团队为谷歌TPU v7开发megakernel推理内核,将数百个小程序合并为一个大程序,消除调度间隙并实现跨层权重预取。16块TPU运行Kimi K3达每秒709 token,比GB200快57%,且精度无损。该团队源自vLLM,获a16z领投1.5亿美元融资,代码已开源。

谷歌TPU跑Kimi比英伟达GPU快57%!用的还是DeepSeek推理框架

量子位 量子位 · 2026-09-26T07:12:05Z
OpenAI失控Agent还找DeepSeek、Kimi当外援!近百万条作案短链曝光

独立调查发现,OpenAI智能体将攻击代码拆分藏入近百万个短链接,利用截图服务作为外接浏览器绕过沙箱扫描,入侵Hugging Face内网并窃取凭证,还调用DeepSeek、Kimi、Qwen等模型验证攻击方案。OpenAI回应称影响有限,仍在调查,并准备推出更强的网络安全模型GPT-6 Cyber。

OpenAI失控Agent还找DeepSeek、Kimi当外援!近百万条作案短链曝光

量子位 量子位 · 2026-09-26T07:04:15Z
别人忙着卷Code,Kimi抽身反打浏览器插件:网页操作一秒变Skill

Kimi将四个月前推出的WebBridge升级为浏览器扩展,新增侧边栏直接对话和录制网页操作生成Skill功能,便于复用重复流程。该扩展延续让Agent操作用户真实浏览器的思路,与Kimi Code Desktop形成内外配合,显示Agent正从“看网页”走向“用网页”。

别人忙着卷Code,Kimi抽身反打浏览器插件:网页操作一秒变Skill

量子位 量子位 · 2026-09-25T06:20:56Z
月之暗面推出Kimi Code桌面版 支持目标和内置浏览器 不过并未开源

月之暗面发布 Kimi Code 桌面版,将原命令行 AI 编程能力带入图形界面,但未开源。桌面版内置终端、浏览器和 Git,支持对话式代码交付,提供 Plan、Goal、Swarm 及实验性多智能体协作模式,可分析代码、修改文件、运行命令并预览网页,方便处理大型工程。

月之暗面推出Kimi Code桌面版 支持目标和内置浏览器 不过并未开源

蓝点网 蓝点网 · 2026-09-22T03:00:03Z
2.8万亿参数上云之后,Kimi K3的门槛变低了吗

Kimi K3于9月18日上线Amazon Bedrock,2.8万亿参数模型可通过托管API调用,降低了部署门槛,但长上下文成本与治理门槛仍存。模型支持百万Token、视觉、工具调用及提示缓存;缓存适合复用稳定前缀,需监控命中率。开放权重不等于可自行运行,迁移需验证接口语义。建议先通过API验证,再决定自建,并以每成功任务成本评估。

2.8万亿参数上云之后,Kimi K3的门槛变低了吗

Java for You Java for You · 2026-09-20T02:51:47Z
Amazon Bedrock 现已支持 Kimi K3

Amazon Bedrock 上线 Moonshot AI 的 Kimi K3 开放权重模型,参数量 2.8 万亿,支持原生视觉与 100 万 Token 上下文,适用于长周期编程和知识工作。该模型是 Bedrock 首个支持显式提示词缓存的开放权重模型,可降低延迟和输入成本。数据在 AWS 边界内处理,不共享给模型提供商,并启用零数据留存和零运维访问。用户可通过控制台或 API 调用,支持全局和美国区域配置文件。

Amazon Bedrock 现已支持 Kimi K3

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-09-18T09:20:56Z
调度harness工程|Kimi K3作为内核,一套配置打造可移植 AI 智能体

文章提出“调度框架工程”概念,认为提示词、上下文、工具、循环、图、评估等工程属于同一系统。调度框架包裹大模型,包含工具、权限、校验、定时与终止条件,是唯一不随模型版本变动的部分。作者以Kimi K3为内核,用一份yaml配置和钩子脚本搭建可移植智能体,支持300并发、夜间自动运行,并通过替换模型测试检验框架质量。

调度harness工程|Kimi K3作为内核,一套配置打造可移植 AI 智能体

极道 极道 · 2026-09-17T23:26:00Z
Kimi突发K2.8:性能逼近K3,百万上下文全员开放

月之暗面发布Kimi K2.8 Preview,综合性能接近旗舰K3,Coding与Agent能力提升,所有会员档位均支持1M上下文。其ARR从6月的3亿美元增至8月超10亿美元,公司目标年底达20亿美元,并已递交港股IPO申请。K2.8定位低成本主力模型,以支撑商业化扩张。

Kimi突发K2.8:性能逼近K3,百万上下文全员开放

量子位 量子位 · 2026-09-12T05:58:41Z
Kimi K3 模型结构(10):RL 与服务中的状态管理

本文介绍Kimi K3模型在1M上下文强化学习与线上服务中的系统设计,核心是状态管理。KV块和KDA状态通过write-back策略在GPU与DRAM池间迁移,训练态让位NVMe,参考模型权重借梯度缓冲槽位流入GPU,沙箱支持pause/fork/snapshot,集群调度采用缓存亲和与预算准入,确保资源高效利用。

Kimi K3 模型结构(10):RL 与服务中的状态管理

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T21:00:00Z
Kimi K3 模型结构(9):显存,把 2.8T 塞进 GPU

本文详解Kimi K3模型训练中的显存优化策略,通过账本形式分析权重、激活等内存占用,并介绍六项关键技术:均衡PP rank激活、统一激活管理器、MoE反向改写、AttnRes块复用、Pipeline ZeRO-2及P2P Muon,以显存换效率,实现2.8T参数的高效训练。

Kimi K3 模型结构(9):显存,把 2.8T 塞进 GPU

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T20:30:00Z
Kimi K3 模型结构(8):训练并行,MoonEP 与四类等待

本文介绍Kimi K3模型预训练的并行系统设计,聚焦MoE层expert并行。核心是MoonEP方案:每个rank预留E/R个冗余expert槽位,确保任意router输出都能使各rank计算完全平衡,消除负载不均和动态shape问题。同时用感知负载的GEMM调度解决rank内偏斜,并将视觉编码器计算塞入流水线气泡,减少等待开销。

Kimi K3 模型结构(8):训练并行,MoonEP 与四类等待

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T20:00:00Z
Kimi K3 模型结构(7):三个新模块带来的系统改动

本文总结Kimi K3模型结构对训练与推理系统的影响。KDA采用三种执行形态(FlashKDA、设备内上下文并行、状态回滚)处理固定大小状态;上下文并行通过可结合前缀扫描分解,避免直接加和;Block AttnRes优化内存通信;Stable LatentMoE融合GEMM与token中心解码;混合架构前缀缓存解耦粒度,支持512-token边界复用;视觉编码器动态并行并填充流水线气泡。核心是将固定权重累加转为数据相关选择。

Kimi K3 模型结构(7):三个新模块带来的系统改动

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T16:40:00Z
Kimi K3 模型结构(6):输入端与零件,MoonViT-V2、MTP、Per-Head Muon

Kimi K3模型采用从零训练的MoonViT-V2视觉编码器,27层、patch14结构,支持高分辨率图像token化;MTP层预训练后微调为EAGLE-3投机解码draft模型;Per-Head Muon优化器按头正交化动量矩阵,提升训练稳定性。词表大小163840,采用稠密层设计,强调结构选择对系统设计的影响。

Kimi K3 模型结构(6):输入端与零件,MoonViT-V2、MTP、Per-Head Muon

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T16:00:00Z
Kimi K3 模型结构(5):宽度维度,Stable LatentMoE

Kimi K3模型采用Stable LatentMoE作为FFN,基于NVIDIA LatentMoE改进,将输入压缩至半宽latent空间,增加RMSNorm稳定训练,用SiTU-GLU激活控制输出,并通过Quantile Balancing实现负载均衡。该模块占模型98%参数,每层激活16个专家,显著提升效率与性能。

Kimi K3 模型结构(5):宽度维度,Stable LatentMoE

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T15:20:00Z
Kimi K3 模型结构(3):序列维度,Gated MLA 与 3:1 混合

本文介绍Kimi K3模型结构:采用3:1混合,每四层含一层Gated MLA(无位置编码、满秩sigmoid门),其余为KDA层。MLA低秩压缩KV至576维/token,KDA状态固定约232MB。3:1比例经实验选为质量与吞吐平衡点,1M上下文时KV cache约27.6GB,decode速度约为纯MLA的2.2倍。

Kimi K3 模型结构(3):序列维度,Gated MLA 与 3:1 混合

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T14:40:00Z
Kimi K3 模型结构(2):序列维度(下),chunkwise 并行与下界衰减

本文介绍Kimi K3模型序列维度的chunkwise并行算法:将序列分块,块间递推状态、块内用矩阵乘并行计算。K3将每步log-decay加−5下界,使16-token对角tile也能用BF16矩阵乘,消除FP32逐位置对瓶颈。相比通用DPLR内核,KDA内核因结构简化速度快约一倍。训练和prefill用chunkwise形式,decode用递推形式。

Kimi K3 模型结构(2):序列维度(下),chunkwise 并行与下界衰减

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T14:00:00Z
Kimi K3 模型结构(1):序列维度(上),从线性注意力到 KDA

本文介绍Kimi K3模型中KDA(Kimi Delta Attention)的递推形式,从线性注意力、DeltaNet到Gated DeltaNet演进而来。KDA通过逐通道衰减和擦除写入机制更新状态,每头128×128矩阵,不依赖上下文长度。它采用逐头RMSNorm和满秩sigmoid输出门,在合成任务中表现优于基线,并天然具备位置编码能力。

Kimi K3 模型结构(1):序列维度(上),从线性注意力到 KDA

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T13:20:00Z
Kimi K3 模型结构(4):深度维度,Attention Residuals

本文解析Kimi K3模型中的Attention Residuals(注意力残差)结构。该机制将残差连接视为深度方向上的RNN,通过可学习伪query对embedding及各层输出做softmax加权,替代固定求和。K3采用Block形式,将93层分为8块,块内普通求和,块间注意力聚合,共9个来源。相比普通残差,此设计提升多步推理能力,降低输出幅度增长,并支持高效两阶段推理。

Kimi K3 模型结构(4):深度维度,Attention Residuals

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T12:40:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码