DeepSeek通过系统级创新，用2048块H800和557.6万美元完成训练，成本仅为GPT-4o的二十分之一。它未发明新技术，但优化了MLA压缩KV缓存、MoE专家激活、FP8混合精度训练、DualPipe计算通信重叠等六项技术，显著降低内存和算力消耗，提升效率，突破芯片限制。

KTransformers v0.7.0发布，聚焦微调优化。支持直接加载原生FP8权重进行LoRA训练，将专家权重内存减半；新增AVX512 CPU后端，使AMD/x86平台可参与超大规模MoE微调；提供LoRA与全量微调选择，支持检查点保存恢复及CPU激活复用。附完整Cookbook指南，安装命令为pip install "ktransformers[sft]==0.7.0"。

Muse-Glimmer-30B是Meta推出的300亿参数多模态智能体模型，支持本地运行，融合推理、工具调用和多模态理解，性能优异。文章还介绍了HyperAI平台更新的数据集、教程及社区内容，涵盖人物画像、车辆检测、分子处理、语音识别等AI资源。

摩尔线程与智源众智FlagOS社区合作，在MTT S5000 GPU上快速适配DeepSeek-V4-Flash模型。该模型采用混合专家架构，参数量达到284B，支持百万token上下文。MTT S5000原生支持FP8精度，提升计算效率。双方通过编译优化和自动调优，提升了FP8和Sparse Attention算子的性能，降低延迟并提高吞吐量。未来将继续推进DeepSeek-V4-Pro的适配工作。

DeepSeek V3.1的发布引发市场关注，尽管性能提升不明显，但因UE8M0和FP8的参数精度适配国产芯片而受到重视。文章分析了UE8M0的计算精度演变及其对大模型的影响，强调国产算力芯片与国际技术的关系，并警示未来发展需谨慎。

国产大模型推理引擎「赤兔」已开源，支持多种GPU和国产芯片，显著降低部署成本并提升速度，旨在解决大模型落地的技术瓶颈，推动国内AI生态发展。

DeepSeek V3 通过 FP8 精度显著降低 GPU 内存和计算开销，提出 COAT 方法，优化内存利用率和训练速度，实现内存减少 1.54 倍，速度提升 1.43 倍，同时保持模型精度，支持大规模模型训练。

DeepSeek-V3模型基于Transformer架构，采用MLA和DeepSeekMoE设计，优化了专家划分和负载均衡策略。使用FP8混合精度框架进行训练，提高了效率和性能。DeepSeek的开源特性使中小企业和学术机构能够以低成本使用大模型，推动AI领域发展。

DeepGEMM 是一款开源的 FP8 GEMM 库，支持密集型和专家混合计算，在 Hopper GPU 上可实现超过 1350 TFLOPS 的性能。该库代码简洁，仅有 300 行，适合学习 FP8 矩阵乘法。DeepSeek 计划在 5 月前发布新一代 R2 模型，以提升代码生成能力。

DeepGEMM 是一个针对 FP8 通用矩阵乘法优化的库，支持普通和混合专家（MoE）分组 GEMM。它采用即时编译（JIT），无需预编译，能够根据设备动态调整代码，提高计算效率。DeepGEMM 设计简洁，核心代码约 300 行，特别适合现代 AI 计算，尤其在高效推理和低功耗场景中表现突出。