9月9日，墨芯人工智能在2026外滩大会展示以专用稀疏推理芯片提升算力效能的技术路径。针对推理需求增长，墨芯通过算法、软件、硬件协同优化减少冗余计算，其推理集群已部署于四大片区数据中心，服务智能制造等场景。公司即将推出新一代SparsePrime计算卡，并参与行业标准研制、发起稀疏计算产学研联盟，共建AI算力生态。

本文介绍DeepSeek-V4模型结构中MoE层的四处改动：路由打分从sigmoid改为sqrt(softplus)以消除饱和；前三层用固定hash routing替代稠密层；增加极小序列级平衡损失；SwiGLU加硬截断防离群值。模型采用FP4量化，61层全MoE，每token激活6个expert，稀疏度64，总参数约49B。

本文介绍DeepSeek-V4模型中的压缩稀疏注意力（CSA）机制。KV缓存每4个token压缩为一条，1M上下文仍有26万条目，故用lightning indexer打分选择top-1024块。Indexer源自V3.2的DSA，采用64头128维、ReLU加权和FP4量化，通过KL散度模仿主注意力分布训练。V4将索引对象从token改为压缩块，query共享低秩latent。文章详述了indexer实现细节、一层CSA的完整维度流程及参数统计。

墨芯人工智能成立稀疏计算产学研联盟，旨在推动稀疏计算产业化，应对AI算力需求激增。联盟聚焦能效提升、研发转化和生态建设，联合高校与企业，攻克技术门槛高、生态难等挑战，使稀疏计算成为AI算力基础设施的关键支撑。

pgEdge ColdFront新增混合搜索功能，在PostgreSQL内结合密集向量与BM25稀疏向量，通过RRF融合结果。支持精确术语匹配和概念查询，可调p_alpha平衡权重。在pgEdge集群中，嵌入自动复制，实现高可用搜索，降低存储成本。

本文介绍CalibAtt，一种无需训练的加速文本到视频生成方法。它通过离线校准识别注意力中的稀疏和重复模式，在推理时跳过不重要的token连接，实现硬件高效计算。实验表明，在Wan 2.1等模型上，CalibAtt可提升端到端速度达1.58倍，同时保持视频质量和文本对齐。

大模型推理中的路由问题促使稀疏注意力机制的出现。路由的挑战在于平衡负载均衡与缓存感知，避免资源浪费。稀疏注意力通过减少KV块数量来缓解这一问题，但仍面临决策困难。Goodfire的研究提出了通过“知识指针”解决路由问题的新思路。总体而言，路由问题是分布式系统中的长期挑战。

本文讨论了稀疏嵌入在电子商务搜索中的优势，特别是相较于BM25的29%提升。稀疏嵌入通过保留单个词汇的信号，解决了密集嵌入模糊匹配的问题，确保了精确匹配。SPLADE模型通过学习相关词汇扩展查询，提升了搜索结果的准确性。后续文章将详细介绍训练和评估过程。

本文讨论了在电子商务搜索中微调稀疏嵌入的方法，重点介绍了使用亚马逊ESCI数据集训练SPLADE模型的过程。强调了数据格式化的重要性，以及通过SpladeLoss实现对比学习与稀疏性正则化的平衡。此外，使用Modal的持久存储解决了检查点管理问题，确保了训练过程的稳定性。

本文讨论了电子商务搜索中的稀疏嵌入微调，重点评估了SPLADE模型及其困难负样本挖掘。经过微调的SPLADE模型在nDCG@10指标上比BM25提高了28%，强调了领域特定训练的重要性。文章还分析了稀疏与密集向量的混合搜索效果，以及困难负样本挖掘（ANCE）对模型性能的提升。总体而言，微调显著改善了查询扩展、术语加权和电商词汇的表现。

本文探讨了电子商务搜索中的稀疏嵌入微调，分析了专业化与泛化的权衡。研究表明，专注于特定领域的微调在单一零售商中效果最佳，而多领域训练则在多个零售商中更具泛化能力。微调模型能够更好地理解特定领域的搜索模式和词汇，从而提升搜索效果。

本文介绍了如何使用qdrant-sparse-finetune工具化稀疏嵌入微调，以改善电子商务搜索。该工具简化了数据处理、模型训练和评估流程，支持自动化操作，提升用户体验。最终，用户可将模型快速发布到HuggingFace，实现28%的性能提升。

稀疏嵌入比稠密嵌入更适合电商搜索，能精确匹配型号、容量等关键细节。SPLADE利用Transformer结合对数饱和与最大池化，生成约3万维中仅数百非零的稀疏向量，实现词项加权、同义词扩展和噪声抑制，无需人工规则。在亚马逊ESCI数据集上，微调后nDCG@10达0.389，较BM25提升17%。教程涵盖Modal GPU训练、Qdrant评估、难负样本挖掘及产品化。

本文介绍使用Modal无服务器GPU训练SPLADE稀疏嵌入模型。基于亚马逊ESCI数据集，将Exact和Substitute对作为正样本，通过SpladeLoss结合对比学习与稀疏正则化，控制查询约30词、文档100-400词。产品文本以品牌括号和竖线分隔格式化。10万样本在A100上训练约6分钟、成本不足1美元，检查点存入持久卷，支持断连续跑和并行超参搜索。

本文研究稀疏嵌入模型的专精与泛化权衡。在Amazon ESCI上微调的SPLADE模型，域内比BM25提升17%，跨电商域提升8-10%，但在MS MARCO通用网页搜索上下降18%，出现灾难性遗忘。多域训练（ESCI、WANDS、Home Depot各5万对）可缓解：ESCI降4%，其他域升3-7%，MS MARCO恢复10%。建议单一零售商用领域微调，多零售商平台用多域训练，冷启动用现成SPLADE。

该系列前四部分从零构建了SPLADE稀疏嵌入微调流程，在Amazon ESCI数据集上比BM25提升17%。第五部分将其打包为开源工具qdrant-sparse-finetune，提供CLI和网页仪表盘，一条命令即可完成合成查询生成、训练、评估与HuggingFace发布，并支持Python API调用。

VidBee 是一款开源视频下载器，支持从 1000 多个网站下载视频和音频，界面简洁并具备自动订阅功能。FlashMLA 是高效的注意力核函数库，提升深度学习性能。UltraRAG 是低代码框架，简化检索增强生成流程。WeMD 是专为微信公众号创作者设计的 Markdown 编辑工具，支持多功能和跨平台使用。