SK海力士于2026年7月10日在纳斯达克上市，募资265亿美元，创下境外企业IPO纪录。作为高带宽内存(HBM)的主要供应商，SK海力士在AI浪潮中崛起，市值突破1万亿美元，成为韩国市值最高的公司。其成功源于对HBM的持续投资和技术创新。
本文讨论了Kernel Fusion技术，强调其在减少HBM往返和提升memory-bound算子性能方面的重要性。通过将相邻算子合并为一个kernel，减少数据搬运，实验证明加速比随融合链长度线性增长。融合类型包括逐元素融合和归约融合，但在中间结果复用和资源不足的情况下需谨慎使用。现代编译器如PyTorch和TensorFlow自动化融合过程，以提高效率。
JEDEC发布的新标准SPHBM4使HBM4在标准封装中实现，信号引脚减少至五分之一，传输速度提升四倍，内存与计算芯片间距可达20毫米。该标准降低了成本，促进了玻璃基板的应用，反映出AI芯片行业在追求性能的同时开始关注成本和可及性。存储厂商和AI生态系统的反应将决定该标准的实际应用。
华为副总裁陈林透露，昇腾950DT芯片将于8月上线，算力翻倍，内存带宽提升至4TB/s。950PR和950DT两个版本分别针对不同市场需求，前者降低成本，后者专注高带宽场景。DeepSeek将优先部署950DT，预计在8月推出新版本，进一步提升AI模型能力。
英伟达计划通过Vera Rubin架构实现GPU直接管理存储，形成HBM、HBF和SSD三层内存结构。这将提升AI服务器性能，减轻CPU负担，闪存厂商将受益。HBF适合存储不常修改的模型参数，未来可能改变内存市场格局。预计2026年开始商业化。
三星即将进行大规模罢工，原因是员工对薪酬和奖金制度不满。工会要求将营业利润的15%纳入奖金池，但三星担心这会影响未来投资。同时，SK海力士因提供更优厚的奖金吸引了大量三星员工，导致人才流失风险加大。这次罢工反映了AI时代下劳资关系的紧张，三星需在盈利与员工利益之间找到平衡。
本文探讨了GPU在大模型训练中的优势，特别是与CPU的对比。GPU通过大量弱核和简化控制实现高算力密度，适合处理大规模矩阵运算。分析了GPU的执行模型、内存层级及Tensor Core的演进，强调带宽与算力平衡对性能的影响，并提出了优化策略以提高GPU在解码阶段的利用率。
Imec首次应用系统技术协同优化（STCO）方法，对基于GPU的3D HBM集成方案进行热分析，成功将GPU峰值温度从140.7°C降至70.8°C，有效解决了AI应用中的热瓶颈问题。
美光宣布将退出消费级内存和固态硬盘市场，英睿达品牌将于明年2月停止销售。公司将资源转向高价值的企业级HBM内存，以满足人工智能数据中心需求并提升利润。
三星电子、SK海力士和美光计划于2025年停止生产DDR4/DDR3内存，转向更高利润的DDR5和HBM内存。这一转变可能导致DDR4/DDR3价格上涨，影响市场和用户。尽管DDR5需求疲软，其价格仍在上涨。
三星未能通过测试，未成为英伟达的HBM3内存芯片供应商，落后于SK海力士和美光。
英伟达否认与三星合作停止的谣言，三星称其为恶意传播。英伟达最初采购的HBM内存由SK海力士供应，今年开始接受三星供应的HBM3内存。
完成下面两步后，将自动完成登录并继续当前操作。
