内存价格飙升正推高iPhone等电子产品售价。AI需求加剧了DRAM和NAND短缺,三大厂商将产能转向高利润的HBM芯片,导致消费级内存成本暴涨。新建晶圆厂需数年才能投产,预计短缺持续至2027年后,价格将维持高位,苹果等厂商被迫提价。
台达在第十四届半导体设备材料展上展示全链路“芯”智造方案,聚焦工艺爬坡、良率提升等痛点,推出精准温控、裸晶取放、晶圆盒无人化运送等工艺优化方案,以及设备互联、数字孪生、质量管理等智能升级技术,并展出适配先进封装和HBM制造的硬件,配套智慧供电和AI厂务系统,保障产线稳定高效运行。
AI时代,芯片性能瓶颈从算力转向内存带宽。苹果、小米、英伟达等厂商通过统一内存、3D堆叠、HBM等技术提升数据传输速度,以应对大模型对数据的巨大需求。这源于“内存墙”问题,即算力增速远超内存带宽,导致处理器等待数据。未来芯片设计需让数据少走弯路,硬件物理法则仍不可逃避。
NVIDIA推出NVHBM高带宽内存技术,将内存控制器集成到HBM堆栈中,提升30%带宽、降低15%功耗,并释放XPU芯片面积。亚马逊Annapurna Labs将率先合作,用于Trainium4芯片,支持NVLink Fusion架构,加速定制AI芯片开发。
80张RTX 5090游戏显卡通过25GbE普通网线成功运行2.8万亿参数的Kimi K3模型,速度达每秒20个词元。此举摆脱了对昂贵HBM芯片的依赖,利用GDDR7显存和MXFP4压缩格式,大幅降低运行成本,使实验室和初创公司能负担。虽需解决功耗、散热和网络延迟问题,但开放权重模型普及意义重大,推动AI基础设施平民化。
SK海力士于2026年7月10日在纳斯达克上市,募资265亿美元,创下境外企业IPO纪录。作为高带宽内存(HBM)的主要供应商,SK海力士在AI浪潮中崛起,市值突破1万亿美元,成为韩国市值最高的公司。其成功源于对HBM的持续投资和技术创新。
本文讨论了Kernel Fusion技术,强调其在减少HBM往返和提升memory-bound算子性能方面的重要性。通过将相邻算子合并为一个kernel,减少数据搬运,实验证明加速比随融合链长度线性增长。融合类型包括逐元素融合和归约融合,但在中间结果复用和资源不足的情况下需谨慎使用。现代编译器如PyTorch和TensorFlow自动化融合过程,以提高效率。
JEDEC发布的新标准SPHBM4使HBM4在标准封装中实现,信号引脚减少至五分之一,传输速度提升四倍,内存与计算芯片间距可达20毫米。该标准降低了成本,促进了玻璃基板的应用,反映出AI芯片行业在追求性能的同时开始关注成本和可及性。存储厂商和AI生态系统的反应将决定该标准的实际应用。
华为副总裁陈林透露,昇腾950DT芯片将于8月上线,算力翻倍,内存带宽提升至4TB/s。950PR和950DT两个版本分别针对不同市场需求,前者降低成本,后者专注高带宽场景。DeepSeek将优先部署950DT,预计在8月推出新版本,进一步提升AI模型能力。
英伟达计划通过Vera Rubin架构实现GPU直接管理存储,形成HBM、HBF和SSD三层内存结构。这将提升AI服务器性能,减轻CPU负担,闪存厂商将受益。HBF适合存储不常修改的模型参数,未来可能改变内存市场格局。预计2026年开始商业化。
三星即将进行大规模罢工,原因是员工对薪酬和奖金制度不满。工会要求将营业利润的15%纳入奖金池,但三星担心这会影响未来投资。同时,SK海力士因提供更优厚的奖金吸引了大量三星员工,导致人才流失风险加大。这次罢工反映了AI时代下劳资关系的紧张,三星需在盈利与员工利益之间找到平衡。
本文探讨了GPU在大模型训练中的优势,特别是与CPU的对比。GPU通过大量弱核和简化控制实现高算力密度,适合处理大规模矩阵运算。分析了GPU的执行模型、内存层级及Tensor Core的演进,强调带宽与算力平衡对性能的影响,并提出了优化策略以提高GPU在解码阶段的利用率。
Imec首次应用系统技术协同优化(STCO)方法,对基于GPU的3D HBM集成方案进行热分析,成功将GPU峰值温度从140.7°C降至70.8°C,有效解决了AI应用中的热瓶颈问题。
美光宣布将退出消费级内存和固态硬盘市场,英睿达品牌将于明年2月停止销售。公司将资源转向高价值的企业级HBM内存,以满足人工智能数据中心需求并提升利润。
三星电子、SK海力士和美光计划于2025年停止生产DDR4/DDR3内存,转向更高利润的DDR5和HBM内存。这一转变可能导致DDR4/DDR3价格上涨,影响市场和用户。尽管DDR5需求疲软,其价格仍在上涨。
三星未能通过测试,未成为英伟达的HBM3内存芯片供应商,落后于SK海力士和美光。
英伟达否认与三星合作停止的谣言,三星称其为恶意传播。英伟达最初采购的HBM内存由SK海力士供应,今年开始接受三星供应的HBM3内存。
完成下面两步后,将自动完成登录并继续当前操作。