硅谷AI算力争夺加剧。Anthropic向SpaceX购买算力，马斯克成为GPU中间商；谷歌因算力不足流失顶尖研究员Shazeer至OpenAI；初创公司被迫签高价长约或全球寻找算力，顶级VC亲自囤积GPU。H100租赁价一年涨近40%，算力正成为AI时代准入门槛，强化大公司优势。

vLLM 通过集成 PyNvVideoCodec 正式支持 NVIDIA GPU 硬件视频解码（NVDEC），将视频解码从 CPU 迁移至 GPU，解决视频描述任务的 CPU 瓶颈。在 8 块 H100 配置下，吞吐量达 CPU 解码两倍以上；此前不足 4 卡即受制于 CPU，现瓶颈消除。该功能随标准 CUDA 版 vLLM 提供，需安装 PyNvVideoCodec==2.0.4，并建议先启动 CUDA MPS 守护进程。

NVIDIA推出BioNeMo推理运行时，通过内核选择、CUDA Graph和Ray流水线优化蛋白结构预测。在8张H100上，Boltz-2吞吐达每GPU小时5.85万残基，较公开实现提升2.9倍。文章强调科学AI吞吐应以成功结构数和完整流程时间衡量，需关注CPU预处理、写盘和失败率等瓶颈。

Cerebras推出的晶圆级芯片拥有90万个核心，速度比H100快200倍。每个核心仅有48KB内存，采用消息驱动编程，适合稀疏计算和图神经网络。尽管编程复杂，但在推理任务上表现出色，能显著降低成本，吸引大公司使用。

七家中国AI芯片公司已推出H100级产品，华为、阿里和百度为市场主导者，沐曦和摩尔线程等为新兴企业。华为昇腾占据49%市场份额，阿里平头哥和百度昆仑芯紧随其后。国产芯片逐渐取代英伟达，市场份额从95%降至55%。FlagOS软件栈促进不同芯片的兼容性，推动国产AI生态的发展。

一千台599美元的Mac mini可以替代昂贵的H100服务器，具有低成本和低功耗的优势。Mac mini的统一内存架构提升了AI模型的运行效率，适合本地部署。相比之下，云服务费用高昂，使用Mac mini搭建AI服务器简单易行，能有效节省成本。

学习CUDA编程，掌握NVIDIA Hopper GPU的WGMMA管道和Cutlass优化，适用于大规模矩阵乘法和现代AI。课程包括多GPU扩展及训练万亿参数模型所需的NCCL原语，需具备C++和线性代数基础。

NVIDIA在Graph500基准测试中以每秒410万亿边的速度获胜，使用8192个H100 GPU处理2.2万亿顶点和35万亿边，性能是其他方案的两倍，推动高性能计算的发展。

美国初创公司Starcloud计划于2025年发射搭载英伟达H100 GPU的Starcloud-1卫星，该卫星将利用太阳能供电并在太空中运行。尽管太空散热条件良好，但辐射散热效率低，故障维修困难，可能引发太空垃圾问题。

NVIDIA HGX H100 GPU Droplets已在阿姆斯特丹数据中心上线，满足高性能计算需求。WindBorne Systems利用其进行实时预测模型训练，表现优于其他云服务。该服务易于使用，支持快速部署和安全合规，且价格合理。

2025年，Meta LLaMA项目开发者因中国团队DeepSeek的论文震惊，后者仅用2000张GPU便超越了Meta的12万张GPU模型。项目失败后，扎克伯格试图通过收购和高薪吸引人才，但内部斗争频繁，导致实验室混乱。

华为的升腾384超节点在算力上部分超越英伟达的NVL72，但在稳定性和兼容性方面仍存在不足。该设备采用自主架构，支持大模型训练，但光模块故障率高，可能导致训练不稳定。整体来看，升腾384为国内算力中心提供了新选择，推动自主可控的信创产业发展。

GROK4是马斯克推出的最新AI大模型，具备强大的推理和生成能力，采用20万张显卡进行强化学习，显著提升科研效率。在“人类终极测试”中表现优异，超越其他模型。尽管日常任务处理能力一般，但在科研领域表现突出。未来将提供企业私有部署服务，市场竞争激烈。

AMD正在发送两台MI300X设备，显示其软件发展前景良好。与NVIDIA相比，AMD被低估，未来AI需求将推动其增长，MI300X有望超越H100。

新加坡近期实施“晶盾行动”，查获22个半导体贸易节点，拘留9名涉案人员，涉及伪造文件和走私英伟达芯片。新法案将加强对AI芯片的监管，要求严格验证终端用户，提升查验效率，可能影响全球GPU供应链，尤其是中国市场的芯片流入。