人工智能公司Anthropic与SpaceXAI签署了价值250亿美元的Colossus2超级计算机租赁合同,以解决算力短缺问题。尽管双方在数据安全上采取了严格措施,但机房使用燃气涡轮发电引发了环境污染争议,居民对此表示强烈不满。
华为的升腾384超节点在算力上部分超越英伟达的NVL72,但在稳定性和兼容性方面仍存在不足。该设备采用自主架构,支持大模型训练,但光模块故障率高,可能导致训练不稳定。整体来看,升腾384为国内算力中心提供了新选择,推动自主可控的信创产业发展。
Amazon EC2 P6e-GB200 UltraServers 正式发布,搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU,提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。
SGLang与NVIDIA合作发布了GB200 NVL72系统的初步基准测试,LLM推理吞吐量提升2.7倍。优化措施包括FP8矩阵乘法和加速注意力内核,增强了多GPU性能。该系统适用于大规模AI训练和推理,未来将进一步优化预填充延迟和内存利用率。
英伟达CEO黄仁勋在GTC巴黎演讲中指出,量子计算正处于拐点,预计几年内可实现实际应用。他推出了CUDA-Q,支持经典计算机模拟量子计算并与量子计算机协作。同时,英伟达强调物理AI的重要性,认为将引领工业革命,带来多个领域的市场机遇。
NVIDIA GB200 NVL72系统通过高带宽互连,显著提升量子算法开发、量子比特设计、数据生成、混合应用和错误纠正等工作负载的效率,推动量子计算的发展。
AI hyperscaler CoreWeave宣布Cohere、IBM和Mistral AI成为首批客户,获得NVIDIA GB200 NVL72系统和全栈云服务,推动AI模型开发。CoreWeave利用NVIDIA Grace Blackwell超级芯片创下AI推理新纪录,继续引领AI云解决方案市场。
NVIDIA的超级芯片架构通过CUDA-X库实现计算工具加速,速度提升可达11倍,计算规模扩大5倍。新架构优化了CPU与GPU的协同,提升工程模拟和设计优化效率,助力科学研究。cuDSS库显著提高电磁模拟性能,GB200和GH200架构支持更大规模的量子计算模拟,提升量子算法执行效率。
马斯克为加速xAI产品研发,提前以10.8亿美元预购英伟达的GB200芯片,尽管交付推迟至明年。GB200性能是H100的五倍,马斯克希望借此超越OpenAI,提升xAI竞争力。xAI预计推出新AI应用,与ChatGPT竞争。尽管GB200尚未量产,马斯克的抢购显示出对算力资源的迫切需求。
在英伟达GTC 2023上,黄仁勋宣布AI时代的到来。今年的GTC AI大会将有超过900场会议和20多场技术讲座。英伟达推出了计算光刻库cuLitho,与台积电和新思科技合作,加快芯片制造。英伟达还发布了Blackwell平台、GB200 Grace Blackwell芯片、DGX SuperPOD AI超级计算机、DGX B200计算平台、X800系列网络交换机、量子计算云服务、气候数字孪生云平台Earth-2、生成式AI微服务等产品。这些产品将推动AI行业的发展。
英伟达推出了Blackwell B200 GPU和GB200超级芯片,提供了更高的性能和能效。B200 GPU提供20 petaflops的FP4算力,而GB200则将两个GPU与一个Grace CPU结合,性能提升30倍。英伟达的目标是拥有更大设计的公司,如GB200 NVL72,提供720 petaflops的AI训练性能。亚马逊、谷歌、微软和甲骨文计划在其云服务中提供NVL72机架。英伟达的系统可以扩展到数万个GB200超级芯片。
完成下面两步后,将自动完成登录并继续当前操作。