小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

Unweight是一种无损压缩系统,能够将大型语言模型(LLM)的权重缩小15-22%,而不影响输出质量。该系统通过在快速的片上内存中解压权重,避免了主内存的延迟,从而提高推理效率。在Llama-3.1-8B模型上实现了约30%的多层感知器权重压缩,节省了约3GB显存,降低了推理成本。Unweight专为数据中心的H100 GPU优化,支持多种执行策略以适应不同工作负载。

Unweight:如何在不牺牲质量的情况下将大型语言模型压缩22%

The Cloudflare Blog
The Cloudflare Blog · 2026-04-17T13:00:00Z
NVIDIA H100 GPU在CoreWeave的AI云平台上实现Graph500基准测试的破纪录表现

NVIDIA在Graph500基准测试中以每秒410万亿边的速度获胜,使用8192个H100 GPU处理2.2万亿顶点和35万亿边,性能是其他方案的两倍,推动高性能计算的发展。

NVIDIA H100 GPU在CoreWeave的AI云平台上实现Graph500基准测试的破纪录表现

NVIDIA Blog
NVIDIA Blog · 2025-12-10T20:56:53Z
李飞飞世界模型大更新! 实时生成 3D 世界,只要一块 GPU

李飞飞的实验室推出了RTFM技术,能够实时生成3D世界模型。与传统模型不同,RTFM可以从一张图片生成可交互场景,并且仅需一块H100 GPU高效运行。该技术通过学习大量视频数据,具备复杂的视觉效果和空间记忆,允许用户在生成的世界中持续互动。

李飞飞世界模型大更新! 实时生成 3D 世界,只要一块 GPU

爱范儿
爱范儿 · 2025-10-17T05:49:55Z

李飞飞推出的新模型RTFM可在单张H100 GPU上实时运行,具备持久性和3D一致性。该模型采用自回归扩散变换器架构,能够从2D图像生成新视图,支持无限时长的交互,推动生成式世界建模的发展。

李飞飞发布全新世界模型,单GPU就能跑!

量子位
量子位 · 2025-10-17T04:39:35Z
芯片竞赛:微软、Meta、谷歌与Nvidia争夺AI芯片霸主地位

由于需求超过供应,Nvidia的H100 GPU变得抢手和昂贵,成为首家市值万亿美元的公司。微软、Meta、OpenAI、亚马逊和谷歌等开始研发自己的AI处理器。Nvidia和AMD、英特尔等芯片制造商正在进行新一轮的AI芯片竞争。

芯片竞赛:微软、Meta、谷歌与Nvidia争夺AI芯片霸主地位

The Verge
The Verge · 2025-03-18T19:04:21Z
美欧亚三洲开发者联手,全球首个组团训练的大模型来了,全流程开源

Prime Intellect于11月22日宣布完成去中心化训练的10B模型INTELLECT-1,并开源相关资源。该模型在112台H100 GPU上训练,展示了去中心化训练的潜力。尽管汉语能力较弱,但整体获得AI社区积极反馈。未来,Prime Intellect计划扩大模型规模,推动开源AGI发展。

美欧亚三洲开发者联手,全球首个组团训练的大模型来了,全流程开源

机器之心
机器之心 · 2024-12-02T05:29:02Z
[译] Meta/Facebook 超大规模 AI/GPU 基础设施设计(2024)

Meta正在构建两个大规模AI集群,每个集群由24,576张H100 GPU组成,以支持未来的AI任务。这些集群基于之前Research SuperCluster的经验,采用自研硬件和网络架构,优化性能和灵活性。Meta还与Hammerspace合作开发并行网络文件系统,提升调试效率。到2024年底,Meta计划拥有35万张H100 GPU,以满足不断增长的AI需求。

[译] Meta/Facebook 超大规模 AI/GPU 基础设施设计(2024)

ARTHURCHIAO'S BLOG
ARTHURCHIAO'S BLOG · 2024-04-21T00:00:00Z

谷歌推出TPU v5p人工智能加速器,比之前版本快2.8倍,与英伟达的H100 GPU相媲美。TPU v5p提供4,800Gbps吞吐量和95GB高带宽内存。需要更详细的基准测试来确定与H100 GPU的速度。

谷歌最新AI芯片训练大模型速度快2.8倍

极道
极道 · 2024-01-28T00:55:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码