萨姆·奥特曼称,内存放在数据中心比放在你的桌面上更好

萨姆·奥特曼称,内存放在数据中心比放在你的桌面上更好

💡 原文英文,约700词,阅读约需3分钟。
📝

内容提要

OpenAI首席执行官奥特曼表示,全球DRAM供应紧张,将内存用于个人电脑而非数据中心并不合理,因为个人设备利用率仅约5%,而云端可实现最大化利用。OpenAI等云服务商已与三星、SK海力士签订长期协议,预订未来数年大量内存产能,导致笔记本、手机等消费电子产品价格上涨。

🔎

延伸解读

“利用率”之争:本地推理的直觉与云端现实

奥特曼反驳了一种常见预期:开源模型普及后,人们可以在本地电脑上运行AI,从而减少对数据中心的依赖。他的依据是利用率——个人设备上的DRAM大部分时间闲置,仅约5%的时间被使用,而云端可以最大化利用有限的内存供应。这一说法将讨论从“能否本地运行”转向“全球内存如何分配更有效率”,但文章并未给出5%这一数字的具体测算方法。

长期协议如何传导为消费电子涨价

文章指出,三星和SK海力士已与云服务运营商及OpenAI的Stargate等项目签订长期协议,预订了未来数年全球相当大一部分内存产能。云厂商愿意投入巨额资金采购芯片,正是当前笔记本、手机等消费电子产品价格上涨的原因之一。这意味着内存短缺不只是短期波动,消费端要与数据中心争夺同一批产能。

短缺时间线:文章给出的参照

虽然正文聚焦奥特曼的表态,但页面相关报道提供了时间参照:三星预计内存短缺至少持续到2028年,SK海力士则称短缺将持续到2030年。这些预测来自存储厂商自身,可作为理解云厂商为何急于签订多年期协议的背景,但也应视为厂商判断而非既定事实。

❓

Q&A

为什么萨姆·奥特曼认为内存放在数据中心比放在个人电脑上更好?

奥特曼表示,个人电脑中的DRAM利用率仅约5%,而云端可以实现最大化利用。在全球DRAM供应紧张的情况下,将有限的内存分散在个人设备上是一种糟糕的全球分配方式。

奥特曼是在什么场合发表关于内存分配的评论的?

奥特曼是在参加Cheeky Pint播客节目时发表上述评论的,当时他被问及供应链短缺(如持续的内存短缺)问题。

全球DRAM供应紧张对消费电子产品价格有什么影响?

由于三星和SK海力士等内存公司与云服务运营商及OpenAI的Stargate等项目签订了长期协议,预订了未来数年大量内存产能,导致笔记本电脑、手机等消费电子产品价格上涨。

哪些公司已经预订了未来几年的内存产能?

三星和SK海力士已与云服务运营商以及OpenAI的Stargate等项目签订长期协议,预留了未来数年全球大部分内存产出。

奥特曼如何看待本地推理需要大量内存的观点?

奥特曼指出,很多人认为开源模型可以在本地电脑上运行,因此不需要数据中心的大量内存。但他认为从全球分配角度看,让每个人电脑里都存放大量DRAM却只使用5%的时间是非常糟糕的,在供应受限的环境下应追求云端最大化利用。

内存短缺预计会持续到什么时候?

根据文章中的相关链接,三星预计内存短缺至少持续到2028年,SK海力士则表示短缺将持续到2030年。

🏷️

标签

➡️

继续阅读