内容提要
OpenAI首席执行官奥特曼表示,全球DRAM供应紧张,将内存用于个人电脑而非数据中心并不合理,因为个人设备利用率仅约5%,而云端可实现最大化利用。OpenAI等云服务商已与三星、SK海力士签订长期协议,预订未来数年大量内存产能,导致笔记本、手机等消费电子产品价格上涨。
延伸解读
“利用率”之争:本地推理的直觉与云端现实
奥特曼反驳了一种常见预期:开源模型普及后,人们可以在本地电脑上运行AI,从而减少对数据中心的依赖。他的依据是利用率——个人设备上的DRAM大部分时间闲置,仅约5%的时间被使用,而云端可以最大化利用有限的内存供应。这一说法将讨论从“能否本地运行”转向“全球内存如何分配更有效率”,但文章并未给出5%这一数字的具体测算方法。
长期协议如何传导为消费电子涨价
文章指出,三星和SK海力士已与云服务运营商及OpenAI的Stargate等项目签订长期协议,预订了未来数年全球相当大一部分内存产能。云厂商愿意投入巨额资金采购芯片,正是当前笔记本、手机等消费电子产品价格上涨的原因之一。这意味着内存短缺不只是短期波动,消费端要与数据中心争夺同一批产能。
短缺时间线:文章给出的参照
虽然正文聚焦奥特曼的表态,但页面相关报道提供了时间参照:三星预计内存短缺至少持续到2028年,SK海力士则称短缺将持续到2030年。这些预测来自存储厂商自身,可作为理解云厂商为何急于签订多年期协议的背景,但也应视为厂商判断而非既定事实。
Q&A
为什么萨姆·奥特曼认为内存放在数据中心比放在个人电脑上更好?
奥特曼表示,个人电脑中的DRAM利用率仅约5%,而云端可以实现最大化利用。在全球DRAM供应紧张的情况下,将有限的内存分散在个人设备上是一种糟糕的全球分配方式。
奥特曼是在什么场合发表关于内存分配的评论的?
奥特曼是在参加Cheeky Pint播客节目时发表上述评论的,当时他被问及供应链短缺(如持续的内存短缺)问题。
全球DRAM供应紧张对消费电子产品价格有什么影响?
由于三星和SK海力士等内存公司与云服务运营商及OpenAI的Stargate等项目签订了长期协议,预订了未来数年大量内存产能,导致笔记本电脑、手机等消费电子产品价格上涨。
哪些公司已经预订了未来几年的内存产能?
三星和SK海力士已与云服务运营商以及OpenAI的Stargate等项目签订长期协议,预留了未来数年全球大部分内存产出。
奥特曼如何看待本地推理需要大量内存的观点?
奥特曼指出,很多人认为开源模型可以在本地电脑上运行,因此不需要数据中心的大量内存。但他认为从全球分配角度看,让每个人电脑里都存放大量DRAM却只使用5%的时间是非常糟糕的,在供应受限的环境下应追求云端最大化利用。
内存短缺预计会持续到什么时候?
根据文章中的相关链接,三星预计内存短缺至少持续到2028年,SK海力士则表示短缺将持续到2030年。