2美元/小时出租H100:GPU泡沫破灭前夜

💡 原文中文,约9300字,阅读约需22分钟。
📝

内容提要

红杉资本报告称,AI产业需年产值超6000亿美元才能支付基础设施费用。OpenAI等公司在训练和推理上的支出超过收入,预计2026年亏损140亿美元。NVIDIA新芯片供不应求,GPU市场竞争激烈,H100算力供过于求,价格下降。市场趋势显示开放模型兴起,小型模型减少,算力需求下降。建议租用算力以避免投资亏损。

🎯

关键要点

  • 红杉资本报告称,AI产业年产值需超6000亿美元才能支付基础设施费用。

  • OpenAI等公司在训练和推理上的支出超过收入,预计2026年亏损140亿美元。

  • NVIDIA新芯片供不应求,H100算力供过于求,价格下降。

  • 市场趋势显示开放模型兴起,小型模型减少,算力需求下降。

  • 建议租用算力以避免投资亏损。

  • H100的租赁价格在2024年初降至约2.85美元/小时,预计未来将继续下降。

  • 微调现有开放权重模型比从零开始训练更经济,导致小型集群需求减少。

  • 大型模型创建者转向自建集群,减少对公共云的依赖。

  • 便宜的H100可能加速开放权重AI的采用浪潮。

  • 投资者应考虑其他领域或股票市场以获得更好的回报率。

延伸问答

AI产业年产值需要达到多少才能支付基础设施费用?

AI产业年产值需超过6000亿美元才能支付基础设施费用。

OpenAI等公司在训练和推理上的支出情况如何?

OpenAI等公司在训练和推理上的支出超过收入,预计2026年将亏损140亿美元。

H100的租赁价格目前是多少?

H100的租赁价格在2024年初降至约2.85美元/小时,预计未来将继续下降。

为什么建议租用算力而不是购买?

建议租用算力以避免投资亏损,尤其是在算力需求下降的情况下。

开放模型的兴起对市场有什么影响?

开放模型的兴起导致小型模型需求减少,算力需求下降,市场竞争加剧。

H100的投资回报率(ROI)如何计算?

H100的投资回报率计算考虑了租赁价格、使用率和市场价格变化等因素。

🏷️

标签

➡️

继续阅读