2美元/小时出租H100:GPU泡沫破灭前夜
原文中文,约9300字,阅读约需22分钟。
📝
内容提要
红杉资本报告称,AI产业需年产值超6000亿美元才能支付基础设施费用。OpenAI等公司在训练和推理上的支出超过收入,预计2026年亏损140亿美元。NVIDIA新芯片供不应求,GPU市场竞争激烈,H100算力供过于求,价格下降。市场趋势显示开放模型兴起,小型模型减少,算力需求下降。建议租用算力以避免投资亏损。
🎯
关键要点
-
红杉资本报告称,AI产业年产值需超6000亿美元才能支付基础设施费用。
-
OpenAI等公司在训练和推理上的支出超过收入,预计2026年亏损140亿美元。
-
NVIDIA新芯片供不应求,H100算力供过于求,价格下降。
-
市场趋势显示开放模型兴起,小型模型减少,算力需求下降。
-
建议租用算力以避免投资亏损。
-
H100的租赁价格在2024年初降至约2.85美元/小时,预计未来将继续下降。
-
微调现有开放权重模型比从零开始训练更经济,导致小型集群需求减少。
-
大型模型创建者转向自建集群,减少对公共云的依赖。
-
便宜的H100可能加速开放权重AI的采用浪潮。
-
投资者应考虑其他领域或股票市场以获得更好的回报率。
❓
延伸问答
AI产业年产值需要达到多少才能支付基础设施费用?
AI产业年产值需超过6000亿美元才能支付基础设施费用。
OpenAI等公司在训练和推理上的支出情况如何?
OpenAI等公司在训练和推理上的支出超过收入,预计2026年将亏损140亿美元。
H100的租赁价格目前是多少?
H100的租赁价格在2024年初降至约2.85美元/小时,预计未来将继续下降。
为什么建议租用算力而不是购买?
建议租用算力以避免投资亏损,尤其是在算力需求下降的情况下。
开放模型的兴起对市场有什么影响?
开放模型的兴起导致小型模型需求减少,算力需求下降,市场竞争加剧。
H100的投资回报率(ROI)如何计算?
H100的投资回报率计算考虑了租赁价格、使用率和市场价格变化等因素。
🏷️