2美元/小时出租H100：GPU泡沫破灭前夜
💡
原文中文，约9300字，阅读约需22分钟。
📝
内容提要
红杉资本报告称，AI产业需年产值超6000亿美元才能支付基础设施费用。OpenAI等公司在训练和推理上的支出超过收入，预计2026年亏损140亿美元。NVIDIA新芯片供不应求，GPU市场竞争激烈，H100算力供过于求，价格下降。市场趋势显示开放模型兴起，小型模型减少，算力需求下降。建议租用算力以避免投资亏损。
🎯
关键要点
- 红杉资本报告称，AI产业年产值需超6000亿美元才能支付基础设施费用。
- OpenAI等公司在训练和推理上的支出超过收入，预计2026年亏损140亿美元。
- NVIDIA新芯片供不应求，H100算力供过于求，价格下降。
- 市场趋势显示开放模型兴起，小型模型减少，算力需求下降。
- 建议租用算力以避免投资亏损。
- H100的租赁价格在2024年初降至约2.85美元/小时，预计未来将继续下降。
- 微调现有开放权重模型比从零开始训练更经济，导致小型集群需求减少。
- 大型模型创建者转向自建集群，减少对公共云的依赖。
- 便宜的H100可能加速开放权重AI的采用浪潮。
- 投资者应考虑其他领域或股票市场以获得更好的回报率。
➡️
