Deep Infra正在为开发者构建AI推理云
💡
原文英文，约800词，阅读约需3分钟。
📝
内容提要
Deep Infra获得1800万美元A轮融资，专注于提供低价GPU访问，支持多种开源模型。创始团队具备丰富的基础设施经验，强调硬件的重要性以降低推理成本。近两年使用量增长8000倍，日生成令牌数量增长16倍，受益于开源模型的兴起。
🎯
关键要点
-
Deep Infra获得1800万美元A轮融资，专注于提供低价GPU访问。
-
创始团队具备丰富的基础设施经验，强调硬件的重要性以降低推理成本。
-
Deep Infra提供多种开源模型的API，支持用户部署自己的模型。
-
公司为初创企业提供10亿个免费令牌以试用其平台。
-
创始人曾在imo.im工作，积累了全球数据中心的谈判和配置经验。
-
Borisov认为成功的推理服务必须拥有和运营自己的硬件。
-
推理服务的成本是用户最关心的问题，Deep Infra通过优化推理堆栈来降低成本。
-
过去两年，Deep Infra的使用量增长了8000倍，日生成令牌数量增长16倍。
-
开源模型的兴起对Deep Infra的发展至关重要，提升了其市场竞争力。
❓
延伸问答
Deep Infra获得了多少融资？
Deep Infra获得了1800万美元的A轮融资。
Deep Infra提供哪些类型的GPU访问？
Deep Infra提供NVIDIA A100、H100和H200等多种GPU的访问。
Deep Infra如何降低推理成本？
Deep Infra通过拥有和运营自己的硬件以及优化推理堆栈来降低推理成本。
Deep Infra对初创企业有什么优惠政策？
Deep Infra为初创企业提供10亿个免费令牌以试用其平台。
Deep Infra的使用量增长了多少？
Deep Infra的使用量在过去两年增长了8000倍，日生成令牌数量增长了16倍。
开源模型对Deep Infra的发展有什么影响？
开源模型的兴起提升了Deep Infra的市场竞争力，使其能够更好地服务用户。
➡️
