微软的GPU似乎比较紧张?高管承认Bing Chat速度慢 因为还需要更多GPU
💡
原文中文,约700字,阅读约需2分钟。
📝
内容提要
微软的 Bing Chat 目前使用 GPT-4 免费服务,但响应速度变慢,CEO 向用户致歉并表示 GPU 加速卡不够快,需要采购更多 GPU 提升用户体验。
🎯
关键要点
- 微软的 Bing Chat 目前使用 GPT-4 免费服务,但响应速度变慢。
- Bing Chat 每个会话最多只能提问 20 次,且不支持会话历史记录。
- 使用 ChatGPT 的 GPT-4 需要支付 20 美元/月的订阅费用。
- 微软广告和网络服务 CEO Mikhail Parakhin 向用户致歉,称 Bing Chat 使用量增长快,GPU 添加速度不够。
- Mikhail Parakhin 是多个微软产品团队的负责人,了解 Bing Chat 的情况。
- 微软的 GPU 加速卡供应紧张,可能影响用户体验。
- 英伟达的 A100 和 H100 芯片是 AI 领域的主要芯片,H100 性能是 A100 的三倍。
- 目前各大科技公司都在疯狂采购 GPU,导致加速卡紧张。
- Bing Chat 速度慢的问题尚未解决,原因可能是微软预算未定或英伟达产能有限。
➡️