微软的GPU似乎比较紧张?高管承认Bing Chat速度慢 因为还需要更多GPU

💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

微软的 Bing Chat 目前使用 GPT-4 免费服务,但响应速度变慢,CEO 向用户致歉并表示 GPU 加速卡不够快,需要采购更多 GPU 提升用户体验。

🎯

关键要点

  • 微软的 Bing Chat 目前使用 GPT-4 免费服务,但响应速度变慢。
  • Bing Chat 每个会话最多只能提问 20 次,且不支持会话历史记录。
  • 使用 ChatGPT 的 GPT-4 需要支付 20 美元/月的订阅费用。
  • 微软广告和网络服务 CEO Mikhail Parakhin 向用户致歉,称 Bing Chat 使用量增长快,GPU 添加速度不够。
  • Mikhail Parakhin 是多个微软产品团队的负责人,了解 Bing Chat 的情况。
  • 微软的 GPU 加速卡供应紧张,可能影响用户体验。
  • 英伟达的 A100 和 H100 芯片是 AI 领域的主要芯片,H100 性能是 A100 的三倍。
  • 目前各大科技公司都在疯狂采购 GPU,导致加速卡紧张。
  • Bing Chat 速度慢的问题尚未解决,原因可能是微软预算未定或英伟达产能有限。
➡️

继续阅读