InfoQ
·
Recall.ai 如何通过消除 WebSockets 在 AWS 上节省 100 万美元
内容提要
Recall.ai在AWS上开发会议机器人平台时，发现使用WebSockets每年增加了100万美元的成本。为此，他们设计了一种高带宽、低延迟的进程间通信解决方案，采用环形缓冲区，成功将CPU使用率降低50%，并节省了超过100万美元的AWS费用。
关键要点
-
Recall.ai在AWS上开发会议机器人平台时，发现使用WebSockets每年增加了100万美元的成本。
-
为了降低成本，Recall.ai设计了一种高带宽、低延迟的进程间通信解决方案，采用环形缓冲区。
-
该解决方案成功将CPU使用率降低50%，并节省了超过100万美元的AWS费用。
-
Recall.ai提供API支持Zoom、Google Meet和Microsoft Teams等平台的会议机器人，依赖于实时视频处理。
-
团队发现，Python WebSocket客户端和Chromium的WebSocket实现是CPU使用的主要来源。
-
Recall.ai考虑了三种更具成本效益的传输层选项：原始TCP/IP、Unix域套接字和共享内存。
-
最终，团队选择设计自定义传输，采用环形缓冲区作为高层传输结构。
-
一些开发者在Hacker News上质疑技术栈和视频编解码器的选择。
-
Momento的生态系统工程师Allen Helton建议使用PubSub而非WebSockets。
-
The Duckbill Group的首席云经济学家Corey Quinn指出，深入应用架构以优化成本或性能通常没有意义，但在特定情况下是必要的。
-
实施和部署环形缓冲区后，Recall.ai的机器人CPU使用率降低了50%，实现了成本优化。
延伸解读
成本优化的重要性
Recall.ai的案例强调了在云计算环境中，优化成本的重要性。通过重新评估技术栈，团队发现WebSockets的使用导致了不必要的高成本。这提醒开发者在选择技术时，不仅要考虑功能，还要关注其对成本的影响。
环形缓冲区的优势
Recall.ai采用环形缓冲区作为高层传输结构，成功降低了CPU使用率。这种设计不仅提高了数据传输效率，还减少了AWS费用。开发者在设计系统时，可以考虑类似的高效数据传输方案，以实现性能与成本的双重优化。
技术选择的挑战
在Hacker News上，开发者对Recall.ai的技术选择提出质疑，特别是关于视频编解码器和IPC机制的讨论。这表明，技术选择不仅影响性能，还可能引发社区的广泛讨论，开发者在决策时需谨慎考虑各方意见。
延伸问答
Recall.ai是如何发现WebSockets增加成本的？
Recall.ai在开发会议机器人平台时发现，使用WebSockets每年增加了100万美元的成本。
Recall.ai采取了什么措施来降低AWS费用？
Recall.ai设计了一种高带宽、低延迟的进程间通信解决方案，采用环形缓冲区，成功降低了CPU使用率。
Recall.ai的解决方案对CPU使用率有什么影响？
实施环形缓冲区后，Recall.ai的机器人CPU使用率降低了50%。
Recall.ai考虑了哪些替代的传输层选项？
Recall.ai考虑了原始TCP/IP、Unix域套接字和共享内存三种更具成本效益的传输层选项。
开发者对Recall.ai的技术栈有什么看法？
一些开发者在Hacker News上质疑Recall.ai的技术栈和视频编解码器的选择。
Corey Quinn对深入应用架构的看法是什么？
Corey Quinn指出，深入应用架构以优化成本或性能通常没有意义，但在特定情况下是必要的。
