InfoQ
·
优化Wellhub自动补全服务延迟：多区域架构
💡
原文英文，约2700词，阅读约需10分钟。
📝
内容提要
Wellhub通过多区域架构优化其Go语言自动补全服务，使用Elasticsearch预测用户输入，并通过AWS Global Accelerator实现低延迟流量路由。数据在AWS S3中跨区域备份。预取端点和移动网络优化提升了用户体验和服务效率。未来计划包括更深入的指标分析和区域优化。
🎯
关键要点
- Wellhub采用多区域架构优化其基于Go的自动补全服务，利用Elasticsearch预测用户输入。
- 使用AWS Global Accelerator实现低延迟流量路由，确保连接到最近服务实例的低延迟。
- 数据通过AWS S3跨区域备份，支持在不同区域恢复备份。
- 引入预取端点进一步降低延迟，提升用户体验。
- 移动网络优化减少轮询和请求批处理，提高移动设备上的服务效率。
- 自动补全服务通过减少拼写错误的零结果，提升搜索体验。
- 在多区域架构实施前，考虑了其他解决方案，但最终决定将数据更靠近用户。
- 采用AWS S3的跨区域复制功能进行数据备份，最大复制延迟为一天。
- AWS Global Accelerator提供静态IP和自定义路由，显著提高性能。
- 优化TCP协议和移动网络架构以提升数据传输效率。
- 实施多区域架构后，p90延迟从600-700毫秒降至123.3毫秒（iOS）和134.6毫秒（Android）。
- 用户网络使用模式发生变化，更多用户通过移动网络访问应用。
- 未来计划包括更深入的指标分析和区域优化。
➡️
