InfoQ
·
优化Wellhub自动补全服务延迟：多区域架构
内容提要
Wellhub通过多区域架构优化其Go语言自动补全服务，使用Elasticsearch预测用户输入，并通过AWS Global Accelerator实现低延迟流量路由。数据在AWS S3中跨区域备份。预取端点和移动网络优化提升了用户体验和服务效率。未来计划包括更深入的指标分析和区域优化。
关键要点
-
Wellhub采用多区域架构优化其基于Go的自动补全服务，利用Elasticsearch预测用户输入。
-
使用AWS Global Accelerator实现低延迟流量路由，确保连接到最近服务实例的低延迟。
-
数据通过AWS S3跨区域备份，支持在不同区域恢复备份。
-
引入预取端点进一步降低延迟，提升用户体验。
-
移动网络优化减少轮询和请求批处理，提高移动设备上的服务效率。
-
自动补全服务通过减少拼写错误的零结果，提升搜索体验。
-
在多区域架构实施前，考虑了其他解决方案，但最终决定将数据更靠近用户。
-
采用AWS S3的跨区域复制功能进行数据备份，最大复制延迟为一天。
-
AWS Global Accelerator提供静态IP和自定义路由，显著提高性能。
-
优化TCP协议和移动网络架构以提升数据传输效率。
-
实施多区域架构后，p90延迟从600-700毫秒降至123.3毫秒（iOS）和134.6毫秒（Android）。
-
用户网络使用模式发生变化，更多用户通过移动网络访问应用。
-
未来计划包括更深入的指标分析和区域优化。
延伸问答
Wellhub如何优化其自动补全服务的延迟？
Wellhub通过采用多区域架构和使用AWS Global Accelerator来优化自动补全服务的延迟，确保用户连接到最近的服务实例。
AWS Global Accelerator在Wellhub的架构中起什么作用？
AWS Global Accelerator提供低延迟流量路由，使用静态IP和自定义路由，显著提高服务性能。
Wellhub的自动补全服务如何处理数据备份？
Wellhub使用AWS S3的跨区域复制功能进行数据备份，确保数据可以在不同区域恢复，最大复制延迟为一天。
引入预取端点对用户体验有什么影响？
引入预取端点后，用户感知的延迟显著降低，提升了整体用户体验，使得请求响应更为及时。
Wellhub在多区域架构实施前考虑了哪些其他解决方案？
Wellhub考虑了使用地理哈希优化缓存的方案，但由于数据的高变异性，该方案未能有效实施。
Wellhub未来的计划是什么？
Wellhub未来计划进行更深入的指标分析和区域优化，以进一步提升服务性能和用户体验。
