基于 Tokio Notify 的 SingleFlight 场景实现
💡
原文中文，约4600字，阅读约需11分钟。
📝
内容提要
SingleFlight模式用于抑制重复函数调用，确保相同请求仅处理一次，适合高并发场景。本文介绍了在Rust中实现SingleFlight的应用，解决微服务查询延迟问题，通过Notify机制优化请求处理，显著提升系统稳定性和性能。
🎯
关键要点
- SingleFlight模式用于抑制重复函数调用，确保相同请求仅处理一次，适合高并发场景。
- SingleFlight模式可以避免对外暴露的业务函数在短时间内被大规模重复调用，缓解服务访问压力。
- 在云原生微服务应用中，Proxy需要感知微服务及其endpoint的变化，并提供查询服务。
- 通过Proxy对同一关键热点微服务的映射关系进行新增或更新时，可能出现巨大的延时。
- 解决方案是在Proxy内部实现SingleFlight模式，确保同一时间内的查询操作只进行一次。
- 使用Rust的tokio::sync::Notify机制实现SingleFlight，代码实现简洁明了。
- resolve_host函数处理大量resolve请求，确保只有第一个请求执行实际的resolve操作，其他请求等待。
- 测试结果显示，在不同并发请求数下，耗时几乎保持在两秒左右，证明了SingleFlight模式的有效性。
- 作者拥有16年的技术研发背景，曾在多家知名企业担任研发工程师，并参与云原生微服务等技术领域的实践。
🏷️
标签
➡️
