小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate

本文讨论入站过载保护,即服务作为被调用方在流量超过自身处理能力时的自我保护。文章区分限流与熔断,介绍令牌桶、漏桶等限流算法,并阐述分层部署、负载削减、自适应控制及多租户公平性等策略。同时指出限流配置不当可能引发的故障,并提供工程实践清单。

【系统架构设计】限流与过载保护:保命的最后一道防线

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-28T00:00:00Z

文章论证令牌桶、计量器漏桶与GCRA在参数T=1/r、τ=(b-1)T下判决完全等价,并以十万请求验证;NGINX、redis-cell、Envoy、Guava的实现均属同一约束,仅参数相差一。窗口计数属于另一类约束,最坏误差可达2L。文章还分析了分布式限流、并发与速率限制的区别及工程选型陷阱。

限流算法:令牌桶、漏桶与 GCRA 的等价性和工程实现

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-05-04T00:00:00Z

文章讨论了五种速率限制算法及其在生产环境中的应用,解决流量激增、共享基础设施和滥用攻击等问题。介绍了固定窗口、滑动窗口和令牌桶等算法,强调原子操作的重要性,并建议在构建速率限制器时考虑本地回退机制,以避免单点故障。

使用Valkey/Redis的速率限制策略

Percona Database Performance Blog Percona Database Performance Blog · 2026-03-18T19:32:14Z
在Java中使用Guava和JTokkit处理OpenAI模型的速率限制

处理API的速率限制对于并行请求至关重要。OpenAI设定了请求和令牌的速率限制。使用指数退避法重试失败请求,并通过令牌桶算法管理请求。初始化速率限制器以确保在令牌充足时发送请求,失败时进行重试。

在Java中使用Guava和JTokkit处理OpenAI模型的速率限制

DEV Community DEV Community · 2025-03-27T16:33:53Z
速率限制算法:深入探讨 2

速率限制是一种控制系统在特定时间内处理请求数量的技术,旨在防止滥用并确保公平使用。常见算法有令牌桶、漏桶、固定窗口计数器和滑动窗口计数器。选择合适的算法需根据系统需求,令牌桶适用于API,漏桶适合平稳处理。

速率限制算法:深入探讨 2

DEV Community DEV Community · 2025-03-02T02:28:34Z
速率限制算法:深入探讨

速率限制是现代软件系统的重要机制,确保资源公平分配,防止滥用和DDoS攻击。本文介绍了令牌桶和漏桶算法的优缺点,并提供Java实现示例。速率限制提高了系统的稳定性和安全性,适用于API和网络流量控制等场景。选择合适的算法和最佳实践对构建高效应用至关重要。

速率限制算法:深入探讨

DEV Community DEV Community · 2025-03-02T02:27:16Z

令牌桶算法是一种速率限制技术,用于管理网络和系统流量,确保性能稳定。通过固定速率积累令牌,每次操作消耗一个令牌,防止资源过度使用。关键参数包括桶大小、令牌速率和突发容量。适用于API限流、网络流量管理等。与漏桶算法不同,令牌桶允许突发流量。

令牌桶算法:全面指南

DEV Community DEV Community · 2024-10-15T12:13:24Z

限流策略用于防止系统资源耗尽,常用方法有压测和流量评估。QPS用于制定标准,限流设计包括计数器、滑动窗口、令牌桶和漏桶。计数器简单但不灵活,滑动窗口解决时间统计,令牌桶适合突发流量,漏桶控制流速。分布式限流可用Redis实现,需注意单点瓶颈。合理资源分配提高效率,减少网络IO。

限流与常见实现

CodeSky CodeSky · 2024-09-29T11:05:05Z

Sentinel-Go是一个流量操控库,提供了令牌桶和漏桶算法等多种流量操控策略,保证系统的稳定性和高可用性。其中,冷启动和匀速排队是两种重要的算法。另外,Sentinel-Go还支持基于调用联系的流量操控。总之,Sentinel-Go提供了强大的流量操控能力,适用于各种场景。

go-sentinel流量控制(三): 流量控制的实现原理

六虎 六虎 · 2024-03-24T02:22:26Z
带宽限流,限流器应当怎么用? (以 Go 限流器 time/rate 为例)

本文讨论了带宽限流问题,以Go官方限流库time/rate为例进行分析。介绍了令牌桶和漏桶两种限流器实现原理,并分析了使用time/rate库可能遇到的问题。提到了注意点,如突发容忍性、最小请求大小、阻塞时间等。总结了文章内容和建议。

带宽限流,限流器应当怎么用? (以 Go 限流器 time/rate 为例)

Steins;Lab Steins;Lab · 2023-08-12T16:23:36Z
Golang 标准库限流器 time/rate 实现剖析

本文分析了Golang标准库中限流器time/rate的实现原理,基于令牌桶算法。通过源码剖析,介绍了Token的生成与消费过程,强调了效率与线程安全,并讨论了浮点数精度、数值溢出问题及Token的归还机制。总结认为,令牌桶适合处理互联网突发请求,有效缓冲请求流量。

Golang 标准库限流器 time/rate 实现剖析

编程沉思录 编程沉思录 · 2019-11-05T13:35:19Z
Golang 标准库限流器 time/rate 使用介绍

本文介绍了Golang标准库中的限流器time/rate的使用方法。限流器基于令牌桶算法,能够限制请求速率,保护服务。用户可以通过构造限流器对象设置每秒生成的Token数量和桶的容量,并使用Wait、Allow和Reserve等方法消费Token,支持动态调整速率和桶大小。

Golang 标准库限流器 time/rate 使用介绍

编程沉思录 编程沉思录 · 2019-11-02T20:21:54Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码