Go 限流控制《滑动窗口&令牌桶》：time/rate、TokenLimit、PeriodLimit_go语言接口滑动窗口

一、前言

流量控制基本是《微服务》和高并发系统设计的入门课，即便是在早期各种负载均衡和网络组件（如nginx、iptable、TC）都有提供基础的QPS限制能力，如今演进到微服务框架、Sentinel、Service Mesh和Serverless都已经具备完备的配置化的限流的能力已经能够满足大多数场景了，但如果我们在一些不以服务作为颗粒的方式可能就不太适用了，比如以下几个场景：

• 调用外部三方服务存在频率限制
• 队列消费控速
  • 设置最大消费线程数、每次拉取消息条数拉取间隔时间
  • 这样能够能精准控制队列的处理频率吗？（有些主流MQ中间件SDK有实现匀速器，如RocketMQ，但是单点限流不能多消费者分布式共享）
• 当被超过频率限制时执行一段兜底逻辑

常用限流主要就是滑动窗口和令牌桶，本文基于golang官方包的time/rate和go-zero中的TokenLimit、PeriodLimit来介绍如何使用

二、time/rate、TokenLimit、PeriodLimit差异

突发流量指的是：当流量有一个小高峰，因为令牌桶（TokenLimit）当前桶中存在一定的token每秒有在生成token所以如果是一个10容量10并发的桶，第一秒能够支持20QPS，而滑动窗口（PeriodLimit）可以理解成一个没有容量的桶只能现用现生产。

wait支持指的是：阻塞程序执行等待token的生成而不是立马返回失败，比如队列限流使用场景下就比较合适，异步时间不敏感类型。

PS：go-zero提供的令牌桶当redis故障是会切换到内存令牌桶time/rate来降低影响，但是会影响限流的精准性

令牌桶基本原理：

• 单位时间按照一定速率匀速的生产 token 放入桶内，直到达到桶容量上限。
• 处理请求，每次尝试获取一个或多个令牌，如果拿到则处理请求，失败则拒绝请求。
  

为了保证原子性基于redis实现分布式令牌桶，lua脚本详解：

-- 每秒生成token数量即token生成速度
local rate = tonumber(ARGV[1])
-- 桶容量
local capacity = tonumber(ARGV[2])
-- 当前时间戳
local now = tonumber(ARGV[3])
-- 当前请求token数量
local requested = tonumber(ARGV[4])
-- 需要多少秒才能填满桶
local fill_time = capacity/rate
-- 向下取整,ttl为填满时间的2倍
local ttl = math.floor(fill_time*2)
-- 当前时间桶容量
local last_tokens = tonumber(redis.call("get", KEYS[1]))
-- 如果当前桶容量为0,说明是第一次进入,则默认容量为桶的最大容量
if last_tokens == nil then
last_tokens = capacity
end
-- 上一次刷新的时间
local last_refreshed = tonumber(redis.call("get", KEYS[2]))
-- 第一次进入则设置刷新时间为0
if last_refreshed == nil then
last_refreshed = 0
end
-- 距离上次请求的时间跨度
local delta = math.max(0, now-last_refreshed)
-- 距离上次请求的时间跨度,总共能生产token的数量,如果超多最大容量则丢弃多余的token
local filled_tokens = math.min(capacity, last_tokens+(delta*rate))
-- 本次请求token数量是否足够
local allowed = filled_tokens >= requested
-- 桶剩余数量
local new_tokens = filled_tokens
-- 允许本次token申请,计算剩余数量
if allowed then
new_tokens = filled_tokens - requested
end
-- 设置剩余token数量
redis.call("setex", KEYS[1], ttl, new_tokens)
-- 设置刷新时间
redis.call("setex", KEYS[2], ttl, now)

return allowed
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42

四、例子

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Cpp五条/article/detail/488025