基于分布式环境下限流系统的设计
业务背景
就拿前些天的双十一的 “抢券活动” 来说,一般是设置整点开始抢的,你想想,淘宝的用户群体非常大,可以达到亿级别,而服务接口每秒能处理的量是有限的,那么这个时候问题就会出现,我们如何通过程序来控制用户抢券呢,于是就必须加上这个限流功能了。
生产环境
1、服务接口所能提供的服务上限(limit)假如是 500次/s
2、用户请求接口的次数未知,QPS可能达到 800次/s,1000次/s,或者更高
3、当服务接口的访问频率超过 500次/s,超过的量将拒绝服务,多出的信息将会丢失
4、线上环境是多节点部署的,但是调用的是同一个服务接口
于是,为了保证服务的可用性,就要对服务接口调用的速率进行限制(接口限流)。
