限流方法、装置及分布式限流系统与流程

1.本发明实施例涉及互联网技术领域，尤其涉及一种限流方法、装置及分布式限流系统。


背景技术：

2.限流是针对服务请求数量的一种保护机制，当请求数量超过服务的处理能力时，可自动丢弃新来的请求或者排队等待。
3.现有技术中，在分布式限流系统中，采用计数器固定时间窗口的算法，该算法的原理是对一段固定时间窗口内的访问请求进行计数，如果该固定时间窗口内的访问请求数超过了设定的阈值，则拒绝当前接收到的访问请求通过；如果该固定时间窗口内的访问请求数未超过设定的阈值，则允许当前接收到的访问请求通过，并将计数器加1。当固定时间窗口结束时，重置上述计数器为0。
4.然而，采用计数器固定时间窗口的算法进行分布式限流很可能会出现流量突刺现象。


技术实现要素：

5.鉴于此，为解决现有技术中采用计数器固定时间窗口的算法进行分布式限流很可能会出现流量突刺现象的技术问题，本发明实施例提供一种限流方法、装置及分布式限流系统。
6.第一方面，本发明实施例提供一种限流方法，应用于第一分布式限流服务节点，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述分布式限流系统还包括中心服务器，所述方法包括：
7.接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；
8.从所述中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
9.在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求；
10.在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
11.在一个可能的实施方式中，在所述从中心服务器上的全局令牌桶中获取令牌之前，还包括：
12.从本节点上的子令牌桶中获取令牌；
13.在从本节点上的子令牌桶中未获取到令牌到情况下，执行所述从中心服务器上的全局令牌桶中获取令牌的步骤；
14.所述从中心服务器上的全局令牌桶中获取令牌，包括：
15.从中心服务器上的全局令牌桶中获取n个令牌，所述n为大于1的自然数；
16.所述方法还包括：
17.在从中心服务器上的全局令牌桶中获取到m个令牌的情况下，将其中的m-1个令牌放入所述本节点上的子令牌桶，所述m为小于或等于n的正整数。
18.在一个可能的实施方式中，所述方法还包括：
19.在从本节点上的子令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求。
20.在一个可能的实施方式中，所述方法还包括：
21.在从中心服务器上的全局令牌桶中未获取到令牌的情况下，向第二分布式限流服务节点发送转发请求，所述第二分布式限流服务节点包括所述分布式限流系统中除所述第一分布式限流服务节点以外的其他任一分布式限流服务节点；
22.接收来自所述第二分布式限流服务节点的指示消息，所述指示消息用于指示所述第二分布式限流服务节点上的子令牌桶中具有令牌；
23.向所述第二分布式限流服务节点转发所述限流请求。
24.在一个可能的实施方式中，所述方法还包括：
25.接收来自所述第二分布式限流服务节点的转发请求；
26.响应于所述转发请求，确定本节点上的子令牌桶中是否具有令牌；
27.在确定本节点上的子令牌桶中具有令牌的情况下，向所述第二分布式限流服务节点发送所述指示消息。
28.在一个可能的实施方式中，所述方法还包括：
29.在预设的超时时间内未接收到来自所述第二分布式限流服务节点的指示消息的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
30.在一个可能的实施方式中，所述填充速率为待限流服务的限值速率。
31.第二方面，本发明实施例提供一种限流方法，应用于客户端，所述方法包括：
32.向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
33.在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；
34.在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送所述访问请求。
35.第三方面，本发明提供一种分布式限流系统，所述分布式限流系统包括：
36.中心服务器，所述中心服务器上设置有全局令牌桶，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
37.多个分布式限流服务节点，所述分布式限流服务节点接收到来自客户端的限流请求，从中心服务器上的全局令牌桶中获取令牌；在从所述全局令牌桶中获取到令牌的情况下，则允许所述客户端向所述服务提供方发送所述限流请求对应的访问请求；在从所述全
局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
38.第四方面，本发明提供一种限流装置，应用于第一分布式限流服务节点，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述分布式限流系统还包括中心服务器，所述装置包括：
39.接收模块，用于接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；
40.令牌获取模块，用于从所述中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
41.限流模块，用于在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求；在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
42.第五方面，本发明提供一种限流装置，应用于客户端，所述装置包括：
43.请求发送模块，用于向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
44.访问模块，用于在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；
45.限流模块，用于在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送所述访问请求。
46.第六方面，本发明提供一种电子设备，包括：处理器和存储器，所述处理器用于执行所述存储器中存储的限流程序，以实现第一方面或第二方面中任一项所述的限流方法。
47.第七方面，本发明提供一种存储介质，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现第一方面或第二方面中任一项所述的限流方法。
48.本发明实施例提供的技术方案，通过分布式限流服务节点接收到限流请求时，从中心服务器上的全局令牌桶中获取令牌，若从全局令牌桶中获取到令牌，则允许限流请求对应的访问请求通过；若从所述全局令牌桶中未获取到令牌，则拒绝访问请求通过，实现了基于令牌桶算法的分布式限流；以及，由于中心服务器是按照一个预设的填充速率向全局令牌桶中填充令牌的，并且全局令牌桶设置有令牌数量上限，因此，在短时间内发生大量访问请求的情况下，将由于全局令牌桶中没有足够的令牌而拒绝访问请求通过，如此则能够解决短时间内通过的访问请求数量过高，超过待限流服务限值速率而产生流量突刺的问题。
附图说明
49.图1为本发明实施例涉及的一种分布式限流系统的系统架构示意图；
50.图2为本发明实施例提供的一种限流方法的实施例流程图；
51.图3为本发明实施例提供的另一种限流方法的实施例流程图；
52.图4为本发明实施例提供的又一种限流方法的实施例流程图；
53.图5为本发明实施例提供的再一种限流方法的实施例流程图；
54.图6为本发明实施例提供的一种限流装置的实施例框图；
55.图7为本发明实施例提供的另一种限流装置的实施例框图；
56.图8为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
57.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
58.参见图1，为本发明实施例涉及的一种分布式限流系统的系统架构示意图。
59.图1所示分布式限流系统100包括中心服务器101、多个分布式限流服务节点，例如分布式限流服务节点102～104。在一实施例中，分布式限流系统100可采用redis架构实现，相应的，中心服务器101可以是redis服务器。应用分布式限流系统，能够很好地解决分布式环境下多实例所导致的并发问题。
60.以redis分布式限流系统为例，在现有技术中，redis服务器上设置一个全局唯一的计数器，各个分布式限流服务节点都使用同样的计数器进行限流。具体的，采用计数器固定时间窗口的算法，该算法的原理是对一段固定时间窗口内的访问请求进行计数，如果该固定时间窗口内的访问请求数超过了设定的阈值，则拒绝当前接收到的访问请求通过；如果该固定时间窗口内的访问请求数未超过设定的阈值，则允许当前接收到的访问请求通过，并将上述设置于redis服务器上的计数器加1。当固定时间窗口结束时，重置上述计数器为0。由此可见，采用计数器固定时间窗口的算法进行分布式限流实现简单，容易理解。
61.然而，采用计数器固定时间窗口的算法进行分布式限流也存在以下技术问题：
62.1、流量曲线不够平滑，有突刺现象。
63.在一个例子中，假设上述固定时间窗口的大小为1秒，设定的阈值为100，并假设在某个固定时间窗口内的第1毫秒来了100个访问请求，那么在该固定时间窗口内的第2毫秒到第1000毫秒内接收到的访问请求都将被拒绝通过，从而导致对于用户而言在一段时间内服务不可用。
64.在另一个例子中，假设上述固定时间窗口的大小为1秒，设定的阈值为100，并假设在某个固定时间窗口内的第1000毫秒来了100个访问请求，前999毫秒内都没有访问请求，那么该100个访问请求都将被允许通过。之后，假设在下一个固定时间窗口内的第1毫秒又来了100个访问请求，并且该100个访问请求都被允许通过。这也就是说，在2毫秒内通过了200个访问请求，产生流量突刺现象。
65.2、无法应对一定程度的流量突发情况。
66.采用计数器固定时间窗口的算法进行分布式限流时，每接收到一次访问请求，都将访问一次远程的redis服务器进行计数的处理，而每次的远程访问加大了对限流响应时间的延迟，同时这也对redis服务器的性能要求变高了很多，因此，在高并发的访问请求场景下，redis服务器本身也可能成为限流性能瓶颈。
67.对此，本发明实施例提供一种限流方法。在本发明实施例提供的限流方法中，采用令牌桶算法替换上述计数器固定时间窗口的算法进行分布式限流，以解决现有技术中，采用计数器固定时间窗口的算法进行分布式限流有可能产生流量突刺现象的技术问题。
68.下面结合附图以具体实施例对本发明提供的限流方法做进一步的解释说明，实施例并不构成对本发明实施例的限定。
69.参见图2，为本发明实施例提供的一种限流方法的实施例流程图。作为一个实施例，该方法可应用于第一分布式限流服务节点，这里，第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，例如图1中所示例的分布式限流系统100中分布式限流服务节点102～104中的任一者。如图2所示，该方法可包括以下步骤：
70.步骤201、第一分布式限流服务节点接收来自客户端的限流请求。
71.在实践中，客户端在向服务提供方发起访问请求之前，先通过sidecar(一种进程)，以grpc协议向分布式限流系统发送限流请求，该限流请求用于指示分布式限流服务节点判断是否需要对上述访问请求进行限流。
72.分布式限流系统中的中心服务器接收到该限流请求，按照预设的负载均衡规则，将该限流请求调度至其中一个分布式限流服务节点，为描述方便，将该分布式限流服务节点称为第一分布式限流服务节点。
73.步骤202、第一分布式限流服务节点从中心服务器上的全局令牌桶中获取令牌，若从全局令牌桶中获取到令牌，则执行步骤203；若从全局令牌桶中未获取到令牌，则执行步骤204。
74.步骤203、第一分布式限流服务节点允许限流请求对应的访问请求通过。
75.步骤204、第一分布式限流服务节点拒绝限流请求对应的访问请求通过。
76.以下对步骤202至204进行统一说明：
77.本发明实施例中，将用于限流的令牌桶设置于分布式限流系统的中心服务器上，由此则实现了在分布式限流系统中设置一个唯一的全局令牌桶，每一分布式限流服务节点将使用同一令牌桶进行限流。对此，本发明实施例中为了描述方便，将设置于中心服务器上的令牌桶称为全局令牌桶。
78.需要说明的是，中心服务器将按照预设的填充速率向全局令牌桶中填充令牌，例如，中心服务器可以调用令牌服务组件来实现按照预设的填充速率向全局令牌桶中填充令牌。可选的，该预设的填充速率为上述待限流服务的限值速率。
79.举例来说，假设待限流服务的限值速率表示待限流服务在1秒内只能处理100个访问请求，那么，中心服务器可按照每100毫秒向全局令牌桶中填充10个令牌的填充速率，向全局令牌桶中填充令牌。
80.还需要说明的是，上述全局令牌桶设置有令牌数量上限，例如200，这表示全局令牌桶中最多可以存放200个令牌。
81.本发明实施例中，第一分布式限流服务节点接收到限流请求，从中心服务器上的
全局令牌桶中获取令牌，若从全局令牌桶中获取到令牌，则可执行步骤203，也即允许客户端向服务提供方发送访问请求；而若从全局令牌桶中未获取到令牌，则可执行步骤204，也即不允许客户端向服务提供方发送访问请求。
82.其中，作为一种可选的实现方式，第一分布式限流服务节点在从全局令牌桶中获取到令牌的情况下，可向客户端返回用于指示本次不限流的指示消息，客户端响应该指示消息，向服务提供方发送访问请求。相应的，第一分布式限流服务节点在从全局令牌桶中未获取到令牌的情况下，可向客户端返回用于指示本次限流的指示消息，客户端响应该指示消息，拒绝向服务提供方发送访问请求。
83.由此可见，本发明实施例提供的技术方案，通过分布式限流服务节点接收到限流请求时，从中心服务器上的全局令牌桶中获取令牌，若从全局令牌桶中获取到令牌，则允许限流请求对应的访问请求通过；若从所述全局令牌桶中未获取到令牌，则拒绝访问请求通过，实现了基于令牌桶算法的分布式限流；以及，由于中心服务器是按照一个预设的填充速率向全局令牌桶中填充令牌的，并且全局令牌桶设置有令牌数量上限，因此，在短时间内发生大量访问请求的情况下，将由于全局令牌桶中没有足够的令牌而拒绝访问请求通过，如此则能够解决短时间内通过的访问请求数量过高，超过待限流服务限值速率而产生流量突刺的问题。
84.参见图3，为本发明实施例提供的另一种限流方法的实施例流程图。图3所示流程在上述图2所示流程的基础上，可包括以下步骤：
85.步骤301、第一分布式限流服务节点接收到来自客户端的限流请求，从本节点上的子令牌桶中获取令牌，若从本节点上的子令牌桶中获取到令牌，则执行步骤305；若从本节点上的子令牌桶中未获取到令牌，则执行步骤302。
86.步骤302、第一分布式限流服务节点从中心服务器上的全局令牌桶中获取n个令牌，若从中心服务器上的全局令牌桶中未获取到令牌，则执行步303；若从中心服务器上的全局令牌桶中获取到令牌，则执行步骤304。
87.步骤303、第一分布式限流服务节点不允许客户端向服务提供方发送访问请求；结束流程。
88.步骤304、第一分布式限流服务节点将从中心服务器上的全局令牌桶中获取到的m个令牌中，m-1个令牌放入本节点上的子令牌桶，m为小于或等于n的正整数。
89.步骤305、第一分布式限流服务节点允许客户端向服务提供方发送访问请求。
90.以下对步骤301至步骤305进行统一说明：
91.本发明实施例中，可在每一分布式限流服务节点上分别设置一个令牌桶(为描述方便，称为子令牌桶)，与全局令牌桶的令牌填充机制不同的是，分布式限流服务节点是将从全局令牌桶中获取到的令牌填充至子令牌桶，这也就意味着，分布式限流服务节点从中心服务器上的全局令牌桶中获取令牌时，可批量获取，例如一次性获取n个，这里n为大于1的整数。此外，可以理解的是，在中心服务器上的全局令牌桶中令牌数量少于n时，分布式限流服务节点可按照中心服务器上的全局令牌桶中实际的令牌数量来获取令牌。
92.具体的，第一分布式限流服务节点在首次接收到限流请求时，从中心服务器上的全局令牌桶中获取n个令牌，若本次未获取到令牌，则拒绝客户端向服务提供方发送访问请求；若本次获取到令牌，则允许客户端向服务提供方发送访问请求通过，并将从中心服务器
上的全局令牌桶中获取到的m个令牌中，m-1个令牌放入本节点上的子令牌桶。这里，m为小于等于n的正整数，以及，之所以是将获取到的m个令牌中的m-1个令牌放入本节点上的子令牌桶，是因为允许访问请求通过时已消费了其中一个令牌。
93.之后，第一分布式限流服务节点在非首次接收到限流请求时，将先从本节点上的子令牌桶中获取令牌，若从本节点上的子令牌桶中获取到令牌，则允许该访问请求通过；若从本节点上的子令牌桶中未获取到令牌，则第一分布式限流服务节点继续从中心服务器上的全局令牌桶中获取n个令牌，若从中心服务器上的全局令牌桶中未获取到令牌，则拒绝该访问请求通过；若从中心服务器上的全局令牌桶中获取到令牌，则执行上述步骤304和步骤305，这里不再赘述。
94.由上述描述可见，本发明实施例中，第一分布式限流服务节点一次可从中心服务器上的全局令牌桶中获取多个令牌，并将未消费的令牌存入本地的子令牌桶中，之后，第一分布式限流服务节点则可无需每次都去访问中心服务器，从而减轻了中心服务器的压力，使得中心服务器不再是限流性能瓶颈，能够较好地处理一定程度下的流量突发，较好的应对高并发的访问请求场景。
95.在实践中，应用图3所示实施例，有可能会导致一定范围内的限流误差。例如，图1中分布式限流服务节点102一次性从中心服务器101上的全局令牌桶中获取了多个令牌。但是由于流量不均衡，限流请求都发送到了分布式限流服务节点103，导致分布式限流服务节点103频繁的从中心服务器101上的全局令牌桶中获取令牌，直至将全局令牌桶中的令牌取完。假设此时分布式限流服务节点104接收到限流请求，却从中心服务器101上的全局令牌桶中未获取到令牌，然而实际上，分布式限流服务节点102上还有多个令牌未消费，这就出现了限流误差。
96.对此，本发明实施例提供又一种限流方法。参见图4，为本发明实施例提供的又一种限流方法的实施例流程图。图4所示流程在上述图3所示流程的基础上，可包括以下步骤：
97.步骤401、第一分布式限流服务节点接收到限流请求，从本节点上的子令牌桶中获取令牌，若从本节点上的子令牌桶中获取到令牌，则执行步骤408；若从本节点上的子令牌桶中未获取到令牌，则执行步骤402。
98.步骤402、第一分布式限流服务节点从中心服务器上的全局令牌桶中获取n个令牌，若从中心服务器上的全局令牌桶中未获取到令牌，则执行步403；若从中心服务器上的全局令牌桶中获取到令牌，则执行步骤407。
99.步骤403、第一分布式限流服务节点向第二分布式限流服务节点发送转发请求，以使第二分布式限流服务节点在接收到转发请求后，确定本节点上的子令牌桶中是否具有令牌，并在确定具有令牌时向第一分布式限流服务节点发送用于指示第二分布式限流服务节点上的子令牌桶中具有令牌的指示消息。
100.步骤404、第一分布式限流服务节点是否在预设的超时时间内接收到来自第二分布式限流服务节点的指示消息；若第一分布式限流服务节点在预设的超时时间内接收到来自第二分布式限流服务节点的指示消息，则执行步骤405；若第一分布式限流服务节点在预设的超时时间内未接收到来自第二分布式限流服务节点的指示消息，则执行步骤406。
101.上述第二分布式限流服务节点包括分布式限流系统中除第一分布式限流服务节点以外的其他任一分布式限流服务节点。
102.步骤405、第一分布式限流服务节点向第二分布式限流服务节点转发限流请求。
103.步骤406、第一分布式限流服务节点不允许客户端向服务提供方发送访问请求。
104.步骤407、第一分布式限流服务节点将从中心服务器上的全局令牌桶中获取到的m个令牌中，m-1个令牌放入本节点上的子令牌桶。
105.步骤408、第一分布式限流服务节点允许客户端向服务提供方发送访问请求。
106.为便于理解图4所示流程，示出以下例子：
107.假设图1中分布式限流服务节点102一次性从中心服务器101上的全局令牌桶中获取了多个令牌。但是由于流量不均衡，限流请求都发送到了分布式限流服务节点103，导致分布式限流服务节点103频繁的从中心服务器101上的全局令牌桶中获取令牌，直至将全局令牌桶中的令牌取完。假设此时分布式限流服务节点104接收到限流请求，并且从中心服务器101上的全局令牌桶中未获取到令牌，那么，分布式限流服务节点104可向分布式限流服务节点102和103发送转发请求。
108.可以理解的是，分布式限流服务节点102将向分布式限流服务节点104返回用于指示分布式限流服务节点102上的子令牌桶中具有令牌的指示消息。
109.之后，分布式限流服务节点104将基于该指示消息，将限流请求转发给分布式限流服务节点102。
110.分布式限流服务节点102能够从本节点上的子令牌桶中获取到令牌，从而允许客户端向服务提供方发送该限流请求对应的访问请求。
111.由上述步骤可见，在分布式限流服务节点批量地从中心服务器上的全局令牌桶中获取令牌的情况下，第一分布式限流服务节点未从本节点的子令牌桶中获取到令牌，也未从中心服务器上的全局令牌桶中获取到令牌时，并非直接不允许客户端向服务提供方发送访问请求，而是向其他分布式限流服务节点发送转发请求，以使得具有未消费令牌的其他分布式限流服务节点来处理本次的限流请求，这能够避免限流误差，提高限流精度。
112.参见图5，为本发明实施例提供的再一种限流方法的实施例流程图。作为一个实施例，该方法可应用客户端。如图5所示，该方法可包括以下步骤：
113.步骤501、客户端向分布式限流系统发送限流请求，以使所述分布式限流系统中的第一分布式限流服务节点接收到限流请求，并从中心服务器上的全局令牌桶中获取令牌。
114.步骤502、客户端在确定第一分布式限流服务节点从全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求。
115.步骤503、客户端在确定第一分布式限流服务节点未从全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送访问请求。
116.至于步骤501至503的详细描述，可以参见上述图2所示流程中的描述，这里不再赘述。
117.与前述限流方法的实施例相对应，本发明还提供限流装置的实施例。
118.参见图6，为本发明实施例提供的一种限流装置的实施例框图。如图6所示，该装置包括：接收模块61、令牌获取模块62，以及限流模块63。
119.其中，接收模块61，用于接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；
120.令牌获取模块62，用于从所述中心服务器上的全局令牌桶中获取令牌，其中，所述
中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
121.限流模块63，用于在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求；在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
122.在一个可能的实施方式中，所述令牌获取模块62还用于：
123.在所述从中心服务器上的全局令牌桶中获取令牌之前，从本节点上的子令牌桶中获取令牌；在从本节点上的子令牌桶中未获取到令牌到情况下，执行所述从中心服务器上的全局令牌桶中获取令牌的步骤；其中，令牌获取模块62从中心服务器上的全局令牌桶中获取令牌的具体实现可包括：从中心服务器上的全局令牌桶中获取n个令牌，所述n为大于1的自然数；
124.所述装置还包括(图中未示出)：
125.填充模块，用于若从中心服务器上的全局令牌桶中获取到m个令牌，则将其中的m-1个令牌放入所述本节点上的子令牌桶，所述m为小于或等于n的正整数。
126.在一个可能的实施方式中，所述限流模块63还用于：
127.在从本节点上的子令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求。
128.所述装置还包括(图中未示出)：
129.请求模块，用于在从中心服务器上的全局令牌桶中未获取到令牌的情况下，向第二分布式限流服务节点发送转发请求，所述第二分布式限流服务节点包括所述分布式限流系统中除所述第一分布式限流服务节点以外的其他任一分布式限流服务节点；
130.转发模块，用于接收来自所述第二分布式限流服务节点的指示消息，所述指示消息用于指示所述第二分布式限流服务节点上的子令牌桶中具有令牌；向所述第二分布式限流服务节点转发所述限流请求。
131.在一个可能的实施方式中，所述装置还包括(图中未示出)：
132.转发请求接收模块，用于接收来自所述第二分布式限流服务节点的转发请求；
133.判断模块，用于响应于所述转发请求，确定本节点上的子令牌桶中是否具有令牌；
134.消息发送模块，用于在确定本节点上的子令牌桶中具有令牌的情况下，向所述第二分布式限流服务节点发送所述指示消息。
135.在一个可能的实施方式中，所述限流模块63还用于：
136.在预设的超时时间内未接收到来自所述第二分布式限流服务节点的指示消息的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
137.在一个可能的实施方式中，所述填充速率为待限流服务的限值速率。
138.参见图7，为本发明实施例提供的另一种限流装置的实施例框图。如图7所示，该装置包括：
139.请求发送模块71，用于向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按
照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
140.访问模块72，用于在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；
141.限流模块73，用于在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送所述访问请求。
142.图8为本发明实施例提供的一种电子设备的结构示意图，图8所示的电子设备800包括：至少一个处理器801、存储器802、至少一个网络接口804和其他用户接口803。电子设备800中的各个组件通过总线系统805耦合在一起。可理解，总线系统805用于实现这些组件之间的连接通信。总线系统805除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见，在图8中将各种总线都标为总线系统805。
143.其中，用户接口803可以包括显示器、键盘或者点击设备(例如，鼠标，轨迹球(trackball))、触感板或者触摸屏等。
144.可以理解，本发明实施例中的存储器802可以是易失性存储器或非易失性存储器，或可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器(read-onlymemory，rom)、可编程只读存储器(programmablerom，prom)、可擦除可编程只读存储器(erasableprom，eprom)、电可擦除可编程只读存储器(electricallyeprom，eeprom)或闪存。易失性存储器可以是随机存取存储器(randomaccessmemory，ram)，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的ram可用，例如静态随机存取存储器(staticram，sram)、动态随机存取存储器(dynamicram，dram)、同步动态随机存取存储器(synchronousdram，sdram)、双倍数据速率同步动态随机存取存储器(doubledataratesdram，ddrsdram)、增强型同步动态随机存取存储器(enhancedsdram，esdram)、同步连接动态随机存取存储器(synchlinkdram，sldram)和直接内存总线随机存取存储器(directrambusram，drram)。本文描述的存储器802旨在包括但不限于这些和任意其它适合类型的存储器。
145.在一些实施方式中，存储器802存储了如下的元素，可执行单元或者数据结构，或者他们的子集，或者他们的扩展集：操作系统8021和应用程序8022。
146.其中，操作系统8021，包含各种系统程序，例如框架层、核心库层、驱动层等，用于实现各种基础业务以及处理基于硬件的任务。应用程序8022，包含各种应用程序，例如媒体播放器(mediaplayer)、浏览器(browser)等，用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序8022中。
147.在本发明实施例中，通过调用存储器802存储的程序或指令，具体的，可以是应用程序8022中存储的程序或指令，处理器801用于执行各方法实施例所提供的方法步骤，例如包括：
148.接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；
149.从所述中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
150.在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方
发送所述访问请求；
151.在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
152.或者，
153.向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
154.在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；
155.在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送所述访问请求。
156.上述本发明实施例揭示的方法可以应用于处理器801中，或者由处理器801实现。处理器801可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器801中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器801可以是通用处理器、数字信号处理器(digitalsignalprocessor，dsp)、专用集成电路(applicationspecificintegratedcircuit，asic)、现成可编程门阵列(fieldprogrammablegatearray，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器802，处理器801读取存储器802中的信息，结合其硬件完成上述方法的步骤。
157.可以理解的是，本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现，处理单元可以实现在一个或多个专用集成电路(applicationspecificintegratedcircuits，asic)、数字信号处理器(digitalsignalprocessing，dsp)、数字信号处理设备(dspdevice，dspd)、可编程逻辑设备(programmablelogicdevice，pld)、现场可编程门阵列(field-programmablegatearray，fpga)、通用处理器、控制器、微控制器、微处理器、用于执行本技术所述功能的其它电子单元或其组合中。
158.对于软件实现，可通过执行本文所述功能的单元来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
159.本实施例提供的电子设备可以是如图8中所示的电子设备，可执行如图2至图5中方法的所有步骤，进而实现图2至图5方法的技术效果，具体请参照图2至图5的相关描述，为简洁描述，在此不作赘述。
160.本发明实施例还提供了一种存储介质(计算机可读存储介质)。这里的存储介质存储有一个或者多个程序。其中，存储介质可以包括易失性存储器，例如随机存取存储器；存
储器也可以包括非易失性存储器，例如只读存储器、快闪存储器、硬盘或固态硬盘；存储器还可以包括上述种类的存储器的组合。
161.当存储介质中一个或者多个程序可被一个或者多个处理器执行，以实现上述在电子设备侧执行的限流方法。
162.所述处理器用于执行存储器中存储的限流程序，以实现以下在电子设备侧执行的限流方法的步骤：
163.接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；
164.从所述中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
165.在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求；
166.在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
167.或者，
168.向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；
169.在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；
170.在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送所述访问请求。
171.专业人员应该还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
172.结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或技术领域内所公知的任意其它形式的存储介质中。
173.以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

技术特征：
1.一种限流方法，其特征在于，应用于第一分布式限流服务节点，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述分布式限流系统还包括中心服务器，所述方法包括：接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；从所述中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求；在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。2.根据权利要求1所述的方法，其特征在于，在从所述中心服务器上的全局令牌桶中获取令牌之前，还包括：从本节点上的子令牌桶中获取令牌；在从本节点上的子令牌桶中未获取到令牌到情况下，执行所述从中心服务器上的全局令牌桶中获取令牌的步骤；所述从中心服务器上的全局令牌桶中获取令牌，包括：从中心服务器上的全局令牌桶中获取n个令牌，所述n为大于1的自然数；所述方法还包括：在从中心服务器上的全局令牌桶中获取到m个令牌的情况下，将其中的m-1个令牌放入所述本节点上的子令牌桶，所述m为小于或等于n的正整数。3.根据权利要求2所述的方法，其特征在于，所述方法还包括：在从本节点上的子令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求。4.根据权利要求2所述的方法，其特征在于，所述方法还包括：在从中心服务器上的全局令牌桶中未获取到令牌的情况下，向第二分布式限流服务节点发送转发请求，所述第二分布式限流服务节点包括所述分布式限流系统中除所述第一分布式限流服务节点以外的其他任一分布式限流服务节点；接收来自所述第二分布式限流服务节点的指示消息，所述指示消息用于指示所述第二分布式限流服务节点上的子令牌桶中具有令牌；向所述第二分布式限流服务节点转发所述限流请求。5.根据权利要求4所述的方法，其特征在于，所述方法还包括：接收来自所述第二分布式限流服务节点的转发请求；响应于所述转发请求，确定本节点上的子令牌桶中是否具有令牌；在确定本节点上的子令牌桶中具有令牌的情况下，向所述第二分布式限流服务节点发送所述指示消息。6.根据权利要求4所述的方法，其特征在于，所述方法还包括：在预设的超时时间内未接收到来自所述第二分布式限流服务节点的指示消息的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。
7.根据权利要求1～6任一所述的方法，其特征在于，所述填充速率为待限流服务的限值速率。8.一种限流方法，其特征在于，应用于客户端，所述方法包括：向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令牌的情况下，拒绝向服务提供方发送所述访问请求。9.一种分布式限流系统，其特征在于，所述分布式限流系统包括：中心服务器，所述中心服务器上设置有全局令牌桶，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；多个分布式限流服务节点，所述分布式限流服务节点接收到来自客户端的限流请求，从中心服务器上的全局令牌桶中获取令牌；在从所述全局令牌桶中获取到令牌的情况下，则允许所述客户端向所述服务提供方发送所述限流请求对应的访问请求；在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。10.一种限流装置，其特征在于，应用于第一分布式限流服务节点，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述分布式限流系统还包括中心服务器，所述装置包括：接收模块，用于接收来自客户端的限流请求，其中，所述客户端在向服务提供方发送访问请求之前，向所述分布式限流系统发送所述限流请求；令牌获取模块，用于从所述中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；限流模块，用于在从所述全局令牌桶中获取到令牌的情况下，允许所述客户端向所述服务提供方发送所述访问请求；在从所述全局令牌桶中未获取到令牌的情况下，不允许所述客户端向所述服务提供方发送所述访问请求。11.一种限流装置，其特征在于，应用于客户端，所述装置包括：请求发送模块，用于向分布式限流系统发送限流请求，所述分布式限流系统包括中心服务器、多个限流服务节点，以使所述分布式限流系统中的第一分布式限流服务节点接收到所述限流请求，并从所述中心服务器上的全局令牌桶中获取令牌，其中，所述第一分布式限流服务节点为分布式限流系统中的任一分布式限流服务节点，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；访问模块，用于在确定所述第一分布式限流服务节点从所述全局令牌桶中获取到令牌的情况下，向服务提供方发送访问请求；限流模块，用于在确定所述第一分布式限流服务节点未从所述全局令牌桶中获取到令
牌的情况下，拒绝向服务提供方发送所述访问请求。12.一种电子设备，其特征在于，包括：处理器和存储器，所述处理器用于执行所述存储器中存储的限流程序，以实现权利要求1～7或8中任一项所述的限流方法。13.一种存储介质，其特征在于，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现权利要求1～7或8中任一项所述的限流方法。

技术总结
本发明实施例涉及一种限流方法、装置及分布式限流系统，方法包括：分布式限流系统中的任一分布式限流服务节点接收到限流请求，从中心服务器上的全局令牌桶中获取令牌，其中，所述中心服务器按照预设的填充速率向所述全局令牌桶中填充令牌，且所述全局令牌桶被设置有令牌数量上限；若从所述全局令牌桶中获取到令牌，则允许客户端向服务提供方发送访问请求；若从所述全局令牌桶中未获取到令牌，则不允许客户端向服务提供方发送访问请求。由此，可以实现基于令牌桶算法的分布式限流，并避免产生流量突刺的问题。流量突刺的问题。流量突刺的问题。


技术研发人员：曹迪
受保护的技术使用者：北京金山云网络技术有限公司
技术研发日：2022.01.10
技术公布日：2023/7/21