WIKI:
http://wiki.nginx.org/HttpLimitReqModule
漏桶原理(leaky bucket):
http://en.wikipedia.org/wiki/Leaky_bucket
实例:
01 | #以用户二进制IP地址,定义三个漏桶,滴落速率1-3req/sec,桶空间1m,1M能保持大约16000个(IP)状态 |
02 | limit_req_zone $binary_remote_addr zone=qps1:1m rate=1r/s; |
03 | limit_req_zone $binary_remote_addr zone=qps2:1m rate=2r/s; |
04 | limit_req_zone $binary_remote_addr zone=qps3:1m rate=3r/s; |
05 |
06 | server { |
07 |
08 | #速率qps=1,峰值burst=5,延迟请求 |
09 | #严格按照漏桶速率qps=1处理每秒请求 |
10 | #在峰值burst=5以内的并发请求,会被挂起,延迟处理 |
11 | #超出请求数限制则直接返回503 |
12 | #客户端只要控制并发在峰值[burst]内,就不会触发limit_req_error_log |
13 | # 例1:发起一个并发请求=6,拒绝1个,处理1个,进入延迟队列4个: |
14 | #time request refuse sucess delay |
15 | #00:01 6 1 1 4 |
16 | #00:02 0 0 1 3 |
17 | #00:03 0 0 1 2 |
18 | #00:04 0 0 1 1 |
19 | #00:05 0 0 1 0 |
20 | location /delay { |
21 | limit_req zone=qps1 burst=5; |
22 | } |
23 |
24 | #速率qps=1,峰值burst=5,不延迟请求 |
25 | #加了nodelay之后,漏桶控制一段时长内的平均qps = 漏桶速率,允许瞬时的峰值qps > 漏桶qps |
26 | #所以峰值时的最高qps=(brust+qps-1)=5 |
27 | #请求不会被delay,要么处理,要么直接返回503 |
28 | #客户端需要控制qps每秒请求数,才不会触发limit_req_error_log |
29 | # 例2:每隔5秒发起一次达到峰值的并发请求,由于时间段内平均qps=1 所以仍然符合漏桶速率: |
30 | #time request refuse sucess |
31 | #00:01 5 0 5 |
32 | #00:05 5 0 5 |
33 | #00:10 5 0 5 |
34 | # 例3:连续每秒发起并发请求=5,由于时间段内平均qps>>1,超出的请求被拒绝: |
35 | #time request refuse sucess |
36 | #00:01 5 0 5 |
37 | #00:02 5 4 1 |
38 | #00:03 5 4 1 |
39 |
40 | location /nodelay { |
41 | limit_req zone=qps1 burst=5 nodelay; |
42 | } |
43 |
44 | } |