在高并发中,限流是必不可少的一个环节,如何使用springcloud-zuul实现限流,限流的实现最重要在于算法,常见的限流算法包
括了漏桶算法及令牌桶算法。
漏桶算法
漏桶这个名字就很形象,算法内部有一个容器,类似于漏斗。进来的请求类似于加水,不管倒入的水流量多大,下面出去的水流量很稳定。
不管服务调用方多么不稳定,通过漏桶算法进行限流,每隔固定的时间处理一次请求。因为处理请求的速率固定,所以新加入的请求会被放
置在桶中,等待下一次请求处理,若桶已经放满,则丢弃要加入的请求。

令牌桶算法
令牌桶算法中,有一个桶,算法按照一定的速率向桶中添加令牌,拿到了令牌的请求才能被处理。若请求没有拿到令牌则等待可用的令牌,或者
直接拒绝。若桶中令牌数量达到了上线,就丢弃令牌。

springcloudGateWay实现限流
GoogleGuava提供了限流工具类RateLimiter,如下编写一个pre类型的filter,适用于单zuul节点的情况。
import com.google.common.util.concurrent.RateLimiter;
import com.netflix.zuul.ZuulFilter;
import com.netflix.zuul.context.RequestContext;
import com.netflix.zuul.exception.ZuulException;
import org.springframework.cloud.netflix.zuul.filters.support.FilterConstants;
import org.springframework.core.Ordered;
import org.springframework.http.HttpStatus;
import org.springframework.http.MediaType;
import org.springframework.stereotype.Component;
import javax.servlet.http.HttpServletResponse;
@Component
public class RateLimitZuulFilter extends ZuulFilter {
//同一時刻允許請求的個數 3個
private RateLimiter rateLimiter = RateLimiter.create(2);
@Override
public String filterType() {
return FilterConstants.PRE_TYPE;
}
@Override
public int filterOrder() {
return Ordered.HIGHEST_PRECEDENCE;
}
@Override
public boolean shouldFilter() {
//可以考慮弄個開關
return true;
}
@Override
public Object run() throws ZuulException {
RequestContext requestContext = RequestContext.getCurrentContext();
HttpServletResponse response = requestContext.getResponse();
if(!rateLimiter.tryAcquire()){//超过设置的请求个数
HttpStatus tooManyRequests = HttpStatus.TOO_MANY_REQUESTS;
response.setContentType(MediaType.TEXT_PLAIN_VALUE);
response.setStatus(tooManyRequests.value());
requestContext.setSendZuulResponse(false);
throw new ZuulException(tooManyRequests.getReasonPhrase(),tooManyRequests.value(),tooManyRequests.getReasonPhrase());
}
return null;
}
}
编写测试类,模仿http请求访问某个服务。
public class HttpRequest {
public static void main(String[] args)throws Exception {
Thread []thread = new Thread[10];
for(int i = 0;i < 10;i++){
thread[i] = new Thread(()->{
try{
URI url = new URI("http://localhost:9527/menbbo/springcloudzuul/index");
SimpleClientHttpRequestFactory simpleClientHttpRequestFactory = new SimpleClientHttpRequestFactory();
ClientHttpRequest request = simpleClientHttpRequestFactory.createRequest(url, HttpMethod.POST);
ClientHttpResponse execute = request.execute();
InputStream body = execute.getBody();
InputStreamReader ins = new InputStreamReader(body);
BufferedReader bufferedReader = new BufferedReader(ins);
String s = "";
while ((s=bufferedReader.readLine())!=null){
System.out.println(s);
}
}
catch (Exception e){
e.printStackTrace();
}
});
}
for(int i =0;i<10;i++){
thread[i].start();
}
}
}
结果如下:

调用成功3次,其他被过滤掉。
源码地址:https://gitee.com/menbbo/springclouddemo.git
