您好,我是湘王,这是我的CSDN博客。值此新春佳节,我给您拜年啦~祝您在新的一年中所求皆所愿,所行皆坦途,展宏“兔”,有钱“兔”,多喜乐,常安宁!
在Nginx中提到过通过限流算法实现对后端服务的保护,避免因服务器承载压力太大而被冲垮。大家都知道Guava是用来操作集合的,但其实Guava也可以实现限流的功能。
不说废话,直接上代码。
先引入依赖:
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>30.0-jre</version>
</dependency>
然后用Guava实现限流:
/**
* 用Guava漏桶实现限流
*
* @author 湘王
*/
@Service
public class LeakyBucketService {
// Guava限制每秒请求数量(漏桶的流速)
private static final RateLimiter rateLimiter = RateLimiter.create(1);
// 请求编号
private volatile int count = 1;
public boolean limit(HttpServletRequest request) throws InterruptedException {
System.out.print("请求编号 = " + count++ + " ");
// 休眠一秒,取决于机器性能
Thread.sleep(1000);
if (rateLimiter.tryAcquire()) {
System.out.println(">>>>>>>> 请求成功 >>>>>>>>");
return true;
}
System.out.println(">>>>>>>> 被限流了 >>>>>>>>");
return false;
}
}
创建控制器类:
/**
* 限流Controller
*
* @author 湘王
*/
@RestController
public class LimitBucketController {
@Resource
private LeakyBucketService leakyBucketService;
@GetMapping("/limit")
public String limit(HttpServletRequest request) throws InterruptedException {
leakyBucketService.limit(request);
return "SUCCESS";
}
}
为了模拟大流量并发访问,需要借助apache jmeter测试工具。在apache.org下载jmeter(需要JDK8以上版本),解压至指定目录后执行下面的命令:
cd $/apache-jmeter-5.3/bin
./jmeter
如果是Windows可以在$/apache-jmeter-5.3/bin目录中直接双击jmeter图标启动。
「Test Plan」上点击鼠标右键,依次选择「Add」->「Thread」->「Thread Group」
「Thread Group」上点击鼠标右键,依次选择「Add」->「Sampler」->「HTTP Request」
「HTTP Request」界面中填入如下信息,和之前的Controller对应:
回到「Test Group」界面,填入如下信息:
启动Springboot,点击「Start」按钮,运行测试:
从测试结果可以看到,漏桶限流发挥了作用:
漏桶是为了平滑访问流量,但是如果需要允许一些突发流量呢?Guava并没有实现,但可以通过令牌桶的思路来自己搞。和漏桶相比,令牌桶其实有几个关键的不同:
1、需要一个桶来装令牌;
2、请求数量会出现突发;
3、每次消费令牌的数量固定;
先创建令牌桶服务:
/**
* 令牌桶限流
*
* @author 湘王
*/
@Service
public class TokenBucketService extends HandlerInterceptorAdapter {
// 桶的容量,可用令牌总量
private final int total = 10;
// 消费速率
private final int rate = 3;
public boolean limit(HttpServletRequest request) throws InterruptedException {
// 休眠一秒,取决于机器性能
Thread.sleep(1000);
if (tryAcquire()) {
return true;
}
return false;
}
// 以固定速率消费请求,漏桶容量固定,每次用户请求都得放入桶中,桶满则拒绝请求或等待
private synchronized boolean tryAcquire() {
// 网络请求数量是随机的
int requests = (int) (Math.random() * 10) + 1;
System.out.print("消费速率 = " + rate + ",请求数量 = " + requests + "; ");
if (total < requests + rate) {
// 桶满则拒绝
System.out.println("剩余容量 = " + (total - (requests + rate)) + "; >>>>>>>> 被限流了 >>>>>>>>");
return false;
} else {
// 桶还未满
System.out.println("剩余容量 = " + (total - (requests + rate)) + "; >>>>>>>> 请求成功 >>>>>>>>");
return true;
}
}
}
然后修改之前的Controller:
/**
* 桶限流Controller
*
* @author 湘王
*/
@RestController
public class LimitBucketController {
@Resource
private LeakyBucketService leakyBucketService;
@Resource
private TokenBucketService tokenBucketService;
@GetMapping("/limit")
public String limit(HttpServletRequest request) throws InterruptedException {
//leakyBucketService.limit(request);
tokenBucketService.limit(request);
return "SUCCESS";
}
}
修改Jmeter并发线程的数量:
测试结果如当初所愿:
节日期间,您仍然可以随时咨询技术、产品、运营和管理相关问题,请关注后留言。欢迎骚扰,不胜荣幸~再次祝您兔年吉祥,万事胜意!