【限流算法】

news2024/9/20 15:06:12

文章目录

介绍
算法原理
适用场景
令牌通算法实现
限流算法

介绍

令牌桶算法是网络流量整形（Traffic Shaping）和速率限制（Rate Limiting）中最常使用的一种算法。典型情况下，令牌桶算法用来控制发送到网络上的数据的数目，并允许突发数据的发送。

算法原理

在这里插入图片描述
令牌桶算法基于以下核心概念：
令牌桶：一个虚拟的容器，用来存放固定数量的令牌。
令牌填充速率：系统以固定的速率向桶中添加令牌。
令牌消耗：每当一个数据包发送时，就从桶中移除一个k如果桶中没有令牌，数据包将被延迟发送或丢弃，直到桶中有足够的令牌。

适用场景

网络带宽管理：控制用户的网络流量，防止滥用。
API速率限制：限制API调用频率，保护后端服务。
云服务提供商：为不同级别的用户提供不同速率的服务。
任务调度：限制任务执行的速率，避免资源争用。

令牌通算法实现

package com.schdule.util;

import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;

public class TokenBucket {
    /**
     * 桶的最大容量
     */
    private  int  capacity;
    /**
     * 当前桶的令牌数
     */
    private  AtomicInteger tokens;
    /**
     * 令牌通的生成速率
     */
    private  int refillRate;
    /**
     * 上次填充令牌的时间
     */
    private  long lastRefillTimestamp;

    public TokenBucket(int capacity, int refillRate) {
        this.capacity = capacity;
        this.tokens = new AtomicInteger(capacity);
        this.refillRate = refillRate;
        this.lastRefillTimestamp = System.nanoTime();
    }

    public synchronized boolean tryConsuse(){
        refill();
        if(tokens.get()>0){
            tokens.decrementAndGet();
            return true;
        }
        return false;
    }

    /**
     * 填充令牌，根据时间间隔计算应该添加多少令牌
     */
    public void refill(){
        long now=System.nanoTime();
        long timeSinceLastRefill = now - lastRefillTimestamp;
        long tokensToAdd = timeSinceLastRefill * refillRate / TimeUnit.SECONDS.toNanos(1);
        if(tokensToAdd>0){
            int newTokenCount=Math.min(capacity,tokens.get()+(int)tokensToAdd);
            tokens.set(newTokenCount);
            lastRefillTimestamp=now;
        }
    }
    public static void main(String[] args) throws InterruptedException {
        // 创建一个容量为10，速率为每秒2个令牌的令牌桶
        TokenBucket tokenBucket = new TokenBucket(10, 2);

        // 模拟多个请求，每隔500毫秒尝试一次
        for (int i = 0; i < 20; i++) {
            boolean allowed = tokenBucket.tryConsuse();
            System.out.println("Request " + (i + 1) + (allowed ? " allowed" : " denied"));
            Thread.sleep(500);
        }
    }

}