消峰限流的方式

1. 业务视角
   1. 验证码
   2. 回答问题环节
2. 技术视角

   1. 消息队列异步化用户请求

      

   2. 限流，对流量进行层层过滤

      1. nginx 层限流，

         1. 一是控制速率 limit_req 漏桶算法

            limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
            server { 
                location / { 
                    limit_req zone=mylimit;
                }
            }
            **-------------------------------------------------------------**
            **以上配置表示，限制每个 IP 访问的速度为 2r/s**
            limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
            server { 
                location / { 
                    limit_req zone=mylimit **burst**=4;
                }
            }
            
            burst=4 表示每个 IP 最多允许4个突发请求，如果单个 IP 在 10ms 内发送 6 次请求
            会有 1 个请求被立即处理了，4 个请求被放到 burst 队列里排队执行了，
            另外 1 个请求被拒绝了。
            **--------------------------------------------------------------**
            limit_req_zone $userId zone=mylimit:10m rate=2r/s;
            server { 
                location / { 
                    limit_req zone=mylimit;
                }
            }
            **基于用户ID的限流**
            

         2. 二是控制并发连接数 limit_conn_zone limit_conn

            limit_conn_zone $binary_remote_addr zone=perip:10m;
            limit_conn_zone $server_name zone=perserver:10m;
            server {
                ...
                limit_conn perip 10;
                limit_conn perserver 100;
            }
            其中 limit_conn perip 10 表示限制单个 IP 同时最多能持有 10 个连接；
            limit_conn perserver 100 表示 server 同时能处理并发连接的总数为 100 个
            

         3. ngx_http_upstream_module

      2. 服务端限流
         1. 常用的限流算法
            1. 时间窗口算法
            2. 漏桶算法
            3. 令牌算法
      3. 技术实现
         1. Nginx
         2. guava RateLimiter
         3. tomcat limitlatch
         4. Sentinel & Hystrix
      4. 方案
         1. 同一用户限流，根据UserID限流
         2. 某个IP进行限流
         3. 接口进行限流

      限流是一种有损的技术消峰；验证码、回答问题以及异步化消息队列是无损技术消峰

      ---

   延伸阅读
   • 设计模式——责任链模式
   • 如何设计 API: 基本指南 + 最佳实践
   • 金融行业业务流程指南-三级模型