每日一博 - 闲聊“突发流量”的应对之道

news2024/11/16 16:18:54

文章目录

  • 概述
  • 思路

在这里插入图片描述


概述

面对“突发流量”的情况,我会采取以下应急措施:

  1. 扩容现有资源。这是最直接和最常用的方法。可以通过增加CPU、内存、节点等来扩容。典型案例是双11等大促期间,阿里会大规模扩容幕布等系统以应对流量激增。
  2. 横向扩展,增加更多服务器或节点。通过增加服务器数量来分摊流量,抵御突发流量冲击。例如网易严选在特大促销日会增加大量计算节点以应对流量激增。
  3. 限流降级,关闭非关键服务。临时关闭不太重要的服务,让服务器资源集中处理关键业务。例如淘宝在双11当天会关闭搜索引擎等服务,全部资源用于应付商城业务。
  4. 负载均衡,多机房部署。将应用部署在不同机房,通过DNS均衡策略分流用户流量,避免单点压力过大。例如京东商城就部署在北京、上海、广州三地机房。
  5. 缓存利用。利用缓存系统的响应速度快的优点,将atic内容缓存在缓存,减少对后端系统的访问。利用率最高的缓存数据可以直接在缓存系统响应用户,而不访问后端系统。典型案例是淘宝商品详情页等静态内容都会缓存在Redis中。

综上,面对突发流量应通过扩容,扩展,限流,负载均衡,缓存等手段来应对,确保系统稳定和可用。并且要从全局角度出发,相互协调各系统之间的关系。


应对突发流量的应急之道可以从以下几个方面入手:

  • 自动化伸缩:通过自动化伸缩技术,可以根据实时监测到的流量情况,自动增加或减少服务器资源。例如,使用云计算平台提供的自动伸缩功能,可以根据负载情况自动增加或减少实例数量,从而保证系统的稳定性和可用性。

  • 缓存技术:通过使用缓存技术,可以将一部分请求缓存到内存中,减轻服务器的负载压力。例如,使用Redis等内存数据库进行缓存,可以大幅提升系统的性能和并发能力。

  • 负载均衡:通过负载均衡技术,将请求分发到多个服务器上进行处理,从而提高系统的并发处理能力。例如,使用Nginx等负载均衡软件进行请求转发,可以有效地提高系统的可用性和性能。

以下是一些真实案例:

  • 2018年“双11”期间,阿里巴巴使用了自主研发的“流量卫士”系统,通过自动化伸缩和负载均衡等技术,成功应对了高峰期每秒4000万次请求的流量压力。

  • 2020年新冠疫情期间,中国政府推出了“健康码”系统,用于实现人员健康信息的管理和防疫溯源。由于用户量暴增,系统面临了巨大的流量压力。为了解决这一问题,系统采用了缓存技术和负载均衡技术,成功应对了每天数亿次请求的流量压力。

  • 2021年5月,美国在线游戏公司Riot Games的《英雄联盟》游戏因为新出的赛季和新英雄的上线,导致服务器流量激增。为了应对这一情况,公司采用了自动化伸缩技术和负载均衡技术,成功应对了每秒超过150万次请求的流量压力。


思路

在这里插入图片描述

戳这里

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/518181.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

lambda处理异常四种方式

最近对接第三方呼叫系统,第三方SDK的所有方法里都有异常抛出,因为用到了lambda,所以异常处理还是很必要的。 本文主要用到了四种解决方案: 直接代码块处理自定义函数式接口,warp静态方法通过Either 类型包装通过Pair 类…

目前收集到好用且免费的ChatGPT镜像站

ChatGPT是一个基于人工智能的聊天机器人,它可以与用户进行自然语言交互。ChatGPT使用了最新的自然语言处理技术,包括深度学习和神经网络,以便更好地理解用户的意图和回答用户的问题。 ChatGPT可以回答各种问题,包括但不限于常见问…

Linux——进程信号2

阻塞信号 信号其他相关常见概念 实际执行信号的处理动作称为信号递达(Delivery) 信号从产生到递达之间的状态,称为信号未决(Pending)。 进程可以选择阻塞 (Block )某个信号。 被阻塞的信号产生时将保持在未决状态,直到进程解除对此信号的阻塞,才执行递达的动作. 注意,阻塞和忽略…

一文4000字用Jmeter +Maven+jenkins实现接口性能全自动化测试

背景: 首先用jmeter录制或者书写性能测试的脚本,用maven添加相关依赖,把性能测试的代码提交到github,在jenkins配置git下载性能测试的代码,配置运行脚本和测试报告,配置运行失败自动发邮件通知&#xff0c…

分布式id解决方法--雪花算法

uuid,jdk自带,但是数据库性能差,32位呀。 mysql数据库主键越短越好,Btree产生节点分裂,大大降低数据库性能,所以uuid不建议。 redis的自增,但是要配置维护redis集群,就为了一个id&a…

【前后端分离博客】学习笔记01 --- 登录模块Sa-Token

前言 用于记录自己学习博客项目的流程 基于Springboot Vue3 开发的前后端分离博客 项目源码:Blog: 基于SpringBoot Vue3 TypeScript Vite的个人博客,MySQL数据库,Redis缓存,ElasticSearch全文搜索,支持QQ、Gite…

20230509MTCNN2

卷积切分图片 怎么切分图片? 使用opencv,PIL切分图片有什么问题? 慢 使用 卷积来切分图片 卷积的运算过程 类似于切图 卷积 对输入图片的尺寸 有没有 的要求? 就是 输入的图片尺寸 必须大于 卷积核的大小 test1.py import torch from torch import nn""&quo…

springboot + vue3实现视频播放Demo

文章目录 学习链接前言ffmpeg安装ffmpeg配置环境变量分割视频文件 后台配置WebConfig 前端代码video.js示例安装依赖视频播放组件效果 Vue3-video-play示例安装依赖main.js中使用视频播放组件效果 学习链接 ffmpeg官网 长时长视频java存储及vue播放解决方法 【 攻城略地 】vue…

BitKeep逆势崛起:千万用户的信任,终点还未到来

在全球范围内,BitKeep钱包如今已拥有超过千万忠实用户。 当我得知这一令人震撼的数字时,既感到惊讶,同时也觉得这是意料之中的事情。几年来关注BitKeep的发展历程,我深切地感受到了这家公司的蓬勃壮大。回顾2018年他们发布的第一个…

linux0.12-8-9-fork.c

[362页] 1、 verify_area函数给其他文件使用的,跳转开始位置; 2、 copy_mem函数复制内存页表; 3、 copy_process函数是fork.c主要函数; 4、find_empty_process函数就2个作用:在一个范围内找last_pid和找空槽&#xff1…

如何利用互联网优势进行茶叶销售?

茶叶是中国传统文化的重要组成部分,具有丰富的文化内涵和高度的营养价值。如今,随着互联网的普及,越来越多的茶叶销售商(文章编辑ycy6221)开始利用互联网的优势来开拓市场。本文将介绍如何利用互联网优势进行茶叶销售。…

SecureCRT的下载安装

亲测成功了,按照下面的步骤完成即可! 下载安工具包包地址连接:网盘地址点击即可 提取码:0lp7 1、下载SecureCRT 2、从百度网盘下载SecureCRT,页面如下 3、安装SecureCRT 4、激活SecureCRT 第一步:打开安装…

自学Java怎么找工作?好程序员学员大厂面试经验分享!

简历要详细: 简历中的项目用到的技术点和个人负责的模块尽量写详细一些。其次,根据自己项目中用到的熟悉的技术点,在个人技能介绍模块去突出,面试官基本会根据你简历上写的去提问的,这样我们回答起来就会更加得心应手。…

【多线程初阶四】单例模式阻塞队列

目录 🌟一、单例模式 🌈1、饿汉模式 🌈2、懒汉模式(重点!) 🌟二、工厂模式 🌟三、阻塞式队列 🌈1、阻塞队列是什么? 🌈2、…

如何注册appuploader账号​

如何注册appuploader账号​ 我们上一篇讲到appuploader的下载安装,要想使用此软件呢,需要注册账号才能使用,今​ 天我们来讲下如何注册appuploader账号来使用软件。​ 1.Apple官网注册Apple ID​ 首先我们点击首页左侧菜单栏中的“常见网…

为什么企业选择局域网即时通讯软件?局域网即时通讯软件哪家好?

在当今互联网普及的时代,企业内部的沟通对企业管理有着非常重要的意义,即时通讯软件已成为企业工作中广泛采用的沟通工具。 然而,随着企业内部敏感信息通过互联网泄露的频繁发生,例如在工作期间,企业员工自发地频繁使…

盘点四款免费在线采购管理系统

今天来盘点五款免费在线采购管理系统。中小型企业在选择采购管理系统时成本是需要考虑的重要因素之一,因此免费在线的采购管理系统是最合适的第一步选择,本文将为您盘点免费在线采购管理系统:1.简道云;2.甄云;3.携客云…

【正点原子STM32连载】 第九章 STM32启动过程分析 摘自【正点原子】STM32F103 战舰开发指南V1.2

1)实验平台:正点原子stm32f103战舰开发板V4 2)平台购买地址:https://detail.tmall.com/item.htm?id609294757420 3)全套实验源码手册视频下载地址: http://www.openedv.com/thread-340252-1-1.html 第九章…

Redis可持久化详解1

目录 Redis可持久化 以下是RDB持久化的代码示例: 面试常问 1什么是Redis的持久化机制? 2Redis支持哪些持久化机制?它们有什么区别? 3Redis的RDB持久化机制的原理是什么? 4Redis的AOF持久化机制的原理是什么&…

《三》包管理工具 npm

包管理工具 npm: npm:Node Package Manager,Node 包管理器,目前已经不仅仅作为 Node 的包管理工具,也作为前端的包管理工具来管理包。 npm 管理的包是存放在一个名为 registry 的仓库中的,发布一个包时是…