OOM如何处理

news2025/3/3 5:32:23

1. OOM是什么

OOM是Out of Memory的缩写,意思是内存溢出。它是指程序在申请内存时,系统可分配的内存已不足,从而导致程序运行失败。

2. OOM发生的一些情况

  1. Java heap space

      1.1 解释说明

    1. 当堆内存(Heap Space)没有足够空间存放新创建的对象时,就会抛出 java.lang.OutOfMemoryError:Javaheap space 错误

    2. 可以对程序日志中的 OutOfMemoryError 配置关键字告警

      1.2 原因分析

      Java heap space 错误产生的常见原因可以分为以下几类:

    1. 请求创建一个超大对象,通常是一个大数组。

    2. 超出预期的访问量/数据量,通常是上游系统请求流量飙升,常见于各类促销/秒杀活动,可以结合业务流量指标排查是否有尖状峰值。

    3. 过度使用终结器(Finalizer),该对象没有立即被 GC。

    4. 内存泄漏(Memory Leak),大量对象引用没有释放,JVM 无法对其自动回收,常见于使用了 File 等资源没有回收。

      1.3 解决方案

      针对大部分情况,通常只需要通过 -Xmx 参数调高 JVM 堆内存空间即可。如果仍然没有解决,可以参考以下情况做进一步处理:

    1. 如果是超大对象,可以检查其合理性,比如是否一次性查询了数据库全部结果,而没有做结果数限制。

    2. 如果是业务峰值压力,可以考虑添加机器资源,或者做限流降级。

    3. 如果是内存泄漏,需要找到持有的对象,修改代码设计,比如关闭没有释放的连接。

      1.4 增加内存

    java -Xms4096m -Xmx4096m -jar qualityserver.jar
    1. 在Java虚拟机(JVM)中,Xms和Xmx是两个重要的参数,用于设置JVM堆的初始大小和最大大小。

    2. Xms参数用于设置JVM堆的初始大小,即在JVM启动时分配给Java堆的最小内存量。默认值通常为物理内存的1/64,但一般建议将其设置为最大堆大小的1/4或1/2。如果堆内存不足,JVM会不断触发垃圾回收,导致程序性能下降。如果堆内存过大,会导致系统资源的浪费。

    3. Xmx参数用于设置JVM堆的最大大小,即Java堆能够使用的最大内存量。当Java堆达到最大内存量时,就会发生OutOfMemoryError。默认值通常为物理内存的1/4,但一般建议将其设置为系统可用内存的70%至80%。

      1.5 dump堆内存

    1. jmap命令

    jmap -dump:format=b,live,file=文件名 进程PID,文件名可以使txt,bin,hprof等
    
    [test@localhost ~]$ jps
    3653 Elasticsearch
    6078 Jps
    [test@localhost ~]$ 
    [test@localhost ~]$ 
    [test@localhost ~]$ jmap -dump:format=b,live,file=a.hprof 3653
    Dumping heap to /home/test/a.hprof ...
    Heap dump file created [203385773 bytes in 0.591 secs]
    [test@localhost ~]$ ls
    a.hprof

      注意:JVM 生成 Heap Dump 的时候,虚拟机是暂停一切服务的。

      如果是线上系统执行 Heap Dump 时需要注意

    -XX:+HeapDumpOnOutOfMemoryError :当 JVM 发生 OutOfMemoryError 时,会自动将当前的 JVM 堆转储到文件,以供后续分析使用。

    -XX:HeapDumpPath:用于指定当 JVM 发生 OutOfMemoryError 时,堆转储文件的保存路径。

    -XX:HeapDumpPath=/path/to/heapdump.hprof

    -XX:+HeapDumpBeforeFullGC :用于在执行 Full GC(全局垃圾回收)之前将堆转储(Heap Dump)到文件。

    使用 -XX:+HeapDumpBeforeFullGC 参数后,当 JVM 判断需要执行 Full GC 时,会先触发一次堆转储,将当前的 JVM 堆快照保存到文件中,然后执行 Full GC。这样可以获取到执行 Full GC 前的堆内存使用情况,以便更好地分析 Full GC 前后的内存变化和找出潜在的内存问题。

    需要注意的是,开启 -XX:+HeapDumpBeforeFullGC 会对性能产生一定的影响。每次执行 Full GC 前都会进行堆转储,这会增加额外的 I/O 操作,从而影响 JVM 的性能。因此,建议仅在需要调试特定问题时才使用此参数,平时不建议开启。

    使用方式:在启动 JVM 时,加入 -XX:+HeapDumpBeforeFullGC 参数即可开启此功能。

      考虑到生产环境中几乎不可能在线对其进行分析,大都是采用离线分析,因此使用jmap+MAT工具是最常见的组合。

    1. 使用VisualVM可以导出堆dump文件

  2. 通过配置VM参数生成。

  1. GC overhead limit exceeded

    1. 当 Java 进程花费 98% 以上的时间执行 GC,但只恢复了不到 2% 的内存,且该动作连续重复了 5 次,就会抛出 java.lang.OutOfMemoryError:GC overhead limit exceeded 错误。简单地说,就是应用程序已经基本耗尽了所有可用内存, GC 也无法回收。参考:Java heap space

  1. Permgen space

      3.1 解释说明

    1. 该错误表示永久代(Permanent Generation)已用满,通常是因为加载的 class 数目太多或体积太大。

      3.2 原因分析

      永久代存储对象主要包括以下几类:

    1. 加载/缓存到内存中的 class 定义,包括类的名称,字段,方法和字节码;

    2. 常量池;

    3. 对象数组/类型数组所关联的 class;

    4. JIT 编译器优化后的 class 信息

    5. PermGen 的使用量与加载到内存的 class 的数量/大小正相关。

      3.3 解决方案

      根据 Permgen space 报错的时机,可以采用不同的解决方案,如下所示:

    1. 程序启动报错,修改 -XX:MaxPermSize 启动参数,调大永久代空间。

    2. 应用重新部署时报错,很可能是没有应用没有重启,导致加载了多份 class 信息,只需重启 JVM 即可解决。

    3. 运行时报错,应用程序可能会动态创建大量 class,而这些 class 的生命周期很短暂,但是 JVM 默认不会卸载 class,可以设置 -XX:+CMSClassUnloadingEnabled-XX:+UseConcMarkSweepGC这两个参数允许 JVM 卸载 class。

    4. 如果上述方法无法解决,可以通过 jmap 命令 dump 内存对象,然后利用 Eclipse MAT逐一分析开销最大的 classloader 和重复 class。

  1. Metaspace

  1. JDK 1.8 之后使用 Metaspace 替换了永久代(Permanent Generation),该错误表示 Metaspace 已被用满,通常是因为加载的 class 数目太多或体积太大。

  2. 此类问题的原因与解决方法跟 Permgenspace 非常类似,可以参考上文。需要特别注意的是调整 Metaspace 空间大小的启动参数为 -XX:MaxMetaspaceSize

  1. Unable to create new native thread

      5.1 解释说明

    1. 每个 Java 线程都需要占用一定的内存空间,当 JVM 向底层操作系统请求创建一个新的 native 线程时,如果没有足够的资源分配就会报此类错误。

      5.2 原因分析

      JVM 向 OS 请求创建 native 线程失败,就会抛出 Unableto createnewnativethread,常见的原因包括以下几类:

    1. 线程数超过操作系统最大线程数 ulimit 限制;

    2. 线程数超过 kernel.pid_max(只能重启);

    3. native 内存不足;

          该问题发生的常见过程主要包括以下几步:

      1. JVM 内部的应用程序请求创建一个新的 Java 线程;

      2. JVM native 方法代理了该次请求,并向操作系统请求创建一个 native 线程;

      3. 操作系统尝试创建一个新的 native 线程,并为其分配内存;

      4. 如果操作系统的虚拟内存已耗尽,或是受到 32 位进程的地址空间限制,操作系统就会拒绝本次 native 内存分配;

      5. JVM 将抛出 java.lang.OutOfMemoryError:Unableto createnewnativethread 错误。

      5.3 解决方案

    1. 升级配置,为机器提供更多的内存;

    2. 降低 Java Heap Space 大小;

    3. 修复应用程序的线程泄漏问题;

    4. 限制线程池大小;

    5. 使用 -Xss 参数减少线程栈的大小;

    6. 调高 OS 层面的线程最大数:执行 ulimia-a 查看最大线程数限制,使用 ulimit-u xxx 调整最大线程数限制。

  1. Out of swap space

      6.1 解释说明

      该错误表示所有可用的虚拟内存已被耗尽。虚拟内存(Virtual Memory)由物理内存(Physical Memory)和交换空间(Swap Space)两部分组成。当运行时程序请求的虚拟内存溢出时就会报 Outof swap space? 错误。

      6.2 原因分析

      该错误出现的常见原因包括以下几类:

      1、地址空间不足;

      2、物理内存已耗光;

      3、应用程序的本地内存泄漏(native leak),例如不断申请本地内存,却不释放。

      4、执行 jmap-histo:live <pid> 命令,强制执行 Full GC;如果几次执行后内存明显下降,则基本确认为 Direct ByteBuffer 问题。

      6.3 解决方案

      根据错误原因可以采取如下解决方案:

      1、升级地址空间为 64 bit;

      2、使用 Arthas 检查是否为 Inflater/Deflater 解压缩问题,如果是,则显式调用 end 方法。

      3、Direct ByteBuffer 问题可以通过启动参数 -XX:MaxDirectMemorySize 调低阈值。

      4、升级服务器配置/隔离部署,避免争用。

  1. Kill process or sacrifice child

      7.1 解释说明

      有一种内核作业(Kernel Job)名为 Out of Memory Killer,它会在可用内存极低的情况下“杀死”(kill)某些进程。OOM Killer 会对所有进程进行打分,然后将评分较低的进程“杀死”,具体的评分规则可以参考 Surviving the Linux OOM Killer。

      不同于其他的 OOM 错误, Kill process or sacrifice child 错误不是由 JVM 层面触发的,而是由操作系统层面触发的。

      7.2 原因分析

      默认情况下,Linux 内核允许进程申请的内存总量大于系统可用内存,通过这种“错峰复用”的方式可以更有效的利用系统资源。

      然而,这种方式也会无可避免地带来一定的“超卖”风险。例如某些进程持续占用系统内存,然后导致其他进程没有可用内存。此时,系统将自动激活 OOM Killer,寻找评分低的进程,并将其“杀死”,释放内存资源。

      7.3 解决方案

    1. 升级服务器配置/隔离部署,避免争用。

    2. OOM Killer 调优

  1. Requested array size exceeds VM limit

    1. JVM 限制了数组的最大长度,该错误表示程序请求创建的数组超过最大长度限制。罕见

  1. Direct buffer memory

      9.1 解释说明

    1. Java 允许应用程序通过 Direct ByteBuffer 直接访问堆外内存,许多高性能程序通过 Direct ByteBuffer 结合内存映射文件(Memory Mapped File)实现高速 IO。

      原因分析

    1. Direct ByteBuffer 的默认大小为 64 MB,一旦使用超出限制,就会抛出 Directbuffer memory 错误。

      解决方案

    1. Java 只能通过 ByteBuffer.allocateDirect 方法使用 Direct ByteBuffer,因此,可以通过 Arthas 等在线诊断工具拦截该方法进行排查。

    2. 检查是否直接或间接使用了 NIO,如 netty,jetty 等。

    3. 通过启动参数 -XX:MaxDirectMemorySize 调整 Direct ByteBuffer 的上限值。

    4. 检查 JVM 参数是否有 -XX:+DisableExplicitGC 选项,如果有就去掉,因为该参数会使 System.gc() 失效。

    5. 检查堆外内存使用代码,确认是否存在内存泄漏;或者通过反射调用 sun.misc.Cleanerclean() 方法来主动释放被 Direct ByteBuffer 持有的内存空间。

    6. 内存容量确实不足,升级配置。

给开发组长的建议

  1. 虚拟机启动内存分配的要合理

-Xms4096m -Xmx4096m

  1. 虚拟机启动设置OOM参数

-XX:+HeapDumpOnOutOfMemoryError

-XX:HeapDumpPath=/path/to/heapdump.hprof

给运维的建议

  1. OOM参数,

  2. 日志监控 OutOfMemoryError ,告警

  3. 容器部署,dump文件的持久化,制作docker image的时候需要包含openjdk的jdk工具

参考:

https://ap6gw3s8yr.feishu.cn/docx/XL03d7iUNoqWv5xUsCucsYsCnBh

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1157842.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

使用VS2017打包安装程序如何修改默认安装路径

步骤如下&#xff1a; 首先找到安装项目 打开文件系统 点击鼠标右键&#xff0c;view-文件系统。这时打开文件系统 找到Application Folder的属性窗口 修改DefaultLocation的属性 如果想改变默认的安装路径&#xff0c;修改DefaultLocation的属性。 去掉计算机的名称。 完…

2023世界传感器大会即将开启,汉威科技向全球发出邀请

由河南省政府、中国科学技术协会主办&#xff0c;郑州市人民政府、中国仪器仪表学会、河南省工业和信息化厅、河南省科学技术协会承办的“2023世界传感器大会”将于11月5日~7日在郑州国际会展中心举办。 传感器是链接数字世界与物理世界的桥梁&#xff0c;是万物互联、智慧化时…

pytorch复现_NMS

NMS&#xff08;非极大值抑制&#xff09;阈值是用于控制在一组重叠的边界框中保留哪些边界框的参数。当检测或识别算法生成多个边界框可能涵盖相同物体时&#xff0c;NMS用于筛选出最相关的边界框&#xff0c;通常是根据它们的置信度分数。 具体来说&#xff0c;NMS的工作原理…

大数据预处理与采集实验三:Urllib的GET和POST请求(1)

目录 Urllib基本操作-GET ➢没有进行utf-8编码的输出 ➢经过utf-8decode之后的输出 ➢ Timeout参数&#xff1a;捕获由于连接超时而引发的异常 ◆Urllib基本操作-定制请求头 ➢ 在GET请求中加入多个访问参数 ◆Urllib基本操作-POST ➢有道词典网页爬取&#xff1a;找到…

中文编程软件哪个好用,初学编程软件推荐

中文编程软件哪个好用&#xff0c;初学编程软件推荐 给大家分享一款中文编程工具&#xff0c;零基础轻松学编程&#xff0c;不需英语基础&#xff0c;编程工具可下载。 这款工具不但可以连接部分硬件&#xff0c;而且可以开发大型的软件&#xff0c;想如图这个实例就是用这个…

关于Kubernetes——cka认证含金量怎么样?

2019年和2020年&#xff0c;Rancher分别对近1,000名专业人员展开了调查。调查结果表明&#xff0c;Kubernetes在不同行业连续两年保持了90%以上的采用率&#xff0c;而生产环境中的容器采用率从2019年的85%增长至2020年的87%。 SUSE大中华区总裁秦小康表示&#xff1a;“从调研…

Seata入门系列【18】Seata集成Mybatis-Plus多数据源

1 前言 在使用单个服务&#xff0c;多数据源时&#xff0c;也存在分布式事务问题。 当单体系统需要访问多个数据库&#xff08;实例&#xff09;时就会产生分布式事务。 比如&#xff1a;用户信 息和订单信息分别在两个MySQL实例存储&#xff0c;用户管理系统删除用户信息&am…

Scala和Play WS库编写的爬虫程序

使用Scala和Play WS库编写的爬虫程序&#xff0c;该程序将爬取网页内容&#xff1a; import play.api.libs.ws._ import scala.concurrent.ExecutionContext.Implicits.global ​ object BaiduCrawler {def main(args: Array[String]): Unit {val url ""val proxy…

超详细的接口测试用例编写

自动化始终只是辅助测试工作的一个手段&#xff0c;对于测试人员而言&#xff0c;测试基础和测试用例的设计才是核心。如果测试用例的覆盖率或者质量不高&#xff0c;那将这部分用例实现为自动化用例的意义也就不大了。 那么&#xff0c;接口测试用例应该怎么编写呢&#xff1…

Powercli批量修改分布式交换机端口组

背景 需求&#xff1a; 批量修改虚拟机的分布式端口组 解决&#xff1a; 三条命令解决&#xff1a;先获取目标虚拟机、获取目标端口组、修改虚拟机端口组、检查虚拟机状态。 $vm Get-VM -Name <虚拟机名称> $portGroup Get-VirtualPortGroup -Name <端口组名称…

数据出境安全评估:重要性和实施策略

数据出境安全评估是确保数据安全和合规的重要环节。随着全球化的加速和信息技术的快速发展&#xff0c;企业和个人需要处理大量的数据&#xff0c;其中许多数据涉及个人隐私和企业机密。因此&#xff0c;数据出境安全评估对于保护数据安全和隐私权至关重要。 一、数据出境安全评…

深度学习_3 数据操作之线代,微分

线代基础 标量 只有一个元素的张量。可以通过 x torch.tensor(3.0) 方式创建。 向量 由多个标量组成的列表&#xff08;一维张量&#xff09;。比如 x torch.arange(4) 就是创建了一个1*4的向量。可以通过下标获取特定元素&#xff08;x[3]&#xff09;&#xff0c;可以通…

什么是Webpack的热模块替换(Hot Module Replacement)?它的作用是什么?

聚沙成塔每天进步一点点 ⭐ 专栏简介 前端入门之旅&#xff1a;探索Web开发的奇妙世界 欢迎来到前端入门之旅&#xff01;感兴趣的可以订阅本专栏哦&#xff01;这个专栏是为那些对Web开发感兴趣、刚刚踏入前端领域的朋友们量身打造的。无论你是完全的新手还是有一些基础的开发…

springboot医院绩效考核系统源码

医院绩效考核系统是一种以人力资源管理为基础&#xff0c;选用适合医院组织机构属性的绩效理论和方法&#xff0c;基于医院战略目标&#xff0c;构建全方位的绩效考评体系&#xff0c;在科学、合理的绩效管理体系基础上&#xff0c;采用科学管理的方法&#xff0c;如平衡计分卡…

CS224W4.2——计算PageRank

在介绍了PageRank及其公式之后&#xff0c;我们讨论了求解PageRank的方法。我们提出了求解图的随机邻接矩阵(即PageRank)的主特征向量的幂次迭代方法。此外&#xff0c;我们在之前的PageRank实现中引入了两个问题:死角&#xff08;dead ends&#xff09;(没有外部链接的节点)和…

HWebkit库的程序示例

HWebkit库的爬虫程序&#xff0c;并且能够使用指定的服务器。以下是代码的每一行的中文解释&#xff1a; import HWebkit import Network.HTTP.Client import Network.HTTP.Client.TLS import Data.Text.Encoding ​ -- 创建服务器的连接&#xff0c;使用的端口和主机是 proxy…

(免费领源码)Java#springboot#Mysql智慧图书馆系统34117-计算机毕业设计项目选题推荐

摘 要 大数据时代下&#xff0c;数据呈爆炸式地增长。为了迎合信息化时代的潮流和信息化安全的要求&#xff0c;利用互联网服务于其他行业&#xff0c;促进生产&#xff0c;已经是成为一种势不可挡的趋势。在图书馆管理的要求下&#xff0c;开发一款整体式结构的智慧图书馆系统…

经营抖音小店的新手需要遵守的规则和注意事项

作为新手开抖音小店&#xff0c;四川不若与众帮你整了需要注意以下规则&#xff1a; 1. 注重产品质量&#xff1a;提供高质量的产品是吸引用户的关键。确保商品的质量可靠&#xff0c;符合标准&#xff0c;避免虚假宣传或低劣产品的问题。 2. 诚信经营&#xff1a;尽量遵循交易…

【JavaEE初阶】 文件内容的读写 —— 数据流

文章目录 &#x1f334;数据流的概念&#x1f6a9;数据流分类 &#x1f333;字节流的读写&#x1f6eb;InputStream&#xff08;从文件中读取字节内容)&#x1f6a9;实例一&#x1f6a9;实例二&#x1f6a9;利用 Scanner 进行字符读取 &#x1f6ec;OutputStream(向文件中写内容…

数据持久化的利器,Python中的pickle模块详解

Python数据序列化和反序列化时&#xff0c;pickle模块是一个非常有用的工具。它允许将Python对象转换为字节流&#xff0c;以便存储在文件中或通过网络传输&#xff0c;然后将这些字节流重新转换回Python对象。 什么是Pickle&#xff1f; pickle是Python标准库中的一个模块&a…