【深度挖掘Java性能调优】「底层技术原理体系」深入探索Java服务器性能监控Metrics框架的实现原理分析(Counter篇)

news2024/11/21 0:18:10

目录

  • 前提概要
    • 监控工作可以分为四个部分
  • 监控开发任务
    • Metrics中的基础数据类型
      • 计数器(Counter)
        • 统计 API 访问中异常(1000/1500)的次数
        • 统计 API 的调用量
        • 统计特定事件发生的次数
        • Counter的底层原理
          • 基础 (`Base`) 计数器
          • 单元 (`Cell`) 数组
            • 简单的源码案例
          • Counter分析总结
            • 从CPU和内存角度去分析资源开销

前提概要

对于后台服务而言,除了保证每个功能的正常工作,我们还需要了解服务的运行情况,包括机器的物理性能(例如线程数、文件句柄数、内存占用大小、GC时间等)以及业务性能(例如关键流程通过率、QPS以及响应时间等)。目前,常用的做法是通过定义、收集和展示一系列指标(metrics)来完成对后台服务的监控。

监控工作可以分为四个部分

根据以下这四个部分,我们能够完成对后台服务的监控工作,从而能够及时了解和处理服务的运行情况,优化性能,提供更好的用户体验,并确保服务的可靠性和稳定性。
在这里插入图片描述

  • 定义监控数据的产生:我们需要明确定义要监控的数据,包括哪些指标和数据需要收集和监控,以满足监控需求。这可以包括硬件资源利用率、服务的核心性能指标、业务处理的成功率等。

  • 定义监控数据收集的规则:我们需要定义如何收集和存储监控数据。这可能涉及到在代码中嵌入采集指标的逻辑,使用监控代理或导入外部监控系统等方式。关键是确定监控数据的数据源,以及数据如何采集、存储和处理。

  • 数据监控数据的展现形式:需要将收集到的监控数据进行可视化展示,以便更好地理解和分析。这可以包括创建仪表盘、图表、报表或使用专业的监控系统来呈现监控数据,让监控数据更易于理解和分析。

  • 根据监控数据进行报警:根据监控数据设置报警规则,以便在出现异常情况时及时提醒相关人员。这可以通过阈值设置、异常模式识别或使用专业的报警系统来实现。及时的报警能够帮助快速响应和解决问题,确保服务的稳定性和可靠性。

监控开发任务

接下来将逐步介绍如何在Java服务中接入监控服务,我们将从监控数据的产生开始。在本文中,我们将主要基于当前流行的度量框架 codahale.metrics 来进行介绍。

通过引入此依赖项,您可以使用 codahale.metrics 框架中提供的各种功能和特性进行应用程序的度量和监控。

<dependencies>
    <dependency>
        <groupId>com.codahale.metrics</groupId>
        <artifactId>metrics-core</artifactId>
        <version>x.y.z</version>
    </dependency>
</dependencies>

在接下来我们将指导您如何使用 codahale.metrics 库来定义和收集监控数据,展示和分析指标,并根据数据设置报警规则等。codahale.metrics 提供了丰富的功能和灵活的API,可以轻松地与您的Java服务集成,帮助您监控和优化服务的性能、可靠性和稳定性。

Metrics中的基础数据类型

在谈论监控数据的产生时,我们首先需要了解监控库中最常用的三种数据类型,它们分别是:计数器(Counter)、量规(Gauge)和直方图(Histogram)。几乎所有的 Java 监控库都包含了这三种数据类型的实现。

计数器(Counter)

计数器用于记录一个累加值,它表示一个增加或减少的计数。可以通过 inc() 方法增加计数器的值,也可以通过 dec() 方法减少计数器的值。计数器可以用于统计请求次数、错误次数等离散的事件计数。

列举的三种需求场景,可以使用 com.codahale.metrics(或其他类似的监控库)中的不同数据类型来实现。

统计 API 访问中异常(1000/1500)的次数

使用计数器(Counter)来实现。在每次 API 请求中,当发生异常(如 400 或 500 错误)时,通过 inc() 方法将计数器值增加1。

Counter apiErrorCounter = metricRegistry.counter("api.error.counter");
// 在 API 请求处理中,当发生异常时,调用以下代码
apiErrorCounter.inc();
统计 API 的调用量

使用计数器(Counter)来实现。在每次 API 请求时,通过 inc() 方法增加计数器的值。

Counter apiCallCounter = metricRegistry.counter("api.call.counter");
// 在每个 API 请求处理中,调用以下代码
apiCallCounter.inc();
统计特定事件发生的次数

使用计数器(Counter)来记录特定事件发生的次数。在事件发生时,通过 inc() 方法将计数器值增加1。

Counter eventCounter = metricRegistry.counter("event.counter");
// 在特定事件发生时,调用以下代码
eventCounter.inc();

以上示例展示了如何使用计数器来统计异常次数、API 调用量和特定事件发生的次数。可以根据具体需求给计数器命名并使用相应的记录代码。通过监控库提供的方法,可以简单快速地进行数据统计和监控,从而更好地了解和管理应用程序的行为。

Counter的底层原理

Counter 的底层实现主要通过(基础 (Base) 计数器)和(单元 (Cell) 数组)来保证自增的原子性和性能。

com.codahale.metrics.Counter 的源码中,每个 Counter 对象由两部分组成,这是一种称为 “Striped64” 的机制,它是针对高并发情况下的性能优化。

基础 (Base) 计数器

Base 计数器是一个 volatile long 类型的字段,用于存储计数器的初始值及其当前值。它用于低并发情况下对计数进行快速的自增和获取操作。

单元 (Cell) 数组

Cellvolatile long 类型的数组,每个单元内部维护一个计数器的增量值。为了处理高并发情况下的并发访问,Cell 数组采用了分段锁(CAS 操作)的方式,将计数器的自增操作分散到多个单元上。每个线程独占一个单元,当多个线程访问不同的单元时,它们之间不会发生竞争,可以保证并发访问时的性能。

简单的源码案例

通过这些策略和机制的组合,Counter 在具有竞争的情况下保持了较高的性能,同时也考虑了内存消耗的控制,使得其在高并发场景下能够有效地进行计数操作。

public class Counter {
	transient volatile int busy;
	transient volatile long base;
	transient volatile Cell[] cells;
	public void inc(long n) {
		long b;
		if(cells == null || !casBase(b=base, b+n)) {
			//使用cells进行计算
		}
	}
	public long sum() {
		long sum = base;
		Cell[] as = cells;
		if (as != null) {
			int n = as.length;
		for (int i = 0; i < n; ++i) {
			Cell a = as[i];
			if (a != null)
				sum += a.value;
		}
	}	
		return sum;
	}
}

基本的执行流程图:
在这里插入图片描述

Counter分析总结

Counter 的底层实现使用了基础(Base)和单元(Cell)来存储计数值。在高并发情况下,线程会针对不同的 Cell 进行自增操作,从而避免了竞争,减少了资源争用。而在低并发情况下,通过直接对 Base 进行自增操作,避免了锁的开销,提高了性能,也保证了 Counter 的高性能和并发性能。
在这里插入图片描述
这种基于 BaseCell 的实现方式能够平衡高并发和低并发情况下的性能需求,确保了 Counter 的自增操作的原子性和并发性能。

从CPU和内存角度去分析资源开销

对于有竞争的情况,Counter 使用自旋锁来进行同步,这意味着线程会在一个忙等待的循环中等待竞争解决。这种自旋锁的方式避免了线程上下文切换的开销,并且消耗的 CPU 时间较少,从而提高了性能。

为了避免过多使用内存,当单元数组的数量超过 CPU 核心数时,Counter 将不再扩展单元数组的大小,而是保持不变。这样可以避免过多的内存消耗,并具有更好的性能。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1301974.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

MySQL行锁范围分析(行锁、间隙锁、临键锁)

MySQL 中锁的概念 排它锁&#xff08;Exclusive Lock&#xff09; X 锁&#xff0c;也称为写锁&#xff0c;若事务T对对象A加上X锁&#xff0c;则只允许T读取和修改A&#xff0c;其他任何事物都不能再对A 加任何锁&#xff0c;直到T释放A上的锁。 SELECT…FOR UPDATE 对读取的…

SocialSelling社交销售1+5+1方法论系列:社交销售基础思维

社交销售是一个融合系统、个人与组织的营销销售模式&#xff0c;对于企业和销售个体来说&#xff0c;做好这件事首先是理解其次是实操。近期SocialSelling社交销售151方法论系列内容中&#xff0c;我们将对其进行系统阐述。 本篇将侧重151方法论中的第一个“1”&#xff1a;社…

C++ Qt开发:PushButton按钮组件

Qt 是一个跨平台C图形界面开发库&#xff0c;利用Qt可以快速开发跨平台窗体应用程序&#xff0c;在Qt中我们可以通过拖拽的方式将不同组件放到指定的位置&#xff0c;实现图形化开发极大的方便了开发效率&#xff0c;本章将重点介绍QPushButton按钮组件的常用方法及灵活运用。 …

【广州华锐互动】AR昆虫在线教学软件:增强现实技术带你近距离探索微观世界

随着科技的不断发展&#xff0c;教育方式也在不断创新。在这个信息爆炸的时代&#xff0c;传统的教育方式已经无法满足人们对知识的渴望。为了让孩子们更好地了解自然界的奥秘&#xff0c;一款名为“AR昆虫在线教学软件”的应用程序应运而生&#xff0c;它将带领孩子们踏上一段…

gpu版本的GNN的demo

1、当涉及到在GPU上运行图神经网络&#xff08;GNN&#xff09;时&#xff0c;通常使用深度学习框架&#xff0c;如PyTorch或TensorFlow。在这里&#xff0c;我将为您提供一个使用PyTorch Geometric库实现GNN的简单示例。 首先&#xff0c;确保您已经安装了PyTorch和PyTorch G…

dockerfile:创建镜像的方式,船舰自定义的镜像

dockerfile&#xff1a;创建镜像的方式&#xff0c;船舰自定义的镜像 包括配置文件&#xff0c;挂载点&#xff0c;对外暴露的端口&#xff0c;设置环境变量 docker创建镜像的方式 1、基于已有镜像进行创建。 根据官方提供的镜像源&#xff0c;创建镜像&#xff0c;然后拉起…

IT鄙视链:码农之间的情感大戏与编程语言间的较量

在IT圈&#xff0c;茶余饭后的谈资总离不开技术、产品、市场和那些看似高深莫测的“鄙视链”。这些鄙视链&#xff0c;就像一场没有硝烟的战争&#xff0c;把原本应该和谐交流的技术社区变成了一场争夺鄙视链顶端的激战。今天&#xff0c;就让我来为您揭示这个神秘的IT鄙视链。…

CSS 实现丝滑动画

效果展示 CSS 知识点 animation 综合运用 页面整体布局 <div class"box"><div class"circle"></div> </div>编写基础样式 .box {position: relative;width: 400px;height: 400px;border: 80px solid transparent;border-left:…

JVM虚拟机系统性学习-类加载子系统

类加载子系统 类加载的时机 类加载的时机主要有 4 个&#xff1a; 遇到 new、getstatic、putstatic、invokestatic 这四条字节码指令时&#xff0c;如果对应的类没有初始化&#xff0c;则要先进行初始化 new 关键字创建对象时读取或设置一个类型的静态字段时&#xff08;被 …

12.10_黑马数据结构与算法笔记Java

目录 058 链表 e10 判环算法1 thinking&#xff1a;什么是空指针&#xff1f; 058 链表 e10 判环算法2 059 数组 e01 合并有序数组1 059 数组 e01 合并有序数组2 060 队列 链表实现1 061 队列 链表实现2 062 队列 环形数组实现 方法1-1 063 队列 环形数组实现 方法1-2…

CV计算机视觉每日开源代码Paper with code速览-2023.12.5

点击计算机视觉&#xff0c;关注更多CV干货 论文已打包&#xff0c;点击进入—>下载界面 点击加入—>CV计算机视觉交流群 1.【基础网络架构&#xff1a;Transformer】GIFT: Generative Interpretable Fine-Tuning Transformers 论文地址&#xff1a;https://arxiv.org…

计算机网络——期末考试复习资料

什么是计算机网络 将地理位置不同的具有独立功能的多台计算机及其外部设备通过通信线路和通信设备连接起来&#xff1b;实现资源共享和数据传递的计算机的系统。 三种交换方式 报文交换&#xff1a;路由器转发报文&#xff1b; 电路交换&#xff1a;建立一对一电路 分组交换&a…

carla安装中的问题

1、carla carla安装完后&#xff0c;需要使用python调用API去更换地图&#xff0c;增加车辆等 使用Python调用API过程中可能会报错&#xff1a; 报错1&#xff1a;carla API&#xff08;Carla包&#xff09;版本不对 **解决方法&#xff1a;**需要将这个目录下的三个文件拷…

IDEA已经导入了jar包 还是提示找不到类(解决!!!)

项目代码check到本地,导入到idea中后,编译的时候很多类都报错了,打开发现有些框架中的类找不到。 报错:xxxx程序包找不到,xxxx类找不到 类似我框起来的地方是 报红的,utils这个包都找不到 解决方法: 网上1: 项目是依赖了这个jar包的,打开项目配置,查看依赖树: id…

2023.12.9 关于 Spring Boot 事务传播机制详解

目录 事务传播机制 七大事务传播机制 支持当前调用链上的事务 Propagation.REQUIRED Propagation.SUPPORTS Propagation.MANDATORY 不支持当前调用链上的事务 Propagation.REQUIRES_NEW Propagation.NOT_SUPPORTED Propagation.NEVER 嵌套事务 Propagation.NESTED…

优化您的Mac电脑风扇控制体验 - 尝试Macs Fan Control Pro!

在日常使用Mac电脑过程中&#xff0c;我们经常会遇到电脑发热的问题&#xff0c;特别是在运行大型软件或进行高负载任务时。为了保护电脑硬件&#xff0c;一个高效且可靠的风扇控制软件是必不可少的。 Macs Fan Control Pro是一款专为Mac电脑设计的风扇控制软件&#xff0c;它…

区块链技术是什么?解析其基本原理及应用

区块链技术的基本原理 在数字化时代的推动下&#xff0c;区块链技术作为一项革命性的创新&#xff0c;正逐渐渗透到各个领域&#xff0c;引领着未来科技的发展。区块链技术的基本原理大致可以总结为以下 4 点内容&#xff1a; 1. 去中心化&#xff1a;区块链是一个去中心化…

三(二)ts非基础类型(枚举)

数字枚举 使用enum定义一个枚举类型 enum Color {red,yellow,blue } let clr: Color Color.red如上面代码中&#xff0c;我们定义了一个关于颜色的枚举类型&#xff0c;里面的值会从0开始依次递增&#xff0c;也就是说Color.red为0&#xff0c;Color.yellow为1依次类推。当然…

渲染技术在虚拟仿真中的应用

虚拟仿真&#xff08;Virtual Reality&#xff09;是一种仿真技术&#xff0c;它使用计算机生成一个虚拟世界&#xff0c;用户可以通过各种传感通道与这个虚拟世界进行自然的交互。虚拟仿真技术可以创建和体验虚拟世界&#xff0c;使用户可以像在真实世界中一样进行操作和体验。…

Python - 深夜数据结构与算法之 ArrayList

目录 一.引言 二.ArrayList 介绍 1.List 2.Linked List 3.Skip List 三.经典算法实战 1.Two-Sum [1] 2.Three-Sum [15] 3.Merge-Two-Sorted-List [21] 4.Remove-Duplicates-From-Sorted-Array [26] 5.Plus-One [66] 6.Rotate-Array [189] 7. Move-Zero [283] 四.…