解决 Jenkins 性能缓慢的问题~转

news2024/11/17 19:43:22

解决 Jenkins 性能缓慢的问题

Docker中文社区

Docker中文社区

​​

计算机技术与软件专业技术资格持证人

2 人赞同了该文章

没有什么比缓慢的持续集成系统更令人沮丧的了。它减慢了反馈循环并阻止代码快速投入生产。虽然像使用性能更好的服务器可以为您争取时间,但您最终必须投资于维持持续集成工作流程的成本。

Jenkins 是目前最流行的 CI/CD 工具之一,但随着时间的推移,用户经常会遇到滞后和响应缓慢问题。在本指南中,我将分享一些 Jenkins 性能问题的概述,以及一些无需升级硬件即可显着提高性能的技巧。

1. 为什么 Jenkins 如此受欢迎的 CI/CD 选择?

Jenkins 是一种基于 Java 的开源工具,成千上万的开发人员在数十万次安装中使用它,使其成为最受欢迎的自动化集成工具。这种广泛使用意味着很容易找到对 Jenkins 的支持和提示,但这并不是它如此广泛使用的唯一原因。

Jenkins 为 CI 工作流程带来了许多有趣的范例,包括:

  • 更快的部署。在所有开发人员提交他们的代码之后,一次测试和部署构建的日子已经一去不复返了。使用 Jenkins 的自动化 CI/CD 管道,无论何时开发人员提交代码,它都会在一天中跨多个周期进行构建和测试。
  • 可扩展的主代理架构。在大规模管理分布式构建时,Jenkins 可能是一个不错的选择。Jenkins 的主服务器是调度构建作业并将它们分配给代理(以前是从属)执行的主服务器。此模式允许您在一台或数百台服务器上运行 Jenkins 以加快构建速度。
  • 数以千计的插件:作为一个开源平台,Jenkins 为其他开发人员构建的持续集成提供了大量插件。这允许您扩展基本功能,而无需在内部编写或维护大量额外代码。

2. 克服常见的 Jenkins 性能问题

随着时间的推移,构建频率的增加、并行运行的多个作业以及构建复杂性的增加可能会导致 Jenkins 出现性能问题。您的体验可能会因您的使用场景而异,但一些常见问题包括:

  • 每次运行时构建似乎都“卡在”特定步骤的“中断”。
  • 达到单个机器或主节点的内存限制。
  • CPU 瓶颈会减慢构建的特定部分。
  • 插件或脚本中的错误或低效代码。
  • 由于这些问题可能是由多种根本原因引起的,因此很难概括解决方案,但 Jenkins 用户可能想要研究一些事情。以下是一些最通用的方法,您可以提高 Jenkins 构建性能并限制上述问题的频率。
2.1 避免在管道中使用复杂的 Groovy 脚本

Jenkins Groovy脚本控制台在主节点上执行并直接使用主资源,例如CPU和存储器。因此,建议您减少管道中 Groovy 脚本的数量和复杂性,转而可以直接使用在每个代理上运行的插件。

在 Jenkins 中要避免的最常见的 Groovy 方法是 JsonSlurper、Jenkins.getInstance 和 HttpRequest。Jenkins在其博客上有更多关于可扩展管道代码和要避免的操作的建议。

2.2 在主节点上保持最少的构建

Jenkins 的主节点位于应用程序运行的整个 CI/CD 流程的中心。因此,主节点上的构建数量会显着影响资源使用。在主节点上保持较少的构建将为代理节点留出足够的 CPU 和内存来安排和触发作业。

您可以在工作中使用“限制项目可以运行的位置”选项。虽然 Jenkins 仍将在主节点上运行轻量级执行器,但您的重量级执行器将在代理节点上运行。

将主节点视为 Jenkins 的大脑。与代理不同,主节点不能被清除或替换。因此,为确保最佳 CI/CD 功能,请考虑对 Jenkins 进行一些性能调整,并将主节点从不必要的任务中解放出来。这将为您提供足够的内存和 CPU 来有效调度和构建代理上的触发器。

2.3 不要过渡 Jenkins 主节点插件安装

DevOps 专业人员经常跨多个团队和项目工作,以完成与 CI/CD 相关的任务。如果这是您的情况,请注意不要给单个 Jenkins master 带来负担。相反,创建多个主控。多个 master 将确保为 master 分配项目特定的资源,并且您还将避免插件冲突。

此外,不要设置可能在周期中的任何地方失败的长时间构建,记住将构建分解为多个较小的作业。

2.4 轻松管理代理

在设置 Jenkins 时,正确设置代理很重要。您希望确保在时机成熟时,您可以轻松添加新代理或替换现有代理。为此,请考虑为代理创建虚拟机镜像。您也可以考虑在 Kubernetes 或Amazon EKS等可扩展集群中的Docker 容器内运行 Jenkins。

使用具有通用性的代理也是一个好主意;一个代理应该运行多个不同的作业并最大限度地利用资源。

2.5 删除构建历史

一段时间后,Jenkins 构建可能会堆积起来,磁盘消耗可能会失控。开发人员经常忽略 Jenkins 的Discard Old Builds选项。设置指标,例如构建数量和保留构建和工件的天数,位于 Jenkins Log Rotation 菜单下。

与其让旧版本累积并消耗文件系统,开发人员可以启用Discard Old Builds并在 Jenkins 作业完成后享受自动资源使用清理。您还可以使用 G1 垃圾收集器来代替 Java 8 的默认Parallel GC,因为前者是一种服务器风格的垃圾收集器,具有较低的 GC 暂停时间。

也可以通过 Jenkins 命令行手动删除构建,或者使用定期清理旧构建的cron 作业。您可以在此参考文章中找到丢弃旧构建数据的其他选项https://support.cloudbees.com/hc/en-us/articles/215549798-Deleting-Old-Builds-Best-Strategy-for-Cleanup-and-disk-space-management

2.6 防止并行作业中的资源冲突

并行运行的作业可能需要独占访问端口或资源。这可能会导致冲突、构建失败并进一步减慢 Jenkins 流水线。例如,如果您并行运行多个构建,则它们在访问资源时很有可能发生冲突,例如 Postgres 的数据库端口 5432。

Jenkins 提供Throttle Concurrent Builds插件来帮助调节 Jenkins 节点上的并发构建数量:

//Throttleasingleoperation throttle(['test_1']){ node(){ sh"sleep100" echo"Done" } }

2.7 控制堆大小

您想创建以性能为导向且永不会因内存泄漏或内存不足错误而失败的 CI/CD 管道吗?注意堆大小。随着 Jenkins 构建数量的增长,如果不注意默认堆大小可能会导致内存不足错误。

大多数现代 Java 应用程序在启动期间都使用最大堆大小配置。为了让 Jenkins 顺利运行,请将最大堆大小属性降低到最大4 GB。您可以随时间增加堆大小,具体取决于 Jenkins 构建。

要将堆大小设置为 4 GB:

  • /etc/default/jenkins
  • JAVA_ARGS="-Xmx4096m"
2.8 避免插件过载

Jenkins 拥有超过一千个可用插件,为其用户提供了许多功能来增强他们的 CI/CD 管道。但是,在向管道添加插件和外部服务时,请牢记性能。将 Jenkins 与外部服务集成通常会减慢 Jenkins UI 并导致不利影响,例如代理丢失或断开连接。

为了确定插件是否导致您的构建速度变慢,您可以尝试在禁用所有或部分插件的情况下运行构建。逐渐添加每个返回以确定导致瓶颈的原因。找到导致性能问题的插件(或插件组合)后,您有几个选择:

  • 通过搜索Jenkins Plugin Index找到替换插件。
  • 通过检查changelog来查看Jenkins 是否添加了对这个特性的原生支持。您可能必须升级 Jenkins 才能获得最新功能,但这通常是提高性能的好主意。
  • 用自定义脚本替换插件,记住这可能会引入新的性能问题。不过,如果您安装一个复杂的插件,但只使用一两个小功能,脚本可能会更有效。
  • 如果您可以没有它,请删除该插件。有时这是一个值得的权衡。

3.0 跟踪 Jenkins 性能

当您开始调整 Jenkins 性能时,您可能有兴趣添加一个插件来帮助监控和提高性能。例如,您可以利用Jenkins Monitoring 插件深入了解您的 CI/CD 管道,包括:

  • 错误日志
  • CPU、内存和平均系统负载图表
  • 关于 HTTP 会话和 HTTP 响应时间的报告
  • 构建时间和构建步骤的详细统计信息
  • 所有节点的聚合堆直方图

Jenkins 性能监控工具

这可以帮助您评估性能调整的有效性,并在您继续改进 Jenkins 安装时为您提供指导。

4.0 总结

Jenkins 的响应能力问题很常见,尤其是在处理较重的构建时。损坏的 Jenkins CI/CD 管道可能会拖延您的开发团队并创建不必要的依赖项。本文中讨论的技巧应该可以帮助您显着提高 Jenkins CI/CD 管道的性能。

本文转载自:「云原生技术爱好者社区」,原文: https://mp.weixin.qq.com/s/u34d-xTZZDs53ZLfqtilxQ,版权归原作者所有。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1066411.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

AdaBoost(上):数据分析 | 数据挖掘 | 十大算法之一

⭐️⭐️⭐️⭐️⭐️欢迎来到我的博客⭐️⭐️⭐️⭐️⭐️ 🐴作者:秋无之地 🐴简介:CSDN爬虫、后端、大数据领域创作者。目前从事python爬虫、后端和大数据等相关工作,主要擅长领域有:爬虫、后端、大数据…

张量-复数操作函数

tf.complex(real,imag,name None),该函数用于将两实数转化为复数。 示例代码如下: import tensorflow.compat.v1 as tf tf.disable_v2_behavior()real tf.constant([2.25,3.25],dtype tf.float64) imag tf.constant([4.75,5.75],dtype tf.float64)with tf.Session() as …

Bigemap中如何添加21级的影像图

工具 Bigemap gis office地图软件 BIGEMAP GIS Office-全能版 Bigemap APP_卫星地图APP_高清卫星地图APP 很多人在咨询如何查看21级的影像图 这里先来说一下影像的像素分辨率,一般17级是1米的、18级是0.5米、19级是0.25米以此类推,咱们国家测绘要求允…

HTTP/2和HTTP/3简介(上)(下)【中科大-郑烇老师】

文章目录 我的总结:HTTP 1.0HTTP 1.0 支持 多个并行连接HTTP 1.1 持久连接(非流水线和流水线) HTTP/2HTTP /3HTTP的演化 from : https://www.bilibili.com/video/BV1R34y1G76h/?spm_id_from333.788&vd_source21cce77bb69d40a…

Zookeeper经典应用场景实战(二)

文章目录 1、 Zookeeper 分布式锁实战1.1、 什么是分布式锁1.2、 基于数据库设计思路1.3、 基于Zookeeper设计思路一1.4、 基于Zookeeper设计思路二 1、 Zookeeper 分布式锁实战 1.1、 什么是分布式锁 在单体的应用开发场景中涉及并发同步的时候,大家往往采用Sync…

Bootstrap对段落和文本的设置(与段落-和文本相关的类)

目录 01-利用lead类突出显示段落文本02-为段落添加强调样式03-给段落文字添加鼠标停留时的说明语04-添加引用信息05-文本对齐(左对齐、居中对齐、右对齐、两端对齐)06-阻止文本换行07-以省略号显示溢出的文本内容08-转换文本内容中字母的大小写09-设置文本字体的粗细和斜体10-取…

The Sandbox 与 TB Media Global 达成合作

这家总部位于泰国的公司以开发原创、适合家庭观看的内容而闻名,将在 The Sandbox 中推出新的虚拟体验。 备受赞誉的 IP 开发公司 T&B Media Global 正式加入 The Sandbox 元宇宙。该公司以专注于故事讲述艺术而闻名。这次合作不仅为虚拟世界带来了新的维度&…

java常见API----indexof

API indexof API toUpperCase()用法及实例: package daysreplace;import java.util.Locale;public class IndexofApiTest {public static void main(String[] args) {String str "nanyanghhhhh";String bigStr "KKKKAAAAHHHH";System.…

4.物联网射频识别,RFID开发【智能门禁项目】

补充:学习路径 一。项目介绍及需求分析 1.酒店智能门禁使用场景介绍 1.客人入住 客人在前台办理入住手续,前台管理员通过门禁管理系统为客户开一张门禁卡 客户持卡到相应客房,用IC 卡刷卡开门 客人过了入住时间后,卡自动失效&a…

第十课 贪心

文章目录 第十课 贪心lc 322.零钱兑换--中等题目描述代码展示 lc860.柠檬水找零--简单题目描述代码展示 lc455.分发饼干--简单题目描述代码展示 lc122.买卖股票的最佳时机II--中等题目描述代码展示 lc45.跳跃游戏II--中等题目描述代码展示 lc1665.完成所有任务的最少初始能量--…

WPF中样式静态、动态资源、资源字典

1、绑定静态资源后,样式不会发生改变 绑定动态资源后,资源样式发生改变,控件也会改变 2、资源字典

为什么越来越多的人转行网络安全?

为什么越来越多的人转行网络安全? 目前,我国互联网已经从前期的爆发增长进入稳定发展阶段,同时每年大量计算机相关专业的毕业生进入就业赛道,导致IT行业逐渐趋于饱和状态,甚至出现裁员现象,去年很多大厂都…

《DevOps 精要:业务视角》- 读书笔记(二)

DevOps 精要:业务视角(二) 第2章 基础2.1 精益生产2.1.1 关键事实2.1.2 挑战 2.2 敏捷2.2.1 关键事实2.2.2 挑战 第2章 基础 2.1 精益生产 2.1.1 关键事实 正如1.2节提到的,DevOps非常依赖于精益生产的原则与实践。有些人甚至相信&#xf…

软件测试(功能、工具、接口、性能、自动化、测开)详解

一、软件测试功能测试 测试用例编写是软件测试的基本技能;也有很多人认为测试用例是软件测试的核心;软件测试中最重要的是设计和生成有效的测试用例;测试用例是测试工作的指导,是软件测试的必须遵守的准则。 黑盒测试常见测试用例…

【1++的Linux】之文件(一)

👍作者主页:进击的1 🤩 专栏链接:【1的Linux】 文章目录 一,初识文件二,文件接口 一,初识文件 文件就是文件内容属性。因此对文件的操作无非就是对文件内容的操作和对文件属性的操作。 我们访问…

张量-矩阵操作函数

tf.diag(diagonal,name None),该函数返回一个给定对角值得对角tensor。 示例代码如下: import tensorflow.compat.v1 as tf tf.disable_v2_behavior()diagonal tf.constant([2,3,4,5])with tf.Session() as sess:print(sess.run(tf.diag(diagonal))) tf.diag_part(input,na…

maven的pom.xml文件显示被删除

文章目录 1.问题情况2.问题分析3.问题解决 1.问题情况 2.问题分析 这些 pom.xml 文件被 maven 视为了忽略文件。 3.问题解决 路径:File --> Settings --> Build,Execution,Deployment --> Build Tools --> Maven --> Ignor…

Vs - Qt - 下拉窗口示例

下列代码定义了一个窗口&#xff0c;窗口采用竖直布局&#xff1a;一个按钮及一个label。按下按钮时候&#xff0c;窗口扩张&#xff0c;显示label控件。再次按下按钮时&#xff0c;窗口收缩&#xff0c;隐藏label控件。 详细代码如下&#xff1a; #include <QApplication&g…

SAP从入门到放弃系列之QM样本确定

目录 一、样本确定概述-Sample Determination1.1、样本确定的规则1.2、规则维护方式1.2.1、物料主数据的维度1.2.2、任务清单的维度1.2.2.1、采样过程-Sampling Procedure 二、采样过程维护2.1 采样过程-Sampling Procedures概述样本类型评估模式检验点 一、样本确定概述-Sampl…

开源考试系统的安全性及防护措施分析

开源考试系统是一种基于开放源代码的在线考试及评估平台&#xff0c;它提供了灵活、可定制和易于部署的解决方案来满足不同用户的需求。然而&#xff0c;开源考试系统的安全性问题一直备受关注。因为在线考试平台涉及到大量敏感数据和用户隐私&#xff0c;所以必须采取一系列的…