5分钟搞懂Jenkins分布式架构

news2024/11/21 0:22:43

Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。原文: Jenkins Distributed Architecture

alt

Jenkins是最著名的持续集成工具,是实现DevOps的必要组件之一。

本文我们将研究如何基于Jenkins的主从配置实现Jenkins分布式架构。

Jenkins单节点架构

参考下图了解Jenkins单节点架构。

Jenkins单节点架构
Jenkins单节点架构

对于某些特定场景,单节点不足以满足需求:

  • 如果所有执行程序都忙于处理构建任务,则作业(Job)必须等待。
  • 当项目的数量或负载增加时,很可能会耗尽资源。

为了恢复并运行Jenkins基础设施,需要通过增加内存、CPU等来增强服务器,而这不具备可扩展性,必须根据需求维护和升级服务器。

在维护升级过程中,构建环境将被关闭,作业不得不停止,整个Jenkins基础设施将不可用。

这种单节点架构会造成系统经常处于idel状态,分配给Jenkins环境的资源在这种状态下也没法被充分利用。

单节点架构还会引入安全问题,因为Jenkins用户对所有资源和工作空间都拥有完全的权限。

由于所有这些原因,Jenkins支持分布式架构,其中构建项目的工作负载被委托给多个Jenkins代理。


Jenkins分布式架构

Jenkins代理是运行在远程服务器上并从主节点卸载工作的Java可执行文件。

Jenkins主节点(Master)的特点:

主节点负责:

  1. 调度构建作业。
  2. 将构建作业分发给代理实际执行。
  3. 监视从节点(Slave),并根据需要停止其工作。
  4. 如果所有Jenkins代理都被占用,也可以直接执行作业。
Jenkins代理的特点:

Jenkins代理负责:

  1. 从主节点接收请求或工作,代理的工作就是按命令行事。
  2. 可以将工作配置为始终在特定代理上执行。
  3. 主节点将利用其资源来处理HTTP请求和管理构建环境,构建的实际执行将委托给代理。

通过这种配置,可以横向扩展Jenkins架构,其中Jenkins将安装在单个节点上。

参考下图理解Jenkins的多节点或分布式架构。

Jenkins分布式架构
Jenkins分布式架构

接下来我们在AWS EC2上设置Jenkins代理,并将其与Jenkins主节点集成。

第一步:

在一台服务器上运行Jenkins主节点。

第二步:

  • 为Jenkins代理创建EC2实例。
  • 为了访问代理节点,Jenkins代理程序需要与主节点建立双向通信。

在Master和Agent之间建立连接有不同的方法:

  1. SSH Connector

  2. Inbound Connector

  3. 自定义脚本

  • 因为Jenkins内置了SSH客户端实现,因此我们使用SSH连接器,Jenkins主节点可以使用授权密钥轻松的与代理建立连接。
  • 在新的EC2实例上使用 ssh-keygen命令创建SSH密钥。

第三步:

  • 如上所述,Jenkins代理是Java可执行文件,因此需要在服务器上安装JDK (Java Development Kit)。
# Install Java
sudo apt-get update

sudo apt-get install default-jdk -y

# Install Maven
sudo apt-get install maven -y

# Create User as Jenkins
sudo useradd -m jenkins
sudo -u jenkins mkdir /home/jenkins/.ssh

第四步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 从Master添加SSH密钥到Jenkins Agent: sudo cat ~/. SSH /id_rsa.pub
  • 拷贝上述命令的输出。

第五步:

  • SSH到部署了Jenkins Agent的EC2实例。
  • .ssh文件夹下创建一个空文件,复制主节点的SSH密钥: sudo -u jenkins vi /home/jenkins/.ssh/authorized_keys

第六步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 使用 ssh jenkins@Jenkins_Agent_IP_ADDRESS测试与代理节点的连接。

注意: Jenkins Agent的公网IP必须在Master安全组的白名单内。

  • 通过执行 sudo cp ~/.ssh/known_hosts /var/lib/jenkins/.ssh将SSH密钥复制到 /var/lib/jenkins/.ssh
  • Jenkins Master将从上面的文件夹中查找密钥。
  • 如果在Docker上运行Jenkins Master,那么使用命令 sudo cp ~/.ssh/known_hosts <JENKINS HOME directory >/.ssh

第七步:

  • 为Jenkins代理添加证书。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Credentials → Global Credentials → Add Credentials
alt
  • 我们在步骤3中已经在代理节点上创建了 jenkins用户,因此用户名为 jenkins
  • 可以使用 sudo cat ~/.ssh/id_rsa命令从主节点复制私钥。
  • 确保复制了整个密钥。
-----BEGIN RSA PRIVATE KEY-----
-----
-----END RSA PRIVATE KEY-----

第八步:

  • 在Jenkins Master中注册代理节点。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Nodes
管理节点
管理节点
  • 单击"New Node",输入"Node Name",并将节点配置为"Permanent Agent"。
alt
  • 用以下值配置代理并保存。
  • 可以选择第七步中创建的key。
alt

第九步:

  • 启动代理并检查日志。
代理连接日志
代理连接日志

第十步:

  • 恭喜配置完成了Jenkins分布式系统,现在可以开始构建工作了。
  • 可以看到Jenkins主节点通过从节点执行作业。

你好,我是俞凡,在Motorola做过研发,现在在Mavenir做技术工作,对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI等技术始终保持着浓厚的兴趣,平时喜欢阅读、思考,相信持续学习、终身成长,欢迎一起交流学习。
微信公众号:DeepNoMind

- END -

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1108993.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

高压开关柜无线测温方法的分类及原理解析

1. 红外热成像法 红外热成像法是一种非接触式的测温方法&#xff0c;通过红外热像仪捕捉目标表面的红外辐射&#xff0c;将其转化为温度分布图像。该方法适用于大范围的温度检测&#xff0c;并且可以实时监测多个位置的温度变化。其原理是利用物体发射的红外辐射与其表面温度…

最新Discuz3.5论坛多合一聚合支付接口插件源码/支持支付宝和微信支付功能

最新Discuz3.5论坛多合一聚合支付接口插件源码/支持支付宝和微信支付功能&#xff0c;这个插件直接替换了自带的支付接口功能&#xff0c;增强了支付的扩展性&#xff0c;它挺方便实用的&#xff0c;自带了支持支付宝、微信、QQ 钱包官方支付&#xff0c;以及彩虹易支付、虎皮椒…

阿里图标的使用

添加购物车&#xff0c;下载代码 引入1 引入2 引入3

小型内衣裤洗衣机哪个牌子好?内衣洗衣机测评

随着内衣洗衣机的流行&#xff0c;很多小伙伴在纠结该不该入手一款内衣洗衣机&#xff0c;专门来洗一些贴身衣物&#xff0c;答案是非常有必要的&#xff0c;因为我们现在市面上的大型洗衣机只能做清洁&#xff0c;无法对我们的贴身衣物进行一个高强度的清洁&#xff0c;而小小…

线上软件的故障排查方法

线上软件的故障排查是确保软件系统正常运行和快速解决问题的重要任务。以下是一些通用的线上软件故障排查方法&#xff0c;希望对大家有所帮助。北京木奇移动技术有限公司&#xff0c;专业的软件外包开发公司&#xff0c;欢迎交流合作。 监控系统&#xff1a; 使用监控工具来追…

2022年亚太杯APMCM数学建模大赛B题高速列车的优化设计求解全过程文档及程序

2022年亚太杯APMCM数学建模大赛 B题 高速列车的优化设计 原题再现&#xff1a; 2022年4月12日&#xff0c;中国高铁复兴号CR450动车组在开放线上成功实现单车时速435公里&#xff0c;相对速度870公里&#xff0c;创造了高铁动车组列车穿越开放线和隧道速度的世界纪录。新一代…

Python 练习100实例(21-40)

Python 练习实例21 题目&#xff1a;猴子吃桃问题&#xff1a;猴子第一天摘下若干个桃子&#xff0c;当即吃了一半&#xff0c;还不瘾&#xff0c;又多吃了一个第二天早上又将剩下的桃子吃掉一半&#xff0c;又多吃了一个。以后每天早上都吃了前一天剩下的一半零一个。到第10天…

工程监测仪器无线振弦采集仪高低温试验箱测试原理

工程监测仪器无线振弦采集仪高低温试验箱测试原理 无线振弦采集仪是一种用来测量结构物动力学特性的仪器&#xff0c;它可以通过振弦传感器采集到结构物的振动信号&#xff0c;并通过数据分析&#xff0c;得到结构物的自然频率、阻尼比、振型等信息。为了确保无线振弦采集仪的…

使用 ClickHouse 深入了解 Apache Parquet (一)

​ 【squids.cn】 全网zui低价RDS&#xff0c;免费的迁移工具DBMotion、数据库备份工具DBTwin、SQL开发工具等 自2013年作为Hadoop的列存储发布以来&#xff0c;Parquet几乎已经成为一种无处不在的文件交换格式&#xff0c;它提供了高效的存储和检索。这种采纳使其成为更近期的…

DC电源模块的开发周期

BOSHIDA DC电源模块的开发周期 DC电源模块是一种被广泛应用于电力系统中的设备&#xff0c;它能够将交流电转换成为直流电&#xff0c;为电子设备提供可靠、稳定的电源。DC电源模块的开发周期涉及到多个方面&#xff0c;包括设计、测试、验证、批量生产等环节。本文将从这几个方…

腾讯云服务器端口localhost可以访问,外部无法访问解决

搭建frp跳板&#xff0c;发现无法使用。ssh 连接不上。 主要检查2个东西&#xff1a; 1. ubuntu ufw系统防火墙。这个默认是关掉的 2. tencent这个防火墙规则设置后&#xff0c;还要设置到实例上。 以前不是这样的。就掉坑里了。 # systemctl rootVM-4-4-ubuntu:/lib/syst…

虹科干货 | Redis Enterprise 自动分层技术:大数据集高性能解决方案

文章来源&#xff1a;虹科云科技 阅读原文&#xff1a;https://mp.weixin.qq.com/s/5ik-WLHwEmPn42f1FissQw 越来越多的应用程序依赖于庞大的数据集合&#xff0c;而这些应用程序必须快速响应。借助自动分层&#xff0c;Redis Enterprise 7.2 帮助开发人员轻松创建超快的应用程…

《数据结构、算法与应用C++语言描述》使用C++语言实现数组循环队列

《数据结构、算法与应用C语言描述》使用C语言实现数组循环队列 定义 队列的定义 队列&#xff08;queue&#xff09;是一个线性表&#xff0c;其插入和删除操作分别在表的不同端进行。插入元素的那一端称为队尾&#xff08;back或rear&#xff09;&#xff0c;删除元素的那一…

如何破解企业数字化转型的焦虑

在今年整体的大环境下&#xff0c;焦虑的不仅是个人&#xff0c;还有数字化转型中的企业。 01 焦虑中的企业数字化 焦虑往往不是来源于无知&#xff0c;而是未知&#xff01; 现阶段还未采取行动的企业会焦虑&#xff1a;现在开始是否会落后&#xff0c;市场红利是否会错过&…

JVS-rules中的基础与复合变量:规则引擎的心脏

JVS-rules中的“变量”概念与编程语言中的变量类似&#xff0c;但它们通常在规则系统中处理条件判断、业务结果复制场景&#xff0c;如下所示&#xff1a; 条件判断&#xff1a;在规则引擎中&#xff0c;规则通常由两个部分组成&#xff1a;条件和分支。变量用于描述条件部分中…

MongoDB实战之快速开始

写在前面&#xff1a;以前使用mongo只了解了个增删改查&#xff0c;而且没有集成springboot里面使用过。最近花了几小时系统的学习了一遍MongoDB,为了巩固和方便查找&#xff0c;在此记录下学习过程。 一、MongoDB的简介 MongoDB 是一个高性能、高可用性和易扩展的 NoSQL 数据…

idea设置字体大小快捷键 Ctrl+鼠标上下滑 字体快捷键缩放设置

双击 按住ctrl鼠标滑轮上划放大就好了 这个双击设置为&#xff0c;Ctrl鼠标下滑 字体缩小就好了

中文编程开发语言工具开发案例:多种称重方式编程实际例子

中文编程开发语言工具开发案例&#xff1a;多种称重方式编程实际例子 上图为 计价秤&#xff0c;使用串口通讯线连接电脑的主机&#xff0c;软件自动读取称的重量&#xff0c;自动计算金额。这种方式称重快速&#xff0c;不需再打印条码。 上图这个称重方式为 一体称称重&#…

CentOS7安装MySQL8.0.28

CentOS7安装MySQL8.0.28 一、下载MySQL安装包二、安装配置mysql 一、下载MySQL安装包 点击以下链接可以自动跳转&#xff1a;MySQL官网 接下来按如图所示依次点击进入。 选择自己所需要版本 此处如需下载历史版本可以点击 二、安装配置mysql 1、登录ssh或其他相关软件上…

电子奖牌-参数

产品参数 产品型号 ESL_6color_8.14_BLE 尺寸(mm) 200*135*7mm 显示技术 电子墨水屏 显示区域(mm) 180.22(H) * 101.38(V) 分辨率(像素) 1024*576 像素尺寸(mm) 0.176*0.176 144pdi 显示颜色 黑/白/红/黄/蓝/绿 外观颜色 实木色 视觉角度 180 工作温度 …