大数据之Linux部署常用命令脚本封装

news2024/10/6 8:27:29

文章目录

    • 编写集群命令执行脚本
      • xcall集群命令执行
        • 1. 脚本需求
        • 2. 需求分析
        • 3. 脚本实现
          • 3.1 创建脚本存放目录
          • 3.2 编写xcall脚本
          • 3.3 修改脚本执行权限
          • 3.4 测试脚本
    • 编写集群分发脚本
      • xsync集群分发脚本
        • 1. 脚本需求
        • 2. 需求分析
        • 3. 脚本实现
          • 3.1 创建脚本存放目录
          • 3.2 编写xsync脚本
          • 3.3 修改脚本执行权限
          • 3.4 测试脚本

在这里插入图片描述

编写集群命令执行脚本

xcall集群命令执行

1. 脚本需求
  • 需求: 简化对多个远程主机执行相同命令的过程。允许用户通过一个单一的命令行调用,在一组预定义的主机上执行任意命令。方便集群管理和自动化任务,减少重复工作并提高效率。
2. 需求分析
  • 使用xcall 命令进行命令执行, 例如
    xcall ls -al /
    
  • 期望脚本xcall 能够在所有预定义的主机上查看根目录/ 的内容。
3. 脚本实现
  • 脚本存放在/home/bigdata/bin目录下,在~/.bashrc中添加以下内容,以便bigdata用户可以在系统的任何位置直接执行。
    export PATH=$PATH:/home/bigdata/bin
    
  • 使环境变量生效 source ~/.bashrc
3.1 创建脚本存放目录
  • /home/bigdata目录下创建bin文件夹:

    mkdir bin
    
  • 脚本存放在/home/bigdata/bin目录下,以便bigdata用户可以在系统的任何位置直接执行。

3.2 编写xcall脚本
  • /home/bigdata/bin目录下创建xall文件:

    cd /home/bigdata/bin
    vim xcall
    
  • 编写脚本内容:

    #!/bin/bash
    # 定义主机名数组
    hosts=("hadoop101" "hadoop102" "hadoop103")
    # 检查是否有外部参数传递给脚本
    if [ $# -eq 0 ]; then
        echo "Usage: $0 <command>"
        exit 1
    fi
     # 遍历主机数组,对每个主机执行 SSH 命令
    for host in "${hosts[@]}"; do
        echo "-------- $host --------"
        ssh "$host" "$*"
    done
    
3.3 修改脚本执行权限
  • 使xcall脚本具有执行权限:
    chmod +x xcall
    
3.4 测试脚本
  • 测试xcall脚本是否正常工作:
    xcall ls -al /
    

编写集群分发脚本

xsync集群分发脚本

1. 脚本需求
  • 需求:实现循环复制文件到所有节点的相同目录下。
2. 需求分析
  • 使用rsync命令进行原始拷贝,例如:
    rsync -av /opt/module bigdata@hadoop102:/opt/
    
  • 期望脚本xsync能够同步指定的文件名称。
3. 脚本实现
  • 脚本存放在/home/bigdata/bin目录下,以便bigdata用户可以在系统的任何位置直接执行。
3.1 创建脚本存放目录
  • /home/bigdata目录下创建bin文件夹:
    mkdir bin
    
3.2 编写xsync脚本
  • /home/bigdata/bin目录下创建xsync文件:
    cd /home/bigdata/bin
    vim xsync
    
  • 编写脚本内容:
    #!/bin/bash
    
    hosts=("hadoop101" "hadoop102" "hadoop103")
    # 1. 判断参数个数
    if [ $# -lt 1 ]
    then
      echo "Not Enough Arguments!"
      exit 1
    fi
    
    # 2. 遍历集群所有机器
    for host in "${hosts[@]}"; do
      echo "====================  $host  ==================="
      # 3. 遍历所有目录,挨个发送
      for file in "$@"; do
        # 4. 判断文件是否存在
        if [ -e "$file" ]
        then
          # 5. 获取父目录
          pdir=$(cd -P "$(dirname "$file")"; pwd)
          # 6. 获取当前文件的名称
          fname=$(basename "$file")
          ssh $host "mkdir -p \"$pdir\""
          rsync -av "$pdir/$fname" "$host:$pdir"
        else
          echo "$file does not exist!"
        fi
      done
    done
    
3.3 修改脚本执行权限
  • 使xsync脚本具有执行权限:
    chmod +x xsync
    
3.4 测试脚本
  • 测试xsync脚本是否正常工作:
    xsync /path/to/file_or_directory
    

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1878571.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

amis-editor 注册自定义组件

建议先将amis文档从头到尾&#xff0c;仔细看一遍。 参考&#xff1a;amis - 低代码前端框架 amis 的渲染过程是将 json 转成对应的 React 组件。先通过 json 的 type 找到对应的 Component&#xff0c;然后把其他属性作为 props 传递过去完成渲染。 import * as React from …

[数据集][目标检测]睡岗检测数据集VOC+YOLO格式3290张4类别

数据集格式&#xff1a;Pascal VOC格式YOLO格式(不包含分割路径的txt文件&#xff0c;仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数)&#xff1a;3316 标注数量(xml文件个数)&#xff1a;3316 标注数量(txt文件个数)&#xff1a;3316 标注…

了解C# 中的集合(包括泛型和非泛型)

跨站点脚本 (XSS) 攻击是一种严重的安全威胁&#xff0c;恶意脚本会注入其他用户查看的网页中。本文演示了如何在 ASP.NET Core MVC 中构建一个简单的博客应用程序&#xff0c;同时使用内置安全功能和最佳实践来防止 XSS 攻击。 步骤 1.创建 ASP.NET Core MVC 项目 创建新的 …

Ollama中文版部署

M1部署Ollama Ollama中文网站: Featured - 精选 - Ollama中文网 下载网址: Download Ollama on macOS 安装后运行llma3模型: ollama run llama3:8b 界面使用: GitHub - open-webui/open-webui: User-friendly WebUI for LLMs (Formerly Ollama WebUI) 部署open-webui: do…

摸鱼大数据——Spark基础——Spark环境安装——PySpark搭建

三、PySpark环境安装 PySpark: 是Python的库, 由Spark官方提供. 专供Python语言使用. 类似Pandas一样,是一个库 Spark: 是一个独立的框架, 包含PySpark的全部功能, 除此之外, Spark框架还包含了对R语言\ Java语言\ Scala语言的支持. 功能更全. 可以认为是通用Spark。 功能 P…

【教学类-64-08】20240629彩棒鱼骨图(五)AAB排列 6.5*1CM 6选2根 30种

背景需求&#xff1a; 【教学类-64-04】20240619彩棒鱼骨图&#xff08;一&#xff09;6.5*1CM 6根棒子720种-CSDN博客文章浏览阅读897次&#xff0c;点赞23次&#xff0c;收藏13次。【教学类-64-04】20240619彩棒鱼骨图&#xff08;一&#xff09;6.5*1CM 6根棒子720种https:…

Java学习 - Redis开发规范与安全

开发规范 key设计 因素说明键名可读性&#xff0c;可管理性业务名:表名:字段名键名简洁性user:{uid}:friends:message:{mid}简化为u:{uid}&#x1f1eb;&#x1f1f7;m:{mid}与embstr和raw有关键名不包含特殊字符比如空格&#xff0c;制表符等&#xff0c;最好只有字母&#…

【Lua】第三篇:基本变量类型介绍

文章目录 一. 变量类型介绍二. 基本知识三. 基本类型介绍1. 空类型&#xff08;nil&#xff09;2. 数值类型&#xff08;number&#xff09;3. 字符串类型&#xff08;string&#xff09;4. 布尔类型&#xff08;boolean&#xff09; 一. 变量类型介绍 Lua中一共有如下8中变量…

Linux:RAID磁盘阵列

目录 一、RAID&#xff08;磁盘阵列&#xff09; 1.1、概念 1.2、RAID 0&#xff08;条带化存储&#xff09; 1.3、RAID 1&#xff08;镜像存储&#xff09; 1.4、RAID 5 1.5、RAID 6 1.6、RAID 10 (先做镜像&#xff0c;再做条带) 二、创建RAID 2.1、建立RAID 0 …

利用 Docker 简化 Nacos 部署:快速搭建 Nacos 服务

利用 Docker 简化 Nacos 部署&#xff1a;快速搭建 Nacos 服务 引言 在微服务架构中&#xff0c;服务注册与发现是确保服务间通信顺畅的关键组件。Nacos&#xff08;Dynamic Naming and Configuration Service&#xff09;作为阿里巴巴开源的一个服务发现和配置管理平台&…

Spring事务及其传播机制(一)

目录 1.事务回顾 1.1什么是事务 1.2事务的四大重要特性&#xff08;ACID&#xff09; 1.3事务的操作 2.Spring中事务的实现 2.1编程式事务&#xff08;了解&#xff09; 2.2声明式事务Transactional 3.Transactional作用 3.1重新抛出异常 3.2手动回滚事务 1.事务回顾…

【Redis】SpringBoot连接Redis

1. 创建项目并配置文件 勾选NoSQL中的 Spring Data Redis。当然,把 Web 中的 SpringWeb 也勾选一下.方便写接口进行后续测试。 在 application.yml 中配置 2. 不同数据类型使用Demo 在SpringBoot中&#xff0c;为我们提供了StringRedisTemplate类&#xff0c;供我们处理一些文…

详细介绍MySQL的索引(上)

索引 索引概述 索引(index)是帮助MySQL高效获取数据的数据结构(有序)。在数据之外&#xff0c;数据库系统还维护着满足特定查找算法的数据结构&#xff0c;这些数据结构以某种方式引用(指向数据&#xff0c;这样就可以在这些数据结构上实现高级查找算法&#xff0c;这种数据结…

VisualStudio2019受支持的.NET Core

1.VS Studio2019受支持的.NET Core&#xff1f; 适用于 Visual Studio 的 .NET SDK 下载 (microsoft.com) Visual Studio 2019 默认并不直接支持 .NET 6 及以上版本。要使用 .NET 6 或更高版本&#xff0c;你需要在 Visual Studio 2019 中采取额外步骤&#xff0c;比如安装相应…

<电力行业> - 《第9课:输电(二)》

4 输送电能流程 输送电能总共有&#xff1a;发电站→升压变压器→高压输电线→降压变压器→用电单位等五个流程。 电力工业初期&#xff0c;发电厂建在电力用户附近&#xff0c;直接向用户送电&#xff0c;所以那个时候只有发电和用电两个环节。 随着电力生产规模和负荷中心规…

QTreeView第一列自适应

通过setStretchLastSection(bool stretch)可以设置最后一列自适应,对于QTreeView,stretch默认为true。但有时候我们需要设置第一列自适应,比如文件浏览器,共有名称、大小和修改日期三列,大小和日期的宽度几乎是固定的,但名称却可长可短,此时我们希望在窗口大小变化时,第…

一元线性回归-R语言

# # 安装包 # install.packages(ggplot2) # library(ggplot2) Sys.setlocale(category LC_ALL, locale English_United States.1252) # Sys.setlocale("LC_ALL","Chinese") x <- c(18, 20, 22, 24, 26, 28, 30) y <- c(26.86, 28.35, 28.87,28.75,…

【源码+文档+调试讲解】actual self 服装店的设计与实现

摘 要 如今社会上各行各业&#xff0c;都喜欢用自己行业的专属软件工作&#xff0c;互联网发展到这个时候&#xff0c;人们已经发现离不开了互联网。新技术的产生&#xff0c;往往能解决一些老技术的弊端问题。因为传统服装销售信息管理难度大&#xff0c;容错率低&#xff0c…

封装了一个iOS滚动厨窗效果

效果图 背景 我们要实现如图的厨窗效果&#xff0c;不能通过在tableView底部添加一个背景图片的方式&#xff0c;因为这需要修改整个tableView的背景色为透明&#xff0c;影响到的范围太大&#xff0c;只能将这个效果局限在这个cell 中&#xff0c;然后通过监听tableView的滚动…

Python应用开发——30天学习Streamlit Python包进行APP的构建(12)

st.checkbox 显示复选框部件。 Function signature[source] st.checkbox(label, valueFalse, keyNone, helpNone, on_changeNone, argsNone, kwargsNone, *, disabledFalse, label_visibility"visible") Returns (bool) Whether or not the checkbox is checked. …