Hadoop集群三节点搭建(二)

news2024/12/26 0:30:49

一、克隆三台主机(hadoop102 hadoop103 hadoop104)

以master为样板机克隆三台出来,克隆前先把master关机
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
按照上面的步骤克隆其他两个就可以了,记得修改ip和hostname

二、编写集群同步脚本

  1. 在/home/attest/ 创建bin目录,在/home/attest/bin目录下创建集群同步脚本
#!/bin/bash

#1. 判断参数个数
if [ $# -lt 1 ]
then
    echo "Not Enough Arguement!"
    exit
fi

#2. 遍历集群所有机器
for host in hadoop102 hadoop103 hadoop104
do
    echo ====================  $host  ====================
    #3. 遍历所有目录,挨个发送

    for file in $@
    do
        #4. 判断文件是否存在
        if [ -e $file ]
            then
                #5. 获取父目录
                pdir=$(cd -P $(dirname $file); pwd)

                #6. 获取当前文件的名称
                fname=$(basename $file)
                ssh $host "mkdir -p $pdir"
                rsync -av $pdir/$fname $host:$pdir
            else
                echo $file does not exists!
        fi
    done
done
  1. 给脚本添加执行权限
    在这里插入图片描述
  2. 测试脚本
    在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
测试成功

  1. SSH无密登录配置
    在这里插入图片描述

二、集群配置

集群规划如下:
在这里插入图片描述

  1. 配置core-site.xml
    在这里插入图片描述
    在这里插入图片描述
  2. 配置hdfs-site.xml(还是在原来的目录下)
    在这里插入图片描述
  3. 配置yarn-site.xml(还是在原来的目录下)
    在这里插入图片描述
  4. 配置mapred-site.xml(还是在原来的目录下)
    在这里插入图片描述
  5. 分发文件
    在这里插入图片描述
  6. 配置workers
    在这里插入图片描述在这里插入图片描述
    分发文件
    在这里插入图片描述

三、启动集群

  1. 启动HDFS
    第一启动需要初始化NN,
  2. 启动yarn
    在这里插入图片描述

四、配置历史服务器

  1. 配置mapred-site.xml
    在这里插入图片描述
  2. 在hadoop102启动历史服务器
    在这里插入图片描述
  3. 配置日志的聚集,配置yarn-site.xml
    在这里插入图片描述
  4. 关闭HistoryServer
    在这里插入图片描述
  5. 集群时间同步
    查看hadoop102服务状态和开机自启动状态(如果开着就关掉)
    在这里插入图片描述
    在这里插入图片描述
    修改hadoop102的ntp.conf配置文件
    在这里插入图片描述
    修改hadoop102的/etc/sysconfig/ntpd 文件
    在这里插入图片描述
    在这里插入图片描述
    重新启动ntpd服务
    在这里插入图片描述
    关闭其他节点上ntp服务和自启动(使用root用户)
    在这里插入图片描述
    在这里插入图片描述
    在其他机器配置1分钟与时间服务器同步一次

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1362627.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

基于SSM的《数据库系统原理》课程平台

末尾获取源码 开发语言:Java Java开发工具:JDK1.8 后端框架:SSM 前端:Vue 数据库:MySQL5.7和Navicat管理工具结合 服务器:Tomcat8.5 开发软件:IDEA / Eclipse 是否Maven项目:是 目录…

Matlab:遗传算法,模拟退火算法练习题

1、遗传算法 (1)遗传算法是一种基于自然选择原理和自然遗传机 制的搜索(寻优)算法,它是模拟自然界中的生命进化机制,在人工系统中实现特定目 标的优化。遗传算法的实质是通过群体搜索技术,根据…

西电期末1024.数值信息报表

一.题目 二.分析与思路 考点重复,这里介绍一种新的处理方法,以前用找最值时用排序加结构体记录数据位置,用数组记录一串数据使用,西卡西,我们只是找最值,就可以打擂台处理,加上位置就行&#x…

Linux 的引导与服务控制

一 开机启动过程 bios加电自检-->mbr-->grub-->加载内核文件-->启动第一个进程 1 bios加电自检 检测硬件是否正常,然后根据bios中的启动项设置,去找内核文件 2 mbr 因为grup太大,第一个扇区存不下所有的grub程序,所以分为…

【C/C++】开源串口库 CSerialPort 应用

文章目录 1、简述2、效果图2.1、命令行(不带GUI)2.2、GUI(这里用的Qt) 3、串口硬件知识普及4、核心实现4.1、Qt的pro文件4.2、main文件4.3、SSerialPort类4.3.1、头文件4.3.2、源文件 4.4、Linux下的CMakeLists.txt 1、简述 本文…

ruoyi若依 @DataScope(deptAlias = “d“, userAlias = “u“)不生效问题

DataScope注解不生效问题记录 问题:DataScope(deptAlias "d", userAlias "u")不生效问题原因排查:解决方案:结果:完美解决 问题:DataScope(deptAlias “d”, userAlias “u”)不生效问题 原因…

MDPI期刊word模版下载

先打开该网站 找到Manuscript 就能下载到word文件了

吴恩达深度学习l2week2编程作业—Optimization Methods(最新中文跑通版)

到目前为止,您一直使用渐变下降来更新参数并将成本降至最低。在本笔记本中,您将获得一些更先进的优化方法的技能,这些方法可以加快学习速度,甚至可能使您获得更好的成本函数最终值。拥有一个好的优化算法可能是等待几天与只需几个…

解决使用localhost或127.0.01模拟CORS失效

解决使用localhost或127.0.01模拟CORS失效 前言问题发现问题解决 前言 CORS (Cross-Origin Resource Sharing) 指的是一种机制,它允许不同源的网页请求访问另一个源服务器上的某些资源。通常情况下,如果 JavaScript 代码在一个源中发起了 AJAX 请求&…

HAL——定时器

学习目标 掌握定时器I配置方式掌握定时器占空比输出 学习内容 需求 以PA5对应的LED4为例,我们做一个呼吸灯的效果。 我们采用TIMER1进行实现: Timer配置 配置Timer通道输出 配置周期和分频计数 psc为分频系数,这里的值需要写入到寄存器中…

HAL——SPI

学习目标 掌握SPI配置方式掌握SPI读写操作 学习内容 需求 SPI配置 打开SPI1,选中全双工模式。观察下方自动生成的引脚,是否和自己开发板引脚对应。 修改引脚,来动右侧芯片引脚视图,找到开发板对应引脚,进行修改。

Linux 目录结构及其说明

Linux 操作系统遵循一种标准的目录结构,称为 Filesystem Hierarchy Standard(文件系统层次结构标准),其定义了不同目录的用途和内容。 浅蓝色文字 /(根目录): /根目录是整个文件系统的起点&…

学习Go语言Web框架Gee总结--http.Handler(一)

学习Go语言Web框架Gee总结--http.Handler http-base/go.modhttp-base/main.gohttp-base/gee/gee.gohttp-base/gee/go.mod 网站学习来源:Gee 代码目录结构: http-base/go.mod //指定当前模块的名称为 "example" module example//指定当前模…

一个命令查看linux系统是Centos还是Ubuntu

目 录 一、 背景介绍 二、一个命令查看linux系统的简单方法 1、 uname -a 2、cat /etc/issue 3、lsb_release -a 4、 dmesg | grep Ubuntu 一、 背景介绍 Linux 系统基本上分为两大类: 1. Red Hat 系列:包括 Red Ha…

SpringBoot 如何 配置端口号

结论 server:port: 8088演示 [Ref] 快速构建SpringBoot项目

AI看图识熊实战(一)

使用ONNX Runtime封装onnx模型并推理 进行这一步之前,请确保已正确安装配置了Visual Studio 2017 和 C#开发环境。 项目的代码也可以在这里找到,下面的步骤是带着大家从头到尾做一遍。 界面设计 创建Windows窗体应用(.NET Framework)项目&#xff0c…

CRC32的原理介绍以及查表法实现和多项式相除实现

1、CRC32的生成多项式 多项式系数提取出来,改写位16进制数为:0x104C11DB7,如果转换为33个二进制数[1, 0, 0, 0, 0, 0, 1, 0, 0, 1, 1, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 1, 1, 0, 1, 1, 0, 1, 1, 0, 1, 1, 1] ,那么从左到右对…

工地云平台源码,智慧工地源码,Spring Cloud智慧工地管理系统源码

智慧工地是一种基于信息技术和大数据应用的智能化管理平台,旨在提升建筑施工现场的安全、效率和质量。通过物联网、云计算、人工智能等技术手段,智慧工地可以对施工现场的各个要素进行全面感知、实时交互和智能分析,以实现更高效、更安全、更…

【LMM 015】LAMM:多模态指令微调数据集,框架和基准

论文标题:LAMM: Language-Assisted Multi-Modal Instruction-Tuning Dataset, Framework, and Benchmark 论文作者:Zhenfei Yin, Jiong Wang, Jianjian Cao, Zhelun Shi, Dingning Liu, Mukai Li, Lu Sheng, Lei Bai, Xiaoshui Huang, Zhiyong Wang, Jin…

视觉检测不合格品剔除FC(Smart PLC简单状态机编程应用)

视觉系统检测到不合格产品后,往往都需要控制我们的剔除电磁阀吹气剔除不合格产品,三菱PLC里的推荐编程方法,可以参考下面的链接文章: https://rxxw-control.blog.csdn.net/article/details/125027866https://rxxw-control.blog.c…