大数据学习3.1 Hadoop环境准备

news2024/11/28 9:25:56

Hadoop环境

  • Hadoop集群拓扑
      • 1、集群拓扑
      • 2、角色分配
  • 一、虚拟机安装
  • 二、虚拟机克隆
    • 1、克隆类型
      • (1)完整克隆
      • (2)链接克隆
    • 2、克隆步骤
      • (1)克隆出master虚拟机
      • (2)克隆出slave1虚拟机
      • (3)克隆出slave2虚拟机
  • 三 、虚拟机配置
    • 1、配置master虚拟机
      • (1)设置主机名
      • (2)设置静态IP地址
      • (3)配置主机名与IP地址映射
    • 2、配置slave1虚拟机
      • (1)设置主机名
      • (2)设置静态IP地址
  • 四、关闭SeLinux安全机制
    • 1、在master虚拟机上关闭SeLinux安全机制
    • 2、在slave1虚拟机上关闭SeLinux安全机制
    • 3、在slave2虚拟机上关闭SeLinux安全机制

Hadoop集群拓扑

1、集群拓扑

一个主节点,两个从节点

2、角色分配

完全分布式Hadoop集群搭建需要在集群的每个节点都安装Hadoop,集群角色分配如下表所示。

节点角色
masterNameNode, DataNode
slave1DataNode
slave2DataNode

一、虚拟机安装

安装虚拟机CentOS 7

  • 配置了静态IP地址(192.168.1.100)和主机名(ied)
    请添加图片描述

  • 关闭与禁用了防火墙
    请添加图片描述

  • 安装了vim编辑器
    请添加图片描述

二、虚拟机克隆

1、克隆类型

(1)完整克隆

  • 完整克隆是对原始虚拟机完全独立的一个拷贝,它不和原始虚拟机共享任何资源,可以脱离原始虚拟机独立使用。

(2)链接克隆

  • 链接克隆需要和原始虚拟机共享同一虚拟磁盘文件,不能脱离原始虚拟机独立运行。但是采用共享磁盘文件可以极大缩短创建克隆虚拟机的时间,同时还节省物理磁盘空间。

2、克隆步骤

(1)克隆出master虚拟机

  • 关闭CentOS 7虚拟机,在VMware工具左侧系统资源库中右键单击CentOS 7,选择“管理”列表下的“克隆”选项,弹出克隆虚拟机向导。
    请添加图片描述
    请添加图片描述

  • 选择克隆源——虚拟机中的当前状态
    请添加图片描述

  • 选择克隆类型——创建链接克隆
    请添加图片描述

  • 设置新虚拟机名称和位置
    请添加图片描述

  • 单击【完成】按钮
    请添加图片描述

  • 单击【关闭】,查看master虚拟机
    请添加图片描述

(2)克隆出slave1虚拟机

  • 按照克隆master虚拟机的步骤克隆出slave1虚拟机
    请添加图片描述

(3)克隆出slave2虚拟机

  • 按照克隆master虚拟机的步骤克隆出slave2虚拟机
    请添加图片描述

三 、虚拟机配置

1、配置master虚拟机

  • 启动master虚拟机
    请添加图片描述

(1)设置主机名

  • 执行命令:hostnamectl set-hostname master
    请添加图片描述

  • 重启虚拟机,提示符变成[root@master ~]#
    请添加图片描述

(2)设置静态IP地址

  • 查看IP地址可选范围
    请添加图片描述

  • 查看网关配置
    请添加图片描述

  • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
    请添加图片描述

  • 存盘退出,执行命令:systemctl restart network
    请添加图片描述

  • 执行命令:ip addr,查看设置的静态IP地址
    请添加图片描述

(3)配置主机名与IP地址映射

  • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
    请添加图片描述

  • 存盘退出,验证配置效果
    请添加图片描述

2、配置slave1虚拟机

  • 启动slave1虚拟机
    请添加图片描述

(1)设置主机名

  • 执行命令:hostnamectl set-hostname slave1
    请添加图片描述

  • 重启虚拟机,提示符变成[root@slave1~]#
    请添加图片描述

(2)设置静态IP地址

  • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
    请添加图片描述

  • 存盘退出,执行命令:systemctl restart network
    请添加图片描述

  • 执行命令:ip addr,查看设置的静态IP地址
    请添加图片描述

(3)配置主机名与IP地址映射

  • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
    请添加图片描述

  • 存盘退出,验证配置效果

  • slave1虚拟机可以通过主机名来ping通master虚拟机和slave1虚拟机
    请添加图片描述

  • master虚拟机可以通过主机名来ping通slave1虚拟机
    请添加图片描述

3、配置slave2虚拟机

  • 启动slave2虚拟机

操作与slave1相同

  • slave2虚拟机可以通过主机名来ping通master虚拟机、slave1虚拟机和slave2虚拟机
    请添加图片描述

  • master虚拟机可以通过主机名来ping通slave1虚拟机和slave2虚拟机
    请添加图片描述

四、关闭SeLinux安全机制

  • 安全增强型 Linux(Security-Enhanced Linux)简称 SELinux,它是一个 Linux 内核模块,也是 Linux 的一个安全子系统。
  • SELinux 主要作用就是最大限度地减小系统中服务进程可访问的资源(最小权限原则)。
  • SELinux 有三种工作模式,分别是enforcing:强制模式;permissive:宽容模式;disabled:关闭 SELinux。
  • /etc/sysconfig/selinux 文件里SELINUX=enforcing,将enforcing改成disabled,就可以关闭SeLinux安全机制

1、在master虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux
    请添加图片描述

2、在slave1虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux
    请添加图片描述

3、在slave2虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux

请添加图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/3710.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

深入理解Linux文件描述符

>> Linux基础IO系列文章 1. Linux文件操作系统接口的学习使用 一、前言 在上一篇博客中,我们初步学习了Linux文件操作的系统接口,不难发现的是,这些系统函数都与文件描述符密切相关:open函数返回值是一个文件描述符&#…

Python编程挑战赛

题1:给小朋友分糖,每人分到糖的数量不同,输入小朋友的数量,计算至少需要多少糖? 思路:第1个小朋友1颗糖,第2个小朋友2颗糖,第3个小朋友3颗糖,……第n个小朋友n颗糖&#…

[数据结构]实现双向链表

作者: 华丞臧. 专栏:【数据结构】 各位读者老爷如果觉得博主写的不错,请诸位多多支持(点赞收藏关注)。如果有错误的地方,欢迎在评论区指出。 文章目录一、带头双向循环链表二、带头双向循环链表接口实现2.1 双向链表的初始化、打…

动态规划算法的题到底应该怎么做?思路教给你自己写

本文是我通过做题和借鉴一些前人总结的套路而得出的思路和方法,刚好这次CSDN第八周的周赛上出了三道动态规划的题目,我会结合题目对我的思路进行一个输出,会从最简单的一维dp开始讲解到二维dp,希望对你有帮助,有错误希…

MySQL数据库基础知识

今天是更新数据库的第一篇,关于数据库环境搭建问题博主先不在这里介绍了,博主今天是直接讲知识了,等以后的博客,博主再更新数据库搭建问题。在这里我们使用命令行式客户端,先不使用windows下的图形化界面,使…

ReadingTime-十一月

CV文章浅读_not_everday0x1105.CAViT for video object re-id 2022_中科院这个月主要是要学习pytorch和一些CV baseline的复现,搞搞毕设雏形🆙 以后还是把笔记写纸上要么写博客,不放本地了😨 网页版小绿鲸zen好用 😃 …

峰会实录 | 基于StarRocks和腾讯云EMR构建云上Lakehouse

作者:腾讯云EMR业务负责人陈龙(本文为作者在 StarRocks Summit Asia 2022 上的分享) 我目前负责腾讯云EMR 的研发工作,此前先后在百度、支付宝做后端研发。2011年加入腾讯,先后参与了腾讯云Redis、腾讯云云数据库、Ap…

小米 Civi 2 (ziyi) 机型解锁bl 获取root权限教程 +其他机型参数对比+救砖

*********机型优点与其他机型参数对比***************** 小米 Civi 2 (ziyi) 国行版机型前置由3200万主摄3200万超广角组成的双摄是它最大的亮点,配有4颗柔光灯。自拍相当不错。他的后置主摄采用5000万像素相机,IMX766传感器,1/1.56英寸感光…

【MybatisPlus】CRUD操作,映射匹配兼容性,ID生成策略,逻辑删除,乐观锁

文章目录MybatisPlus简介一、数据层基本的开发1. 引入jar包2. 配置数据源3. 编写实体类4. 创建Dao接口5. 测试二、CRUD使用1. 查询2. 添加3. 删除4. 修改5. 分页查询三、条件查询1. 条件查询的方式2. 多条件查询四、映射匹配兼容性1. 表字段与编码属性设计不同步2. 编码中添加了…

矩阵理论复习(二)

内积空间的定义 模与内积 向量x和y的夹角 正交向量、正交组和正交矩阵 度量矩阵 基向量内积、度量矩阵、任意向量内积之间的关系 欧式空间的两个基对应的度量矩阵彼此合同 度量矩阵的行列式的几何问题 正交补子空间 内积空间子空间U与U的正交补子空间的直和 …

LeetCode 138. 复制带随机指针的链表

难度 中等 题目链接 示例: 解题思路: 首先,大家肯定会这样想:定义一个cur循环遍历,每次遍历一个,就malloc一个。 当遍历后面的时候,就开始尾插。 但现在有一个问题是:这个random指…

通信直放站基础知识

直放站的定义 直放站(中继器)属于同频放大设备,是指在无线通信传输过程中起到信号增强的一种无线电发射中转设备。直放站的基本功能就是一个射频信号功率增强器。直放站在下行链路中,由施主天线从现有的覆盖区域中拾取信号&#x…

《嵌入式 - 嵌入式大杂烩》CoreMark性能测试

1 CoreMark简介 CoreMark是由EEMBC(Embedded Microprocessor Benchmark Consortium)的Shay Gla-On于2009年提出的一项基准测试程序,CoreMark的主要目标是简化操作,并提供一套测试单核处理器核心的方法。测试标准是在配置参数的组合下单位时间内运行的Co…

【树莓派不吃灰系列】快速导航

目录1. 通用篇2. Python篇3. 编程IO篇❤️ 博客主页 单片机菜鸟哥,一个野生非专业硬件IOT爱好者 ❤️❤️ 本篇创建记录 2022-11-06 ❤️❤️ 本篇更新记录 2022-11-06 ❤️🎉 欢迎关注 🔎点赞 👍收藏 ⭐️留言 📝&…

Slave_IO_Running: No 的解决

原因: 两台主从数据库的uuid相同了(没猜错的话,各位的第二台虚拟机都是克隆了第一台,然后就改了个ip对吧)。 解决办法: 必须跟着步骤来,一步也不能多,更不能少,请仔细…

arcgis 生成切片并发布服务

需要准备: 1、需要进行切割的tif文件; 2、切片方案文件 需要确认: 1、tif文件的数据源坐标系; 2、现有切片方案能否满足需求; 3、部署的地图引擎是经纬度投影还是墨卡托投影; 具体操作流程: 1…

TCP/IP协议数据链路层

目录 一、数据链路层和网络层的关系 二、以太网 1、以太网格式 2、认识MTU 三、ARP协议 1、ARP协议的作用 2、ARP协议的工作流程 3、ARP数据报的格式 4、思考:浏览器中输入url后, 发生的事情(经典面试题) 一、数据链路层和网络层的…

通信行业的必备网站

今天突然看到一首诗感触满满: 官策作者陈京 生如蝼蚁,当有鸿鹄之志! 命如纸薄,应有不屈之心! 大丈夫生于天地间,岂能郁郁久居人下。 当以梦为马,不负韶华。 乾坤未定,你我皆是黑马&…

西安交大讲座-实际场景(3个)出发,用户检测方式,数据驱动的网络用户行为分析建模与异常检测

讲座搬运,侵删! 目录 研究背景 研究问题 问题与挑战 网络舆情分析 政策法规知识图谱 构建利益方群体识别模型 系统 ​编辑 第二个工作-异常群体映射与定位 多源社交网络用户身份管理 不用场景的用户身份映射 多个平台关联 黑产检测 基于图模型…

基于FreeCAD的dxf转机械手代码的一种实现方法

dxf文件在2D图形中使用广泛,将图形文件自动转换为机械手可识别的轨迹代码是机械手全自动化中一个软件衔接节点。理想的轨迹自动化转换程序可以在电脑里面直接虚拟仿真生成机械手轨迹,简化现场人员机械手示教流程,在效率和远程支持上有着实际的…