LinuxHadoop环境

news2024/10/5 21:17:15

Hadoop环境

  • Hadoop集群拓扑
      • 1、集群拓扑
      • 2、角色分配
  • 一、虚拟机安装
  • 二、虚拟机克隆
    • 1、克隆类型
      • (1)完整克隆
      • (2)链接克隆
    • 2、克隆步骤
      • (1)克隆出master虚拟机
      • (2)克隆出slave1虚拟机
      • (3)克隆出slave2虚拟机
  • 三 、虚拟机配置
    • 1、配置master虚拟机
      • (1)设置主机名
      • (2)设置静态IP地址
      • (3)配置主机名与IP地址映射
    • 2、配置slave1虚拟机
      • (1)设置主机名
      • (2)设置静态IP地址
  • 四、关闭SeLinux安全机制
    • 1、在master虚拟机上关闭SeLinux安全机制
    • 2、在slave1虚拟机上关闭SeLinux安全机制
    • 3、在slave2虚拟机上关闭SeLinux安全机制

Hadoop集群拓扑

1、集群拓扑

一个主节点,两个从节点

2、角色分配

完全分布式Hadoop集群搭建需要在集群的每个节点都安装Hadoop,集群角色分配如下表所示。

节点角色
masterNameNode, DataNode
slave1DataNode
slave2DataNode

一、虚拟机安装

安装虚拟机CentOS 7

  • 配置了静态IP地址(192.168.1.100)和主机名(ied)
    请添加图片描述

  • 关闭与禁用了防火墙
    请添加图片描述

  • 安装了vim编辑器
    请添加图片描述

二、虚拟机克隆

1、克隆类型

(1)完整克隆

  • 完整克隆是对原始虚拟机完全独立的一个拷贝,它不和原始虚拟机共享任何资源,可以脱离原始虚拟机独立使用。

(2)链接克隆

  • 链接克隆需要和原始虚拟机共享同一虚拟磁盘文件,不能脱离原始虚拟机独立运行。但是采用共享磁盘文件可以极大缩短创建克隆虚拟机的时间,同时还节省物理磁盘空间。

2、克隆步骤

(1)克隆出master虚拟机

  • 关闭CentOS 7虚拟机,在VMware工具左侧系统资源库中右键单击CentOS 7,选择“管理”列表下的“克隆”选项,弹出克隆虚拟机向导。
    请添加图片描述
    请添加图片描述

  • 选择克隆源——虚拟机中的当前状态
    请添加图片描述

  • 选择克隆类型——创建链接克隆
    请添加图片描述

  • 设置新虚拟机名称和位置
    请添加图片描述

  • 单击【完成】按钮
    请添加图片描述

  • 单击【关闭】,查看master虚拟机
    请添加图片描述

(2)克隆出slave1虚拟机

  • 按照克隆master虚拟机的步骤克隆出slave1虚拟机
    请添加图片描述

(3)克隆出slave2虚拟机

  • 按照克隆master虚拟机的步骤克隆出slave2虚拟机
    请添加图片描述

三 、虚拟机配置

1、配置master虚拟机

  • 启动master虚拟机
    请添加图片描述

(1)设置主机名

  • 执行命令:hostnamectl set-hostname master
    请添加图片描述

  • 重启虚拟机,提示符变成[root@master ~]#
    请添加图片描述

(2)设置静态IP地址

  • 查看IP地址可选范围
    请添加图片描述

  • 查看网关配置
    请添加图片描述

  • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
    请添加图片描述

  • 存盘退出,执行命令:systemctl restart network
    请添加图片描述

  • 执行命令:ip addr,查看设置的静态IP地址
    请添加图片描述

(3)配置主机名与IP地址映射

  • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
    请添加图片描述

  • 存盘退出,验证配置效果
    请添加图片描述

2、配置slave1虚拟机

  • 启动slave1虚拟机
    请添加图片描述

(1)设置主机名

  • 执行命令:hostnamectl set-hostname slave1
    请添加图片描述

  • 重启虚拟机,提示符变成[root@slave1~]#
    请添加图片描述

(2)设置静态IP地址

  • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
    请添加图片描述

  • 存盘退出,执行命令:systemctl restart network
    请添加图片描述

  • 执行命令:ip addr,查看设置的静态IP地址
    请添加图片描述

(3)配置主机名与IP地址映射

  • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
    请添加图片描述

  • 存盘退出,验证配置效果

  • slave1虚拟机可以通过主机名来ping通master虚拟机和slave1虚拟机
    请添加图片描述

  • master虚拟机可以通过主机名来ping通slave1虚拟机
    请添加图片描述

3、配置slave2虚拟机

  • 启动slave2虚拟机

操作与slave1相同

  • slave2虚拟机可以通过主机名来ping通master虚拟机、slave1虚拟机和slave2虚拟机
    请添加图片描述

  • master虚拟机可以通过主机名来ping通slave1虚拟机和slave2虚拟机
    请添加图片描述

四、关闭SeLinux安全机制

  • 安全增强型 Linux(Security-Enhanced Linux)简称 SELinux,它是一个 Linux 内核模块,也是 Linux 的一个安全子系统。
  • SELinux 主要作用就是最大限度地减小系统中服务进程可访问的资源(最小权限原则)。
  • SELinux 有三种工作模式,分别是enforcing:强制模式;permissive:宽容模式;disabled:关闭 SELinux。
  • /etc/sysconfig/selinux 文件里SELINUX=enforcing,将enforcing改成disabled,就可以关闭SeLinux安全机制

1、在master虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux
    请添加图片描述

2、在slave1虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux
    请添加图片描述

3、在slave2虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux

请添加图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/30737.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

线性回归实战---Abalone鲍鱼年龄预测

线性回归实现Abalone鲍鱼年龄预测 文章目录线性回归实现Abalone鲍鱼年龄预测一、环境准备数据集简介二、线性回归基础知识什么是线性回归?“最小二乘法” 求解线性回归问题三、Python代码四、结果分析前面我们使用手动编写,后面通过sklearn第三方库来与我们手写的模型进行对比…

Mysql——使用字符集以及校对

一、字符集 1、查看mysql支持的所有字符集 show character set; 2、查看指定数据库的字符集 show variables like ‘character%’; 这八种情况分别对应: 1)设置客户端使用的字符集 2)设置链接数据库时的字符集 3)设置创建数据库…

2、Pinpoint-Server端安装

0、本章节简介 安装Pinpoint服务端 采用Docker安装所以需要提前安装 docker和 docker-compose 本文使用的版本是Pinpoint:2.1版本 ps 由于Pinpoint依赖了很多的基础镜像,所以推荐不要在已经部署了程序的机器上部署,以免造成端口号冲突,推荐使…

HTML5期末大作业——HTML+CSS+JavaScript平遥古城旅游景点介绍(6页)

👨‍🎓学生HTML静态网页基础水平制作👩‍🎓,页面排版干净简洁。使用HTMLCSS页面布局设计,web大学生网页设计作业源码,这是一个不错的旅游网页制作,画面精明,排版整洁,内容…

【笔试强训】Day2

🌈欢迎来到笔试强训专栏 (꒪ꇴ꒪(꒪ꇴ꒪ )🐣,我是Scort目前状态:大三非科班啃C中🌍博客主页:张小姐的猫~江湖背景快上车🚘,握好方向盘跟我有一起打天下嘞!送给自己的一句鸡汤&#x…

Vue常用知识点汇总

1. Vue常见的指令有哪些,有什么用 (1)v-text: 会替换掉元素里的内容; (2)v-html: 可以渲染html界面; (3)v-clock: 防止界面闪烁&…

[附源码]java毕业设计学校缴费系统

项目运行 环境配置: Jdk1.8 Tomcat7.0 Mysql HBuilderX(Webstorm也行) Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。 项目技术: SSM mybatis Maven Vue 等等组成,B/S模式 M…

Activity的启动模式

文章目录Activity的启动模式standardsingleTopsingleTasksingleInstanceActivity的启动模式 在实际的项目当中,我们应该根据特定的需求给每个Avtivity指定恰当的启动模式启动模式一共包含四种:standard,singleTop,singleTask,singleInstance指定启动模式的方法:在AndroidManif…

SELECT 1 FROM DUAL ,未找到要求的 FROM 关键字

1. 解决方案 背景描述: 项目需要将mysql数据库换成Oracle数据库,配置好数据源后,启动报错: 解决方案: application.yml 中修改(配置了多数据源): spring:datasource:dynamic:dr…

web前端网页制作课作业:使用HTML+CSS技术制作中华传统文化网站【文房四宝】学生网页设计作品 简单静态HTML网页作品

🎉精彩专栏推荐 💭文末获取联系 ✍️ 作者简介: 一个热爱把逻辑思维转变为代码的技术博主 💂 作者主页: 【主页——🚀获取更多优质源码】 🎓 web前端期末大作业: 【📚毕设项目精品实战案例 (10…

Linux上:安装、网络配置

文章目录第一章: Linux概述1.1 操作系统1.2 操作系统的发展史1.3 Linux发行版第二章WSL安装linux2.1 WSL简介2.2安装Ubuntu2.3 Ubuntu功能设置2.4 ubantu环境设置第三章: 使用VM安装Linux3.1安装VMware3.2 配置安装系统环境3.3 安装Centos系统3.4 基本配…

C++入门基础05:表达式(表达式基础、算术运算符与赋值运算符、逻辑关系运算符、成员访问运算符与条件运算符、位运算符、移位运算符与类型转换)

C入门基础05&#xff1a;表达式(表达式基础、算术运算符与赋值运算符、逻辑关系运算符、成员访问运算符与条件运算符、位运算符、移位运算符与类型转换) 一、表达式基础 #include <iostream> //系统定义头文件一般是尖括号 #include<fstream> #include<string…

Linux从入门到精通(九)——Linux编程

文章篇幅较长&#xff0c;建议先收藏&#xff0c;防止迷路 文章跳转Linux从入门到精通&#xff08;八&#xff09;——Linux磁盘管理goLinux从入门到精通&#xff08;九&#xff09;——Linux编程goLinux从入门到精通&#xff08;十&#xff09;——进程管理goLinux从入门到精…

教程一 Energy 构建简单的Windows、Linux、MacOSX桌面应用

Golang的Energy使用命令行工具安装开发环境&#xff0c;并运行一个应用。 环境安装 Energy 命令行工具 使用命令行工具自动安装Energy框架的所有依赖(CEF)&#xff0c;支持Window、Linux、MacOSX 安装过程从网络下载CEF和Energy库 获取命令行工具 一、预编译命令行工具 下载地…

银行业国产数据库现状

数据库发展历程 数据库经历了单机数据库、集中式数据库、非关系型数据库、新型数据库四阶段。 单机数据库&#xff1a;单机数据库就是只能运行在单机上&#xff0c;不提供网络功能的数据库。 集中式数据库&#xff1a;数据库是一种经典、传统的数据库结构&#xff0c;多台机…

js内容整理

js内容整理 定时器 JavaScript 提供定时执行代码的功能&#xff0c;叫做定时器&#xff08;timer&#xff09;&#xff0c;主要由setTimeout()和setInterval()这两个函数来完成。 setTimeout() setTimeout函数用来指定某个函数或某段代码&#xff0c;在多少毫秒之后执行。它…

公益是书籍是什么,公益书籍变现模式有哪些

最近&#xff0c;我看到很多人在朋友圈里做公益书籍。 什么是公益书籍&#xff0c;公益书籍又是怎么进行变现的呢&#xff1f; 公益书籍主要是借助公益的逻辑&#xff0c;分发给各种家长。家长每次根据书单给孩子选择相应的书&#xff0c;15元左右就能拿到一套。 公益书籍实…

Linux进程地址空间

哪有明知明天会死今天就会上吊的傻瓜&#xff1f; -要乐观喔 本次博客的分享呢可能比较抽象&#xff0c;博主尽力画图分析&#xff0c;力图给老铁阐明清楚。 目录 ⚽一、进程地址空间区域划分 &#x1f453;Ⅰ区域划分 &#x1f453;Ⅱ虚拟地址和物理地址 ⚽二、页表和映…

科技云报道:发布分布式云战略,中国电子云吹响冲锋号角

科技云报道原创。 过去三年&#xff0c;中国电子云一直牢牢抓住业界的目光&#xff0c;不仅因为“国家队”的身份光环&#xff0c;更因实打实的成绩令人侧目。 据悉&#xff0c;中国电子云核心产品中心云CECSTACK&#xff0c;起步可达3000节点规模&#xff0c;最大可支撑每秒…

一文搞懂堆外内存(模拟内存泄漏)

一、前言 平时编程时&#xff0c;在 Java 中创建对象&#xff0c;实际上是在堆上划分了一块区域&#xff0c;这个区域叫堆内内存。 使用这 -Xms -Xmx 来指定新生代和老年代空间大小的初始值和最大值&#xff0c;这初始值和最大值也被称为 Java 堆的大小&#xff0c;即 堆内内…