记录搭建hadoop集群的过程

news2024/11/15 23:35:48

Linux(CentOS-7.6-x64位)基础配置, 虚拟机平台VmWare15
CentOS-7.6-x64镜像下载: https://www.aliyundrive.com/s/72Xg449t6i8 提取码: 32rm 

VmVare15安装包下载带序列号:VmVare15安装包下载带激活序列号资源-CSDN文库 

 

 

 

点击关闭,点击完成,即可

 如何查看自己的计算机的处理器(CPU)数和内核数?

 (487条消息) CentOS7.6的详细安装步骤_岁月轻扰的博客-CSDN博客

配置镜像文件:

 点击开启此虚拟机,键盘上的上下箭头按键可以进行选择,选中第一个后,敲回车就开始安装了。

剩下的参考这个博客:(我安装的是没有桌面的,这个博客安装的是有桌面的,适当参考)

 (487条消息) 使用 VMware 创建一个新的虚拟机_vmware创建虚拟机_汪小霜的博客-CSDN博客

 剩下的配置文件主要是参考博客:

(486条消息) 大数据软件安装配置教程[Linux, JDK, MySQL, Hadoop, ZooKeeper, Hive, Flume, Kafka, HBase-Phoenix, Scala, Spark等等]_大数据安装_hellosrc | remake的博客-CSDN博客

 依次点击确定,确定。

vi  /etc/sysconfig/network-scripts/ifcfg-ens33 

后来又修改了一下IPADDR:(需要重启reboot后,虚拟机ip地址才会改过来)

输入命令:reboot(重启虚拟机),之后发现主机名改过来了

vi /etc/hosts 

windows的hosts文件也配置一下:位置在 C:\WINDOWS\System32\drivers\etc下

 中途,我又去下载安装了个xshell7,有需要的链接放这里了:

Xshell 最新激活破解教程(持续更新~) - 哔哩哔哩 (bilibili.com)

本机ping不通虚拟机的ip地址:192.168.125.11

通过参考以下博客解决了问题:

(512条消息) 本地ping不上虚拟机地址? 只需简单几步即可_本地ping不通虚拟机_稚皓君的博客-CSDN博客

 

 yum下载 相关必备的软件包

yum install -y rsync 
yum install -y gcc 
yum install -y gcc-c++  
yum install -y vim 
yum install -y wget 
yum install -y perl  
yum install -y ntp 
yum install -y ntpdate 
yum install -y net-tools  
yum install -y lrzsz  
yum install -y libaio  
yum install vixie-cron(报错说:没有可用软件包 vixie-cron,网上查说命令是这个yum install cronie)
yum install crontabs

yum的使用介绍参考:

(515条消息) yum和vim须掌握的常用操作_yum install vim -y_今年依旧去年春的博客-CSDN博客

要完整克隆两台虚拟机,搭建hadoop分布式集群参考的博客:

(515条消息) 搭建Hadoop分布式集群的详细教程_hadoop完全分布式集群搭建全过程_木木子v的博客-CSDN博客

 

 同样,修改hadoop02,hadoop03两台虚拟机上的ip地址、hostname

vi  /etc/sysconfig/network-scripts/ifcfg-ens33 

 然后重启hadoop02和hadoop03

通过Xshell分别连接hadoop01、hadoop02和hadoop03

但是使用xshell连接服务器时,出现了“WARNING! The remote SSH server rejected X11 forwarding request.”,意思是“远程SSH服务器拒绝X11转发请求。”(我没解决这个问题,警告而已又不影响使用,但先在这做个笔记万一以后用到呢)

(515条消息) 解决“WARNINGThe remote SSH server rejected X11 forwarding request.“警告_远程ssh服务器拒绝了x11转发请求_SoloVersion的博客-CSDN博客

 使用vim编辑器打开network网络配置文件,命令如下:

        vim /etc/sysconfig/network

hadoop01的

 hadoop02和hadoop03的只需要把HOSTNAME更改成对应的主机名

这里有个小插曲是:xshell怎么设置右键粘贴

后来又改了一下,上边的图懒得改了,上下两张图结合着看吧

 好了,接着完成剩下的内容。

三台虚拟机互相ping一下,看有没有问题,正常来说都能ping通才对,我试过了都能ping通。

配置SSH免密登录

hadoop01上执行命令:ssh-keygen -t rsa

通过分别执行ssh-copy-id hadoop01(给自己做免密登录)、ssh-copy-id hadoop02 和 ssh-copy-id hadoop03两条命令

分别做自己的免密登录和hadoop02、hadoop03的免密登录

同样

hadoop02上执行命令:ssh-keygen -t rsa

通过分别执行ssh-copy-id hadoop02、ssh-copy-id hadoop01 和 ssh-copy-id hadoop03两条命令

分别做自己的免密登录和hadoop01、hadoop03的免密登录

同样

hadoop03上执行命令:ssh-keygen -t rsa

通过分别执行ssh-copy-id hadoop03、ssh-copy-id hadoop01 和 ssh-copy-id hadoop02两条命令

分别做自己的免密登录和hadoop01、hadoop02的免密登录

未完待续…………

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/612400.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

NineData,稳定、高效的Redis数据同步解决方案

在 DB-Engines 网站的排名中,Redis 在 Key-value 存储的NoSQL领域连续霸榜多年,是目前最流行的键值对存储数据库,被广泛用于缓存、队列、实时分析等多种高并发的场景中。在生产环境中,我们会遇到对Redis进行版本升级和架构的扩缩容…

vue 自定义el-table穿梭框功能

一、需求描述:前段时间接到一个需求是点击做一个类似穿梭框的表格点击选中功能,弹框的左边是全部数据展示,点击表格行数据可以选中自动增加到右边的已选框,并且可以手动删除、重置选中数据。点击确定后到展示到主页面,…

深入理解Linux虚拟内存管理(四)

系列文章目录 Linux 内核设计与实现 深入理解 Linux 内核(一) 深入理解 Linux 内核(二) Linux 设备驱动程序(一) Linux 设备驱动程序(二) Linux 设备驱动程序(三&#xf…

精选一线企业最佳生产实践,《Apache Doris 用户案例集》重磅发布!

过去的一年势必是 Apache Doris 在发展历程中有着浓墨重彩的一年,凭借对技术创新的执着与用户体验的追求,Apache Doris 已俘获全球范围内超过 2000 家企业的认可,拥有了极为广泛的用户规模、在企业实时数据分析的多种场景中得到广泛应用&…

热门AI通用大模型对比盘点(附论文)

今天我来和大家聊聊通用大模型,垂直领域大模型等整理完了再和大家分享。大家可以先关注一下我,有更新可以立马看见。 本文文末有整理好的通用大模型论文,都是各个大模型的原始论文,强烈建议大模型方向的同学,或者对大…

突破软件交付不可能三角,企业级无代码如何实现卓越交付?

一、VUCA时代下项目交付面临的困境 软件开发或软件项目交付一直以来都存在着“不可能三角”,即成本、效率和质量三者难以兼得。 交付周期长、成本高、满意度低等一直是行业内长期存在的现象,甚至软件交付双方都习以为常。传统项目管理与软件实施过程难…

Niagara—— Texture Sample 与 Particle Subuv 区别

一,Texture Sample 此节点是最基本的采样节点,依据UV坐标来采样Texture; MipValueMode,设置采样的Mipmap Level; None,根据当前Texture大小和物理缩放,自动选择合适的 Mipmap Level &#xff1b…

行为型设计模式03-观察者模式

🧑‍💻作者:猫十二懿 🏡账号:CSDN 、个人博客 、Github 🎊公众号:猫十二懿 观察者模式 1、观察者模式介绍 观察者模式是一种行为型设计模式,也被称为发布-订阅模式,它定…

Hive学习---4、函数(单行函数、高级聚合函数、炸裂函数、窗口函数)

1、函数 1.1 函数简介 Hive会将常用的逻辑封装成函数给用户进行使用,类似java中的函数。 好处:避免用户反复写逻辑,可以直接拿来使用 重点:用户需要知道函数叫什么,能做什么 Hive提供了大量的内置函数,按…

《相信》读后感

近日阅读了蔡磊的《相信》一书,蔡磊先生曾是京东集团副总裁,中国电子发票的推动者。上天给了他优越的智商条件,从上学到工作,前半生几乎顺风顺水、获誉无数,却在初为人父、本该享受家庭幸福的时候,接到突患…

Python字典及用法详解

Python中的字典(Dictionary)是一种无序、可变的数据类型,用于存储键(Key)和值(Value)之间的映射关系。字典是一种高效的数据结构,可以用于快速查找和检索数据。 1.创建字典 可以使…

MobileViT详解:轻型,通用,移动友好的视觉变压器

MobileViT详解:轻型,通用,移动友好的视觉变压器 0. 引言1. 网络结构2. 模型详解2.1 MobileViT Block2.1.1 Local representations2.1.2 Transformers as Convolutions (global representations)2.1.3 Fusion 2.2 MV2 3. 简化版理解4. 总结 0.…

Ubuntu系统搭建FTP服务器

Ubuntu 系统版本:Ubuntu 22.04.2 LTS 安装 vsftpd 软件包 sudo apt-get update sudo apt-get install vsftpd查看版本,验证是否安装成功:vsftpd -v 配置文件 以下是我翻译后的默认配置文件(地址 /etc/vsftpd.conf)&a…

[NOI2009] 描边

题目描述 小 Z 是一位杰出的数学家。聪明的他特别喜欢研究一些数学小问题。 有一天,他在一张纸上选择了 n 个点,并用铅笔将它们两两连接起来,构成 (�−1)22n(n−1)​ 条线段。由于铅笔很细,可以认为这些线段的宽度为…

ROS:参数的使用与编程方法

目录 一、参数模型二、 创建功能包三、参数命令行的使用(rosparam)四、使用程序来使用参数(C)4.1创建代码4.2编译4.3运行 一、参数模型 在ROS Master中,存在一个参数服务器(Parameter Server),它是一个全局…

Python高光谱遥感数据处理与机器学习实践技术丨Matlab高光谱遥感数据处理与混合像元分解

目录 Python高光谱遥感数据处理与机器学习实践技术 第一章 高光谱基础 第二章 高光谱开发基础(Python) 第三章 高光谱机器学习技术(python) 第四章 典型案例操作实践 Matlab 高光谱遥感数据处理与混合像元分解 第一章 理论…

java SSM 互助旅游管理系统myeclipse开发mysql数据库springMVC模式java编程计算机网页设计

一、源码特点 java SSM 互助旅游管理系统是一套完善的web设计系统(系统采用SSM框架进行设计开发,springspringMVCmybatis),对理解JSP java编程开发语言有帮助,系统具有完整的源代码和数据库,系统主要采…

预制菜进击万亿市场,谁能更快上桌“吃菜”?

文 | 螳螂观察 作者 | 图霖 消费行业很少有可持续的风口,这两年的预制菜算其中一个。 艾媒咨询发布的行业预测显示,2026年我国预制菜市场规模有望达到10720亿元。 过去这一年,武汉、大同等地已相继召开了预制菜相关的产业峰会。峰会规模有…

gismo-3维IGA

文章目录 前言一、简单示例二、gismo-3维IGA3维程序中的几何模型 三、xml文件的理解1、xml文件示例2、gismo中二维示例文件-一个曲面(简单) 四、三维程序中xml文件的理解三维几何模型边界信息 五、三维程序运行细化四次细化5次 总结 #pic_center 前言 只…

C#读写FDX-B ISO11784/85协议动物标签源码

一个FDX-B ISO11784/85协议动物标签内包括了以下信息: 11位的前导码;38位的SN序号;10位国家代码;1位data block标识;14位保留位;1位Animal动物标识;以上64位数据的crc16ccitt校验码&#xff0c…