「大数据-0.1」虚拟机VMware安装、配置、使用、创建大数据集群教程

news2024/12/23 1:25:28

目录

一、下载VMware Wworkstation Pro 16

二、安装VMware Wworkstation Pro 16

三、检查与设置VMware的网卡

1. 检查

2. 设置VMware网段

四、在VMware上安装Linux虚拟机

五、对安装好的虚拟机进行设置

1. 打开设置

2. 设置中文

3. 修改字体大小

4. 修改终端字体大小

5. 关闭虚拟机

六、创建大数据集群 

七、对大数据集群进行配置

1. 配置三台虚拟机的主机名

2. 配置固定IP

3. 设置SSH免密登录

4. 创建hadoop用户并设置免密登录

八、对虚拟机完成JDK环境的部署 

1. 下载JDK

2. 将下载好的JDK压缩包上传到虚拟机中

九、对虚拟机完成防火墙、SE Linux、时间同步等系统设置

1. 关闭防火墙

2. 关闭SE Linux

3. 修改时区并设置时间同步 

4. 拍摄快照保存配置好的虚拟机


一、下载VMware Wworkstation Pro 16

1. 跳转至VMware官网

选择Workstation 16 Pro for Windows进行下载,境外网站下载速度可能较慢。


2.百度网盘链接  提取码:2233


二、安装VMware Wworkstation Pro 16

1.点击刚才下载好的安装程序,等待一会会出现一下界面:


2.点击下一步,然后同意协议,来到安装位置界面,在这里更改安装位置:


3.用户体验设置界面的两个选项勾不勾都可以,一般不勾


4.快捷方式界面推荐都勾上,然后下一步,选择安装,等待一会后出现以下界面:

到该界面后,如果直接点击完成的话,则是进行试用;点击许可证,输入密钥则是永久使用:

VMware Workstation Pro 16 密钥(选择其中一个即可):
ZF3R0-FHED2-M80TY-8QYGC-NPKYF
YF390-0HF8P-M81RQ-2DXQE-M2UT6
ZF71R-DMX85-08DQY-8YMNC-PPHV8
如果以上密钥失效,请搜索:VMware Workstation Pro 16密钥,搜一个能用的即可。

5.输入密钥后点击完成,到以下界面再点击完成,即可完成安装。 


三、检查与设置VMware的网卡

1. 检查

主要是检查是否有VMnet1和VMnet8这两张虚拟网卡,如果没有,那我们的虚拟机将无法上网。


法一:适用Windows11

1. 打开Windows设置

2. 查看网络连接中是否有VMnet1和VMnet8


法二:通用

因为Windows系统各版本的打开方式有区别,下面提供一个通用方法:

1. 快捷键Win + R 打开运行界面,输入ncpa.cpl

2. 查看网络连接中是否有VMnet1和VMnet8

如果没有那就是安装出现了问题,请卸载软件后重新安装。

2. 设置VMware网段

        为了方便以后大数据的学习,将VMware网段设置为192.168.88.0,在后续的学习中大数据的集群网络就设置为192.168.88.0的网段,同时设置整个虚拟机的网关为192.168.88.2,这样未来就不用频繁的修改适配了,能减少很多麻烦。


2.1 打开虚拟网络编辑器对VMnet8进行修改,将网段设置为192.168.88.0


2.2 修改net设置中的网关为192.168.88.2 ,修改完点击确定,进行应用即可。


四、在VMware上安装Linux虚拟机

1. 下载CentOS或Ubuntu操作系统

1.1  跳转下载CentOS操作系统

选择CentOS7.6版本下载: 


1.2 百度网盘链接  提取码:2233


1.3 跳转ubuntu下载网页 

2. 打开刚才安装好的VMware,选择创建新的虚拟机

3.进入向导界面选择建议选择操作简单的典型

4.选择安装程序光盘映像文件,选择浏览找到刚才下载好的CentOS

5. 创建一个账户

6. 设置虚拟机的名称和位置(点击浏览选择安装位置)

7.设置虚拟机硬盘大小,为了避免影响后续使用,建议设为40GB。

8. 检查虚拟机配置信息,选择创建后打开,完成

9. 选择刚才创建好的虚拟机,如果没有自动开机点击开机

10. 开机后用之前的账户登录虚拟机

第一次开机需要安装虚拟机,这个过程大概要10分钟左右,开机成功后选择之前创建的账户,填写好密码就能成功进入虚拟机的操作系统界面中了。


10.1 选择账户和填写账户密码


10.2 成功进入虚拟机的操作系统界面


五、对安装好的虚拟机进行设置

1. 打开设置

2. 设置中文

进入设置后,选择 Region & Language 设置语言。

重启后语言就会变为中文,此时会询问你是否修改文件名,选择不修改 ,不建议修改文件名为中文。

3. 修改字体大小

4. 修改终端字体大小

5. 关闭虚拟机


六、创建大数据集群 

0. 关闭刚才创建好的虚拟机

1. 右击虚拟机,选择管理,选择克隆

2. 不断点击下一页,到以下页面后,选择创建完整克隆

因为我们要的是完整的服务器,而不是一个链接,所以选择完整克隆。

3.  点击下一页,修改虚拟机的名称和虚拟机的存放地址

4. 点击完成,成功后出现以下界面

5.同样的操作,克隆出node2和node3

6. 右击我的计算机,选择新建文件夹,创建大数据集群文件夹,然后将node1\2\3拖入其中。

7. 设置node1\2\3的内存

以下内存配置只是推荐,要求电脑至少有16GB内存,如果没有,具体内存分配请根据自己的电脑配置设置(如8GB设置为2/1/1)。


node1为主要服务器会运行更多的软件,将其内存设置为4GB


重复上面的步骤设置node2\3的内存为2GB 


七、对大数据集群进行配置

0. 将三台虚拟机开机并登录


选择之前创建的用户和填写用户密码

1. 配置三台虚拟机的主机名

1.1右击桌面,打开终端。


1.2 在终端里输入 su - ,再输入当前用户密码切换到超级用户root

      只有超级用户root才有权限修改主机名。


1.3 在终端输入 hostnamectl set-hostname node1 修改主机名


1.4 关闭后重新打开终端,检查主机名是否被正确修改


1.5 重复上述步骤将虚拟机node2\3的主机名设置为node2 和 node3

2. 配置固定IP

2.0 以超级用户身份打开配置文件

  • 先使用命令su - 切换为超级用户root
  • 然后在终端下输入指令 vim /etc/sysconfig/network-scripts/ifcfg-ens33 打开配置文件
  • 按i进入插入模式,对文件进行修改

2.1 修改配置文件

  • 将BOOTPROTO="dhcp"改为BOOTPROTO="static" (将协议由自动获取IP变更为固定不变)
  • 在末尾添加 IPADDR="192.168.88.101"(固定后要设置IP地址,node1为192.168.88.101,node2为192.168.88.102,node3为192.168.88.103)
  • 在末尾添加 NETMASK="255.255.255.0" (设置子网掩码)
  • 在末尾添加 GATEWAY="192.168.88.2" (设置网关)
  • 在末尾添加 DNS1="192.168.88.2"(设置DNS服务器,一般和网关一样)


2.2 保存并退出

  • 按下Esc退出编辑模式
  • 按下Shift + : 进入底行模式
  • 输入wq! 强制保存并退出。

2.3 重启网卡

        在终端输入 systemctl restart network 重启网卡


2.4 检查是否配置成功

        在终端输入 ifconfig 检查inet、netmask是否配置成功

        


2.5 在虚拟机node2和node3下进行如上操作

        但要注意在修改配置文件时:在末尾添加 IPADDR="192.168.88.101"(node1为192.168.88.101,node2为192.168.88.102,node3为192.168.88.103)


2.6 配置主机名映射

2.6.1 在Windows系统中修改hosts文件,在文件末尾加上:

        192.168.88.101 node1
        192.168.88.102 node2
        192.168.88.103 node3

步骤:

a. 找到C盘下的hosts文件:C:\Windows\System32\drivers\etc,右击修改属性

b. 修改hosts文件权限为可写入

c. 修改hosts文件,加上配置信息

d. 将hosts文件权限改回


2.6.2 在虚拟机中修改/etc/hosts 文件,在文件末尾加上:

        192.168.88.101 node1
        192.168.88.102 node2
        192.168.88.103 node3

步骤:

a. 在终端下输入指令 vim /etc/hosts 打开配置文件

b. 修改配置文件

按i进入插入模式,在文件末尾加上:

192.168.88.101 node1
192.168.88.102 node2
192.168.88.103 node3

c.  保存并退出
  • 按下Esc退出编辑模式
  • 按下Shift + : 进入底行模式
  • 输入wq! 强制保存并退出。

d. 输入指令 vim /etc/hosts 再次打开配置文件,检查是否配置成功.

配置成功,如下图:

e. 对虚拟机node2\3 进行相同操作

3. 设置SSH免密登录

由于是一个集群,未来需要在多个服务器之间跳转,为了方便起见最好配置一下ssh免密登录。


3.1 生成SSH密钥

在每台虚拟机的终端输入以下命令:ssh-keygen -t rsa -b 4096 ,然后一路回车即可。


3.2 授权免密登录

在每台虚拟机上执行以下步骤:

a. 在终端输入命令:ssh-copy-id node1   输入yes   输入用户密码

b. 在终端输入命令:ssh-copy-id node2   输入yes   输入用户密码

b. 在终端输入命令:ssh-copy-id node3   输入yes   输入用户密码

e. 检查是否成功免密登录

在虚拟机node1的终端输入 ssh node2 或 ssh node3 看看能否跳转成功。

4. 创建hadoop用户并设置免密登录

为保证安全性(防止误操作对系统造成严重破坏),后续的大数据软件,不会再以root用户启动。为大数据集群创建一个单独的用户hadoop,并为集群上的服务器配置hadoop用户的免密登录。


4.1 在每一台机器执行: useradd hadoop,创建hadoop用户


4.2 在每一台机器执行: passwd hadoop,设置hadoop用户密码为123456


4.3 在每一台机器均切换到hadoop用户: su - hadoop ,并执行 ssh-keygen -t rsa -b 4096 ,一路回车,创建ssh密钥


4.4 在每一台机器均执行以下命令,授权免密登录
ssh-copy-id node1
ssh-copy-id node2
ssh-copy-id node3


八、对虚拟机完成JDK环境的部署 

JDK就是Java语言的开发环境,很多大数据软件都需要Java环境的支持,所以要预先部署好JDK。

1. 下载JDK

1.1 官网下载跳转


1.2 百度网盘链接  提取码:2233

2. 将下载好的JDK压缩包上传到虚拟机中

2.1 先关闭三台虚拟机的防火墙

在终端执行以下指令:
关闭防火墙:
systemctl stop firewalld

关闭防火墙自启:
systemctl disable firewalld

2.2 然后安装一个远程管理软件,如Xshell、Finalshell,以root身份登录。


2.3 创建文件夹/export/server,将JDK安装部署到该文件夹中

mkdir -p /export/server

2.4 进入到刚才创建的目录中

cd /export/server

2.5 使用rz命令上传下载好的JDK压缩包(或直接将本地文件拖拽进来)


2.6 解压缩

tar -zxvf jdk-8u361-linux-x64.tar.gz

2.7 删除压缩包

rm -rf jdk-8u361-linux-x64.tar.gz

2.8 配置JDK的软链接

ln -s /export/server/jdk1.8.0_361 jdk


2.9 配置JAVA_HOME环境变量,以及将$JAVA_HOME/bin文件夹加入到PATH环境变量中

a. 使用命令 vim /etc/profile 打开profile文件

b. 按i进入插入模式,在文件末尾加上:
export JAVA_HOME=/export/server/jdk
export PATH=$PATH:$JAVA_HOME/bin

c. 按下Esc退出插入模式,按下Shift+:进入底行模式,输入wq!,强制保存并退出。

2.10 生效环境变量

source /etc/profile

2.11 配置java执行程序的软链接

a. 先删除系统自带的java程序
rm -f /usr/bin/java

b. 软链接我们自己安装的java程序
ln -s /export/server/jdk/bin/java /usr/bin/java

2.12 检查是否配置成功

查看java版本:
java -version
javac -version


九、对虚拟机完成防火墙、SE Linux、时间同步等系统设置

1. 关闭防火墙

以下操作在三台虚拟机里都要执行:

1.1 为什么要关闭防火墙?
如果不关闭防火墙,我们无法远程连接虚拟机,且集群内的虚拟机无法通过端口互相通讯。


1.2 怎么关闭防火墙?

关闭防火墙:
systemctl stop firewalld

关闭防火墙自启:
systemctl disable firewalld

2. 关闭SE Linux

以下操作在三台虚拟机里都要执行:

2.1 为什么要关闭SE Linux?

SELinux会限制用户和程序的相关权限,会影响我们后续运行大数据程序,所以提前关闭。


2.2 怎么关闭

a.在终端输入指令,打开selinux文件:
vim /etc/sysconfig/selinux

b.将第七行的 SELINUX=enforcing 改为
SELINUX=disabled
(检查一遍,一定不能出错否则无法启动系统。)

c.重启虚拟机
init 6

3. 修改时区并设置时间同步 

以下操作在三台虚拟机里都要执行:

1. 安装ntp软件

yum install -y ntp

2. 更新时区

删除原来的时区:
rm -f /etc/localtime;

设置时区为上海:
sudo ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

3. 同步时间

联网访问阿里云,校准时间
ntpdate -u ntp.aliyun.com

4. 开启ntp服务并设置开机自启

启动ntpd
systemctl start ntpd;

将ntpd加入开机自启
systemctl enable ntpd

4. 拍摄快照保存配置好的虚拟机 

4.0 为什么需要拍摄快照?

拍快照相当于给当前虚拟机的配置做一个备份,将来有问题,直接按照快照还原虚拟机即可,不需要删除再重新配置。


4.1 在VMware将所有虚拟机关机


4.2 拍摄快照


4.3 如何使用快照恢复?


------------------------END-------------------------

才疏学浅,谬误难免,欢迎各位批评指正。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1022275.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【Vue】MVVM模型还没懂嘛

hello,我是小索奇,精心制作的Vue教程持续更新哈,想要学习&巩固&避坑就一起学习叭~ MVVM 模型 Vue虽然没有完全遵循MVVM模型,但Vue的设计也收到了它的启发在文档中也会使用VM(ViewModel的缩写)这个变…

终于搞清了:SPI、UART、I2C通信的区别与应用!

电子设备之间的通信就像人类之间的交流,双方都需要说相同的语言。在电子产品中,这些语言称为通信协议。 之前有单独地分享了SPI、UART、I2C通信的文章,这篇对它们做一些对比。 串行 VS 并行 电子设备通过发送数据位从而实现相互交谈。位是…

JVM内存结构解析(图文详解)

JVM内存结构 共享 和 隔离 线程共享区域:方法区、堆、直接内存 线程隔离区域:虚拟机栈、本地方法栈、程序计数器 线程共享:定义一个变量或者一个方法,多线程都可以同时访问、修改这个方法或者变量 线程隔离:就是数…

iPhone恢复出厂设置,掌握2个方法!

当您的手机出现闪退、内存不足、严重卡顿等情况,或者是想将手机进行二手转让时,您可能需要通过将iphone恢复出厂设置来解决问题。但是恢复出厂设置后,手机上的所有数据都会被清除。iPhone怎么恢复出厂设置?本文将为您介绍两种简单…

混淆矩阵和数据不平衡 (2/3)

一、说明 当我们的数据标签具有比另一个类别更多的类别时,我们说我们有数据不平衡。 如果数据集数据不平恒,如何评估分类器的效果?如果分类器不好,如何改进分类器?本篇将讲述不平衡数据下,混淆矩阵的应用。…

许战海战略文库|品类缩量时代:制造型企业如何跨品类打造份额产品?

所有商业战略的本质是围绕着竞争优势与竞争效率展开的。早期,所有品牌立足于从局部竞争优势出发。因此,品牌创建初期大多立足于单个品类。后期增长受限,就要跨品类持续扩大竞争优势,将局部竞争优势转化为长期竞争优势,如果固化不前很难获得增…

玩转 gpgpu sim 02记 —— 构建了什么

1. 设置环境变量 编译gpgpu-sim 需要先运行脚本 setup_environment , source setup_environment, 注释如下,主要是设置一些 Makefile中会用到的环境变量 # see README before running this # 下面这句用来检测当前的shell环境是不是 bash 或者 sh 或者 …

GD32F303窗口看门狗在待机模式下运行

1.窗口看门狗 独立看门狗的时钟关闭不了,所以低功耗模式下需要定期唤醒喂狗,否则就会重启,比较麻烦。窗口看门狗使用的是APB1时钟,低功耗模式下时钟就停止了,所以不需要定期唤醒喂狗。但是窗口看门狗有喂狗的时间窗口&…

韩国市场最全开发攻略

2022年1月1日,RCEP正式生效施行,韩国也是首次跟中国缔结自贸条约,更低的关税,更灵活的贸易规则、更简洁的通关程序都将为中韩在贸易上继续发力增加了更多可施展的空间。这也将帮助更多的企业在东亚市场大展拳脚,推进整…

归并排序~

将一个无序系列,分成小系列,相邻两个小系列进行排序合并,再将两个相邻小系列排序合并,。。。。 int[] data {0,5,4,8,9,3,2,67,23} len 9 第一次每个元素一组 0,5,4,8,9,3,2,67,23 相邻排序合并 …

Vue框架分享与总结

总结开发中最常用的vue语法,以及对特定语法的理解。vue官网 文章目录 一、创建vue项目1、使用开发工具创建2、使用命令行创建3、vue框架结构4、Vue文件结构 二、Vue 常用模板语法1、v-if、v-show2、v-for3、v-on4、v-bind5、v-model 三、组件通信1、父组件给子组件传…

Bytebase 2.8.0 - ​全新升级的数据脱敏功能

🚀 新功能 全新升级的数据脱敏功能,提供更加细化的脱敏和访问权限配置。全新升级的 SQL 编辑器界面。库表同步功能支持 Oracle。支持设置公告。 🎄 改进 新增基于 MySQL parser 的数据脱敏内核。调整了侧边栏数据库列表,用最近…

Docker实战-第一章欢迎来到Docker世界

Docker基础 什么是Docker docker是包括一个命令行程序、后台守护进程和一组远程服务,它简化了安装、运行、发布和删除软件的工作。docker实现的基础是UNIX的容器技术。所以在docker出世之前已经有容器的概念,而且像谷歌一类公司也在探索自己的容器&…

关于taos数据库使用过程中突发“unable to establish connection”问题解决

项目使用的版本信息 1.taos的版本信息 3.0.4.1 2.jdbc的版本 3.2.1 3.druid连接池版本 1.2.11问题描述 Java应用服务连接,突然大量抛出如下的异常信息导致应用宕机: sql: select server_status(), desc: unable to establish connection和集团DBA沟通…

云原生微服务 第四章 Spring Cloud Netflix 之 Eureka

系列文章目录 第一章 Java线程池技术应用 第二章 CountDownLatch和Semaphone的应用 第三章 Spring Cloud 简介 第四章 Spring Cloud Netflix 之 Eureka 文章目录 系列文章目录[TOC](文章目录) 前言1、Eureka 两大组件2、Eureka 服务注册与发现3、案例3.1、创建主工程3.1.1、主…

(超详解)堆排序+(图解)

目录: 1:如何建堆(两种方法) 2:两种方法建堆的时间复杂度分析与计算 3:不同类型的排序方式我们应该如何建堆 文章正式开始: 1:如何建堆 在实现堆排序之前我们必须得建堆,才能够实现堆排序 首先在讲解如何建堆之前让我们先来回顾一…

保研复习-计算机组成原理

计算机组成原理 计算机组成冯诺依曼体系结构计算机系统的层次结构计算机的五大组成部件编译和解释的区别 CPUCPU的组成寄存器的类型指令类型指令功能指令执行过程 存储器存储器的层次结构寻址方式 输入和输出io方式有哪几种IO接口的基本结构 计算机组成 冯诺依曼体系结构 存储…

如何将你在树莓派上部署的 IoT 物联网 MQTT 服务发布到公网?

​ 上一章,你成功的在树莓派搭建了 EMQX 开源社区版,用来提供 MQTT 服务,并验证了设备端接入和消息通信。但你发现只能在局域网内访问 emqx.local 服务,而 IoT 设备分布在全国各地公共网络环境,这些设备该如何接入呢&a…

Android 13 CameraMetadata详解1 (内存分布以及增删改查)

文章目录 简介allocate_camera_metadataadd_camera_metadata_entrydelete_camera_metadata_entryupdate_camera_metadata_entryfind_camera_metadata_entry 点赞收藏加关注,下次找我不迷路。 也欢迎关注微信公众号 无限无羡 期待与你的相识! 简介 初识…

【面试必刷TOP101】删除链表的倒数第n个节点 两个链表的第一个公共结点

目录 题目:删除链表的倒数第n个节点_牛客题霸_牛客网 (nowcoder.com) 题目的接口: 解题思路: 代码: 过啦!!! 题目:两个链表的第一个公共结点_牛客题霸_牛客网 (nowcoder.com) …