Hadoop运行模式

前言
Hadoop运行模式
- 1 本地运行模式（官方WordCount）
- 2 完全分布式运行模式（开发重点）
- - 2.1 虚拟机准备
  - 2.2 编写集群分发脚本xsync
  - - 1）scp（secure copy）安全拷贝
    - 2）rsync 远程同步工具
    - 3）xsync 集群分发脚本
  - 2.3 SSH无密登录配置
  - - 1）配置ssh
    - 2）无密钥配置
    - 3）.ssh 文件夹下（~/.ssh）的文件功能解释
  - 2.4 集群配置
  - - 1）集群部署规划
    - 2）配置文件说明
    - 3）配置集群
    - 4）在集群上分发配置好的Hadoop配置文件
    - 5）去103和104上查看文件分发情况
  - 2.5 群起集群
  - - 1）配置workers
    - 2）启动集群
    - 3）集群基本测试
题外话

前言

今天我们具体来介绍一下Hadoop的运行模式具体内容移步正文。

Hadoop运行模式

1）Hadoop 官方网站：http://hadoop.apache.org/
2）Hadoop 运行模式包括：本地模式、伪分布式模式以及完全分布式模式。
➢ 本地模式：单机运行，只是用来演示一下官方案例。==生产环境不用。 ==
➢ 伪分布式模式：也是单机运行，但是具备Hadoop集群的所有功能，一台服务器模
拟一个分布式的环境。==个别缺钱的公司用来测试，生产环境不用。 ==
➢ 完全分布式模式：多台服务器组成分布式环境。==生产环境使用。 ==

1 本地运行模式（官方WordCount）

1）创建在hadoop-3.1.3文件下面创建一个wcinput文件夹

[atguigu@hadoop102 hadoop-3.1.3]$ mkdir wcinput

2）在wcinput文件下创建一个word.txt文件

[atguigu@hadoop102 hadoop-3.1.3]$ cd wcinput

3）编辑word.txt文件

[atguigu@hadoop102 wcinput]$ vim word.txt

➢ 在文件中输入如下内容

hadoop yarn 
hadoop mapreduce 
atguigu 
atguigu

➢ 保存退出：:wq
4）回到Hadoop目录/opt/module/hadoop-3.1.3
5）执行程序

[atguigu@hadoop102 hadoop-3.1.3]$ hadoop jar 
share/hadoop/mapreduce/hadoop-mapreduce-examples3.1.3.jar 
wordcount wcinput wcoutput

6）查看结果

[atguigu@hadoop102 hadoop-3.1.3]$ cat wcoutput/part-r-00000 
看到如下结果： 
atguigu 2 
hadoop  2 
mapreduce       1 
yarn    1

2 完全分布式运行模式（开发重点）

分析：
1）准备3台客户机（关闭防火墙、静态IP、主机名称）
2）安装JDK
3）配置环境变量
4）安装Hadoop
5）配置环境变量
6）配置集群
7）单点启动
8）配置ssh
9）群起并测试集群

2.1 虚拟机准备

详细看这篇文章Hadoop学习指南：探索大数据时代的重要组成——运行环境搭建

2.2 编写集群分发脚本xsync

1）scp（secure copy）安全拷贝

（1）scp定义
scp 可以实现服务器与服务器之间的数据拷贝。（from server1 to server2）
（2）基本语法

scp	-r	$pdir/ $fname	$ user@$ host: $ pdir/$fname
命令	递归	要拷贝的文件路径/名称	目的地用户@主机:目的地路径/名称

（3）案例实操
➢ 前提：在 hadoop102、hadoop103、hadoop104 都已经创建好的/opt/module、
/opt/software 两个目录，并且已经把这两个目录修改为atguigu:atguigu

[atguigu@hadoop102 ~]$ sudo chown atguigu:atguigu -R 
/opt/module

（a）在 hadoop102 上，将 hadoop102 中/opt/module/jdk1.8.0_212 目录拷贝到
hadoop103 上。

[atguigu@hadoop102 ~]$ scp -r/opt/module/jdk1.8.0_212  
atguigu@hadoop103:/opt/module

（b）在 hadoop103 上，将 hadoop102 中/opt/module/hadoop-3.1.3 目录拷贝到
hadoop103 上。

[atguigu@hadoop103 ~]$ scp 
atguigu@hadoop102:/opt/module/hadoop-3.1.3 /opt/module/ -r

（c）在 hadoop103 上操作，将 hadoop102 中/opt/module 目录下所有目录拷贝到
hadoop104 上。

[atguigu@hadoop103 opt]$ scp -r 
atguigu@hadoop102:/opt/module/* 
atguigu@hadoop104:/opt/module

2）rsync 远程同步工具

rsync 主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。
rsync 和 scp 区别：用 rsync 做文件的复制要比scp的速度快，rsync只对差异文件做更
新。scp是把所有文件都复制过去。
（1）基本语法

rsync	-av	$ pdir/$fname	$ user@$ host: $ pdir/$fname
命令	选项参数	要拷贝的文件路径/名称	目的地用户@主机:目的地路径/名称

选项参数说明

选项	功能
-a	归档拷贝
-v	显示复制过程

（2）案例实操
显示复制过程
（a）删除hadoop103中/opt/module/hadoop-3.1.3/wcinput

[atguigu@hadoop103 hadoop-3.1.3]$ rm -rf wcinput/

（b）同步hadoop102中的/opt/module/hadoop-3.1.3 到

hadoop103 
[atguigu@hadoop102 
module]$ 
rsync -av 
atguigu@hadoop103:/opt/module/hadoop-3.1.3/ 
hadoop-3

3）xsync 集群分发脚本

（1）需求：循环复制文件到所有节点的相同目录下
（2）需求分析：
（a）rsync 命令原始拷贝：

rsync  -av     /opt/module

（b）期望脚本：
xsync 要同步的文件名称
atguigu@hadoop103:/opt/
（c）期望脚本在任何路径都能使用（脚本放在声明了全局环境变量的路径）

[atguigu@hadoop102 ~]$ echo $PATH 
/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/atgu
 igu/.local/bin:/home/atguigu/bin:/opt/module/jdk1.8.0_212/bi
 n

（3）脚本实现
（a）在/home/atguigu/bin 目录下创建 xsync 文件

[atguigu@hadoop102 opt]$ cd /home/atguigu 
[atguigu@hadoop102 ~]$ mkdir bin 
[atguigu@hadoop102 ~]$ cd bin 
[atguigu@hadoop102 bin]$ vim xsync

在该文件中编写如下代码

#!/bin/bash 
#1. 判断参数个数 
if [ $# -lt 1 ] 
then 
echo Not Enough Arguement! 
exit; 
fi 
#2. 遍历集群所有机器 
for host in hadoop102 hadoop103 hadoop104 
do 
    echo ====================  $host  ==================== 
    #3. 遍历所有目录，挨个发送 
 
    for file in $@ 
    do 
        #4. 判断文件是否存在 
        if [ -e $file ] 
            then 
                #5. 获取父目录 
                pdir=$(cd -P $(dirname $file); pwd) 
 
                #6. 获取当前文件的名称 
                fname=$(basename $file) 
                ssh $host "mkdir -p $pdir" 
                rsync -av $pdir/$fname $host:$pdir 
            else 
                echo $file does not exists! 
        fi 
    done 
done

（b）修改脚本 xsync 具有执行权限

[atguigu@hadoop102 bin]$ chmod +x xsync

（c）测试脚本

[atguigu@hadoop102 ~]$ xsync /home/atguigu/bin

（d）将脚本复制到/bin中，以便全局调用

[atguigu@hadoop102 bin]$ sudo cp xsync /bin/

（e）同步环境变量配置（root所有者）

[atguigu@hadoop102 ~]$ sudo ./bin/xsync 
/etc/profile.d/my_env.sh

==注意：如果用了sudo，那么xsync一定要给它的路径补全。 ==
让环境变量生效

[atguigu@hadoop103 bin]$ source /etc/profile 
[atguigu@hadoop104 opt]$ source /etc/profile

2.3 SSH无密登录配置

1）配置ssh

（1）基本语法
ssh另一台电脑的IP地址
（2）ssh连接时出现Host key verification failed的解决方法

[atguigu@hadoop102 ~]$ ssh hadoop103

➢ 如果出现如下内容

Are you sure you want to continue connecting (yes/no)?

➢ 输入yes，并回车
（3）退回到hadoop102

[atguigu@hadoop103 ~]$ exit

2）无密钥配置

（1）免密登录原理
在这里插入图片描述
（2）生成公钥和私钥

[atguigu@hadoop102 .ssh]$ pwd 
/home/atguigu/.ssh 
[atguigu@hadoop102 .ssh]$ ssh-keygen -t rsa

然后敲（三个回车），就会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥）
（3）将公钥拷贝到要免密登录的目标机器上

[atguigu@hadoop102 .ssh]$ ssh-copy-id hadoop102 
[atguigu@hadoop102 .ssh]$ ssh-copy-id hadoop103 
[atguigu@hadoop102 .ssh]$ ssh-copy-id hadoop104

==注意：
还需要在hadoop103 上采用 atguigu 账号配置一下无密登录到 hadoop102、hadoop103、
hadoop104 服务器上。
还需要在hadoop104 上采用 atguigu 账号配置一下无密登录到 hadoop102、hadoop103、
hadoop104 服务器上。
还需要在hadoop102 上采用 root 账号，配置一下无密登录到hadoop102、hadoop103、
hadoop104； ==

3）.ssh 文件夹下（~/.ssh）的文件功能解释

known_hosts	记录ssh访问过计算机的公钥（public key）
id_rsa	生成的私钥
id_rsa.pub	生成的公钥
authorized_keys	存放授权过的无密登录服务器公钥

2.4 集群配置

1）集群部署规划

注意：
➢ NameNode和SecondaryNameNode 不要安装在同一台服务器
➢ ResourceManager 也很消耗内存，不要和NameNode、SecondaryNameNode配置在
同一台机器上。

NULL	hadoop102	hadoop103	hadoop104
HDFS	NameNode DataNode	DataNode	SecondaryNameNode DataNode
YARN	NodeManager	ResourceManager NodeManager	NodeManager

2）配置文件说明

Hadoop 配置文件分两类：默认配置文件和自定义配置文件，只有用户想修改某一默认
配置值时，才需要修改自定义配置文件，更改相应属性值。
（1）默认配置文件：
在这里插入图片描述
（2）自定义配置文件：
core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置文件存放在
$HADOOP_HOME/etc/hadoop 这个路径上，用户可以根据项目需求重新进行修改配置。

3）配置集群

（1）核心配置文件
配置core-site.xml

[atguigu@hadoop102 ~]$ cd $HADOOP_HOME/etc/hadoop
[atguigu@hadoop102 hadoop]$ vim core-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
 
<configuration> 
    <!-- 指定NameNode的地址 --> 
    <property> 
        <name>fs.defaultFS</name> 
        <value>hdfs://hadoop102:8020</value> 
    </property> 
 
    <!-- 指定hadoop数据的存储目录 --> 
    <property> 
        <name>hadoop.tmp.dir</name> 
        <value>/opt/module/hadoop-3.1.3/data</value> 
    </property> 
 
    <!-- 配置HDFS网页登录使用的静态用户为atguigu --> 
    <property> 
        <name>hadoop.http.staticuser.user</name> 
        <value>atguigu</value> 
    </property> 
</configuration>

（2）HDFS配置文件
配置hdfs-site.xml

[atguigu@hadoop102 hadoop]$ vim hdfs-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
 
<configuration> 
 <!-- nn web端访问地址--> 
 <property> 
        <name>dfs.namenode.http-address</name> 
        <value>hadoop102:9870</value> 
    </property> 
 <!-- 2nn web端访问地址--> 
    <property> 
        <name>dfs.namenode.secondary.http-address</name> 
        <value>hadoop104:9868</value> 
    </property> 
</configuration>

（3）YARN配置文件
配置yarn-site.xml

[atguigu@hadoop102 hadoop]$ vim yarn-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
<configuration> 
    <!-- 指定MR走shuffle --> 
    <property> 
        <name>yarn.nodemanager.aux-services</name> 
        <value>mapreduce_shuffle</value> 
    </property> 
 
    <!-- 指定ResourceManager的地址--> 
    <property> 
        <name>yarn.resourcemanager.hostname</name> 
        <value>hadoop103</value> 
    </property> 
 
    <!-- 环境变量的继承 --> 
    <property> 
        <name>yarn.nodemanager.env-whitelist</name> 
        
<value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CO
 NF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAP
 RED_HOME</value> 
    </property> 
</configuration>

（4）MapReduce配置文件
配置mapred-site.xml

[atguigu@hadoop102 hadoop]$ vim mapred-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
 
<configuration> 
 <!-- 指定MapReduce程序运行在Yarn上 --> 
    <property> 
        <name>mapreduce.framework.name</name> 
        <value>yarn</value> 
    </property> 
</configuration>

4）在集群上分发配置好的Hadoop配置文件

[atguigu@hadoop102 hadoop]$ xsync /opt/module/hadoop
3.1.3/etc/hadoop/

5）去103和104上查看文件分发情况

[atguigu@hadoop103 ~]$ cat /opt/module/hadoop
3.1.3/etc/hadoop/core-site.xml 
[atguigu@hadoop104 ~]$ cat /opt/module/hadoop
3.1.3/etc/hadoop/core-site.xml

2.5 群起集群

1）配置workers

[atguigu@hadoop102 hadoop]$ vim /opt/module/hadoop
3.1.3/etc/hadoop/workers

在该文件中增加如下内容：

hadoop102
hadoop103
hadoop104

==注意：该文件中添加的内容结尾不允许有空格，文件中不允许有空行。 ==
同步所有节点配置文件

[atguigu@hadoop102 hadoop]$ xsync /opt/module/hadoop-3.1.3/etc

2）启动集群

（1）如果集群是第一次启动，需要在hadoop102 节点格式化NameNode（注意：格式
化NameNode，会产生新的集群id，导致NameNode和DataNode的集群id不一致，集群找
不到已往数据。如果集群在运行过程中报错，需要重新格式化NameNode的话，一定要先停
止namenode 和 datanode 进程，并且要删除所有机器的data 和 logs 目录，然后再进行格式
化。）

[atguigu@hadoop102 hadoop-3.1.3]$ hdfs namenode -format

（2）启动HDFS

[atguigu@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh

（3）在配置了ResourceManager的节点（hadoop103）启动YARN

[atguigu@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh

（4）Web端查看HDFS的NameNode
（a）浏览器中输入：http://hadoop102:9870
（b）查看HDFS上存储的数据信息
（5）Web端查看YARN的ResourceManager
（a）浏览器中输入：http://hadoop103:8088
（b）查看YARN上运行的Job信息

3）集群基本测试

（1）上传文件到集群
➢ 上传小文件

[atguigu@hadoop102 ~]$ hadoop fs -mkdir /input 
[atguigu@hadoop102 
~]$ 
hadoop 
$HADOOP_HOME/wcinput/word.txt /input 
fs -put

➢ 上传大文件

[atguigu@hadoop102 ~]$ hadoop fs -put  /opt/software/jdk-8u212
linux-x64.tar.gz  /

（2）上传文件后查看文件存放在什么位置
➢ 查看HDFS文件存储路径

[atguigu@hadoop102 subdir0]$ pwd 
/opt/module/hadoop-3.1.3/data/dfs/data/current/BP-1436128598
192.168.10.102-1610603650062/current/finalized/subdir0/subdir0

➢ 查看HDFS在磁盘存储文件内容

[atguigu@hadoop102 subdir0]$ cat blk_1073741825 
hadoop yarn 
hadoop mapreduce  
atguigu 
atguigu

（3）拼接

-rw-rw-r–. 1 atguigu atguigu 134217728 5 月 23 16:01 blk_1073741836
-rw-rw-r–. 1 atguigu atguigu
1048583 5 月 23 16:01 blk_1073741836_1012.meta
-rw-rw-r–. 1 atguigu atguigu 63439959 5 月 23 16:01 blk_1073741837
-rw-rw-r–. 1 atguigu atguigu 495635 5 月 23 16:01 blk_1073741837_1013.meta

[atguigu@hadoop102 subdir0]$ cat blk_1073741836>>tmp.tar.gz 
[atguigu@hadoop102 subdir0]$ cat blk_1073741837>>tmp.tar.gz 
[atguigu@hadoop102 subdir0]$ tar -zxvf tmp.tar.gz

（4）下载

[atguigu@hadoop104 software]$ hadoop fs -get /jdk-8u212-linux
x64.tar.gz ./

（5）执行wordcount程序

[atguigu@hadoop102 
hadoop-3.1.3]$ 
hadoop 
jar 
share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar 
wordcount /input /output

题外话

我整理了一些资源，如果你也对Python和大数据感兴趣，关注下方公众号免费提取资料。
在这里插入图片描述

Hadoop学习指南：探索大数据时代的重要组成——Hadoop运行模式(上）

Hadoop运行模式

前言

Hadoop运行模式

1 本地运行模式（官方WordCount）

2 完全分布式运行模式（开发重点）

2.1 虚拟机准备

2.2 编写集群分发脚本xsync

1）scp（secure copy）安全拷贝

2）rsync 远程同步工具

3）xsync 集群分发脚本

2.3 SSH无密登录配置

1）配置ssh

2）无密钥配置

3）.ssh 文件夹下（~/.ssh）的文件功能解释

2.4 集群配置

1）集群部署规划

2）配置文件说明

3）配置集群

4）在集群上分发配置好的Hadoop配置文件

5）去103和104上查看文件分发情况

2.5 群起集群

1）配置workers

2）启动集群

3）集群基本测试

题外话

相关文章