【大数据入门核心技术-Hadoop】(八)Hadoop基本管理命令行

news2024/9/23 15:27:40

目录

一、 三种shell命令方式

二、常见Shell操作命令

三、dfs管理命令行

1、当前haoop环境变量

2、当前集群节点信息

3、运行HTTPFS服务器

4、高可用节点管理

5、单独启动某个节点服务

四、更多命令


一、 三种shell命令方式

HDFS有三种shell命令方式

hadoop fs:适用于任何不同的文件系统,比如本地文件系统和HDFS文件系统

hadoop dfs:只能适用于HDFS文件系统

hdfs dfs:跟hadoop dfs的命令作用一样,也只能适用于HDFS文件系统

二、常见Shell操作命令

参考:

【大数据入门核心技术-Hadoop】(七)Hadoop基本Shell命令行_forest_long的博客-CSDN博客

三、dfs管理命令行

1、当前haoop环境变量

hdfs envvars

 

2、当前集群节点信息

 #namenodes
 hdfs getconf -namenodes
 
 #secondaryNameNodes
 hdfs getconf -secondaryNameNodes
 
 #backupNodes
 hdfs getconf -backupNodes
 
 #journalNodes
 hdfs getconf -journalNodes
 
 #includeFile
 hdfs getconf -includeFile
 
 #excludeFile
 hdfs getconf -excludeFile
 
 #namenode对应监听端口(比较有用)
 hdfs getconf -nnRpcAddresses
 
 hdfs haadmin -getAllServiceState
 也可以查找出集群各namenode监控端口和active情况

 

 

 

3、运行HTTPFS服务器

hdfs httpfs

4、高可用节点管理

#获取当前高可用节点的服务状态
hdfs haadmin -getAllServiceState
​
#获取某节点服务状态
hdfs haadmin -getServiceState <serviceId>
​
#将节点切换为avtive
hdfs haadmin -transitionToActive <serviceId> [--forceactive]
​
#将节点切换为standby
hdfs haadmin -transitionToStandby <serviceId>
​
#将节点切换为Observe
hdfs haadmin -transitionToObserver <serviceId>
​
#将节点切换状态
hdfs haadmin -failover [--forcefence] [--forceactive] <serviceId> <serviceId>
​
#对某节点健康检查
hdfs haadmin -checkHealth <serviceId>
​
#haadmin help
hdfs haadmin -help <command>

 

 

5、单独启动某个节点服务

#单独启动某个节点的namenode
hadoop-daemon.sh start namenode
​
#单独启动某个节点的datanode
hadoop-daemon.sh start datanode
​
#单独启动某个节点的journalnode
hadoop-daemon.sh start journalnode
​
#单独启动某个节点的secondarynamenode
hadoop-daemon.sh start secondarynamenode
​
#单独启动某个节点的zkfc
hadoop-daemon.sh start zkfc
​
#单独启动某个节点的httpfs
hadoop-daemon.sh start httpfs

停止将start换为stop即可!

附所有全面的节点启动命令

sbin/start-all.sh 启动所有的Hadoop守护进程。
包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManager
​
sbin/stop-all.sh 停止所有的Hadoop守护进程。
包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManager
​
sbin/start-dfs.sh 启动Hadoop HDFS守护进程NameNode、SecondaryNameNode、DataNode
​
sbin/stop-dfs.sh 停止Hadoop HDFS守护进程NameNode、SecondaryNameNode和DataNode
​
sbin/hadoop-daemons.sh start namenode 单独启动NameNode守护进程
​
sbin/hadoop-daemons.sh stop namenode 单独停止NameNode守护进程
​
sbin/hadoop-daemons.sh start datanode 单独启动DataNode守护进程
​
sbin/hadoop-daemons.sh stop datanode 单独停止DataNode守护进程
​
sbin/hadoop-daemons.sh start secondarynamenode 单独启动SecondaryNameNode守护进程
​
sbin/hadoop-daemons.sh stop secondarynamenode 单独停止SecondaryNameNode守护进程
​
sbin/start-yarn.sh 启动ResourceManager、NodeManager
​
sbin/stop-yarn.sh 停止ResourceManager、NodeManager
​
sbin/yarn-daemon.sh start resourcemanager 单独启动ResourceManager
​
sbin/yarn-daemons.sh start nodemanager 单独启动NodeManager
​
sbin/yarn-daemon.sh stop resourcemanager 单独停止ResourceManager
​
sbin/yarn-daemons.sh stopnodemanager 单独停止NodeManager
​
sbin/mr-jobhistory-daemon.sh start historyserver 手动启动jobhistory
​
sbin/mr-jobhistory-daemon.sh stop historyserver 手动停止jobhistory

四、更多命令

参考官网文档:

Apache Hadoop 3.3.4 – HDFS Commands Guide

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/79284.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

flink部署-1.14

1. 版本说明 本文档内容基于 flink-1.14.x&#xff0c;其他版本的整理&#xff0c;请查看本人博客的 flink 专栏其他文章。 2. 概述 Flink 是一种通用性框架&#xff0c;支持多种不同的部署方式。 本章简要介绍 Flink 集群的组成部分、用途和可用实现。如果你只是想在本地启…

线程死锁、锁死、饥饿、活锁讲解

文章目录死锁哲学家就餐问题死锁的检测方式死锁的产生条件死锁的规避死锁的恢复锁死信号丢失锁死嵌套监视器锁死线程饥饿活锁死锁 概念 如果两个或者更多的线程因为相互等待对方而被永远暂停&#xff0c;线程的生命周期变成了BLOCKED或者WAITING&#xff0c;则我们称这些线程产…

计算机-校验码

码距:就单个编码A:00而言&#xff0c;其码距为1&#xff0c;因为其只需要改变一位就变成另一个编码。在两个编码中&#xff0c;从A码到B码转换所需要改变的位数称为码距&#xff0c;如A:00要转换为B:11&#xff0c;码距为2。一般来说&#xff0c;码距越大&#xff0c;越利于纠错…

基于C++实现(控制台)仓库管理系统【100010021】

1题目与要求 1.1问题描述 某电子公司仓库中有若干批次的同一种电脑&#xff0c;按价格、数量来存储。要求实现功能: 初始化 n 批不同价格电脑入库&#xff1b;出库&#xff1a;销售 m 台价格为 p 的电脑&#xff1b;入库&#xff1a;新到 m 台价格为 p 的电脑&#xff1b;盘…

Burp Suite Professional 22.11.4 Crack

Burp Suite Professional 是网络安全测试人员的首选工具包。使用它来自动执行重复的测试任务 - 然后使用其专家设计的手动和半自动安全测试工具进行更深入的挖掘。Burp Suite Professional 可以帮助您测试 OWASP Top 10 漏洞 Burp Suite 被描述为通过 Port Swigger 提供给用户…

Python学习基础笔记三十七——collections模块

1、collections模块&#xff1a; 内置数据类型&#xff1a;列表list、字典dict、集合set、元组tuple。 Collections模块提供了另外的数据类型&#xff1a; 队列deque、双端队列&#xff1a;可以快速地从另外一侧追加和推出元素&#xff1b; namedtuple&#xff1a; 生成可以…

游戏开发53课 阴影

4.8 阴影 阴影的实现方式有很多种&#xff0c;消耗和效果各异。 4.8.1 贴图阴影 贴图的方式最简单&#xff0c;做法是制作一张阴影纹理&#xff0c;放到物体脚下&#xff08;下图&#xff09;&#xff0c;跟随物体一起运动。 贴图阴影渲染非常简单&#xff0c;只需要两个三角…

智能聊天机器人技术研究与应用

文章大纲 1. 聊天机器人简介聊天机器人进化历史聊天机器人核心技术2. 预训练模型与聊天机器人研究进展transfomer 架构回顾预训练对话模型3. 知识图谱与智能问答4. 智能聊天机器人应用实践5. 总结与展望正确使用chatGPT“高端的食材往往只需要最朴素的烹饪方式”参考文献与学习…

OpenFeign使用

OpenFeign使用 在微服务的架构中&#xff0c;传统的http客户端如Httpclient Okhttp HttpURLConnection RestTemplate WebClient 显然不适合。毕竟需要动态的获取服务地址&#xff0c;和进行负载均衡调用。 RPC框架 PC 全称是 Remote Procedure Call &#xff0c;即远程过程调…

NTC-Templates解析与采集H3C(Comware Version 7)信息

本文仅供本人参考与学习NTC-Templates模板使用。 设备环境&#xff1a;HCL S6850 S5820V2-54QS-GE&#xff1b;Version 7.1.075, Alpha 7571 模板采用&#xff1a;hp_comware_display_xxxxxxxx.textfsm 在线模板测试&#xff1a;https://textfsm.nornir.tech/ hp_comware_d…

httpbin的使用

在学习过程中我们想知道我们发送处的http格式是什么样子的&#xff0c;是否符合我们的要求&#xff0c;寻找一个这样的工具&#xff0c;满足验证测试需要。 Httpbin服务可以满足查看我发出去的请求到底是什么样子的。你需要查看请求中的那部分信息&#xff0c;就调用什么样的接…

【Qt入门第37篇】 网络(七)TCP(一)

导语 TCP即TransmissionControl Protocol&#xff0c;传输控制协议。与UDP不同&#xff0c;它是面向连接和数据流的可靠传输协议。也就是说&#xff0c;它能使一台计算机上的数据无差错的发往网络上的其他计算机&#xff0c;所以当要传输大量数据时&#xff0c;我们选用TCP协议…

游戏开发45课 性能优化4

2.6 粒子 粒子特效也是性能的一个大杀手&#xff0c;主要体现在&#xff1a; 每帧计算量大。涉及发射器/效果器/曲线插值等&#xff0c;耗费CPU性能。频繁操作内存。粒子在生命周期里&#xff0c;实例持续不断地创建/删除&#xff0c;即便有缓存机制下&#xff0c;依然避免不…

算法day43|1049,494,474

1049. 最后一块石头的重量 II class Solution:def lastStoneWeightII(self, stones: List[int]) -> int:summ sum(stones)target summ//2#dp下标和数组的定义,dp[j]代表的是最大价值dp [0]*15001#递归公式for i in range(len(stones)):for j in range(target,stones[i]-…

Zero-Shot Learning across Heterogeneous Overlapping Domains

极简论文阅读 摘要 a zero-shot learning approach:零样本学习方法。 natural language understanding domain&#xff1a;自然语言处理域。 a given utterance&#xff1a;给定的话语。 domains at runtime&#xff1a;运行时的域。 utterances and domains 给定话语和域。 …

Yolact

YOLACT 1.Abstract 原理: 生成一组 prototype masks (原型掩码) 个数&#xff08;nm&#xff09;可自定义&#xff0c;基于protonet的最后一组卷积核个数 通过一组 coefficients (掩码系数) 预测每个 instance mask (输出mask) 掩码系数由head层输出&#xff0c;shape为&…

微服务框架 SpringCloud微服务架构 微服务保护 32 隔离和降级 32.2 线程隔离

微服务框架 【SpringCloudRabbitMQDockerRedis搜索分布式&#xff0c;系统详解springcloud微服务技术栈课程|黑马程序员Java微服务】 微服务保护 文章目录微服务框架微服务保护32 隔离和降级32.2 线程隔离32.2.1 线程隔离32.2.2 优缺点对比32 隔离和降级 32.2 线程隔离 32.…

算法7:平衡二叉树(AVLTree)

二叉排序树&#xff08;BST, Binary Sort Tree&#xff09;也称二叉查找树&#xff08;Binary Search Tree&#xff09;, 或二叉搜索树。 定义&#xff1a;一颗二叉树&#xff0c;满足以下属性&#xff1a; 左子树的所有的值小于根节点的值右子树的所有值大于根节点的值左、右…

关键词(四)

关键词&#xff08;四&#xff09;一.具有争议的关键词—goto二.“空”的关键字—void1.void为什么不能定义变量2.void修饰函数返回值和参数3.void指针一.具有争议的关键词—goto goto语句非常灵活&#xff0c;其实就是从goto这个位置直接跳转到goto后面的那个数据&#xff08;…

单例模式、工厂模式

单例模式、一、单例模式1.1 饿汉模式1.1.1 实现1.1.2 补充1.2 懒汉模式1.2.1 单线程版1.2.2 多线程版二、工厂模式一、单例模式 单例模式是校招中最常考的设计模式之一。 啥是设计模式&#xff1f; 设计模式好比象棋中的"棋谱"&#xff1a;红方当头炮&#xff0c;黑…