Hadoop之HDFS使用命令(常用)

news2025/1/12 12:12:45

本篇仅记载部分常用命令

若无所需命令可查看官方网站Apache Hadoop 3.3.6 – Overview

:一切命令仅在启动HDFS集群后执行,否则会报错

注:仅在hadoop用户下操作

        在Linux中超级用户是:root

        但HDFS的超级用户是:启动namenode的用户,及本篇文          章的hadoop用户

如用root用户执行hadoop命令会报错

HDFS操作命令,Hadoop提供了两套

hadoop命令(老版)

hadoop fs [generic options]

hdfs命令 (新版)

hdfs dfs [generic options]

协议头区分

Linux

file:///

HDFS

hdfs://namenode:port/

例:

Linux:file:///usr/local/hello.txt
HDFS: hdfs://node1:8020/usr/local/hello.txt

# 注:协议头file:///或hdfs://node1:8020/可以省略
#     除非明确要写或者不写有BUG,否则一般不用写

HDFS集群启停命令

一键启停

# 一键启动HDFS集群
start-dfs.sh

# 一键停止HDFS集群
stop-dfs.sh

单进程启停

注:仅控制所在机器的进程的启停

hadoop-daemon.sh (start|status|stop) (namenode|secondarynamenode|datanode)

hdfs --daemon (start|status|stop) (namenode|secondarynamenode|datanode)

# start 启动    status 查看状态   stop 停止

例:jps命令是查看当前启动的集群,目前是都启动了

利用hadoop-daemon.sh stop datanode命令将datanode进程给停止了

注:warning是表明hadoop-daemon.sh这个命令过时了,推荐用hdfs --daemon

但不影响使用

创建文件夹

hadoop fs -mkdir [-p] <path> ...

hdfs dfs -mkdir [-p] <path> ...

# path 为待创建的目录
# -p 沿着路经创建父目录

 例:创建/huan/haha文件夹

注:hadoop fs -ls / 查看hadhdfs的hdfs根目录下的内容

       hadoop fs -ls /huan 查看hadhdfs的hdfs的huan目录下的内容

查看指定目录下内容

hadoop fs -ls [-h] [-R] [<path> ...]

hdfs dfs -ls [-h] [-R] [<path> ...]

# path 指定目录路径
# -h 人性化显示文件size
# -R 递归查看指定目录及其子目录

 上传文件到HDFS指定目录下(从Linux--->HDFS)

hadoop fs -put [-f] [-p] <localsrc> ... <dst>

hdfs dfs -put [-f] [-p] <localsrc> ... <dst>

# -f 覆盖目标文件(已存在的)
# -p 保留访问和修改时间,所有权和权限
# localsrc 本地文件系统(客户端所在机器)
# dst 目标文件系统(HDFS)

例:将Liunx目录下的test.txt上传到hdfs根目录下

查看HDFS文件内容

hadoop fs -cat <src> ...

hdfs dfs -cat <src> ...

读取大文件可以使用管道符配合more

hadoop fs -cat <src> | more

hdfs dfs -cat <src> | more

# 按空格可翻页查看

例:查看text.txt文件中的内容

 下载HDFS文件(从HDFS--->Linux)

hadoop fs -get [-f] [-p] <src> ... <localdst>

hdfs dfs -get [-f] [-p] <src> ... <localdst>

# localdst 必修是目录
# -f 覆盖目标文件 (已存在)
# -p 保留访问和修改时间,所有权和权限

例:将HDFS的huan下载到Linux

 

 

拷贝HDFS文件(HDFS--->HDFS)

注:可将复制的文件改名

hadoop fs -cp [-f] <src> ... <dst>

hdfs dfs -cp [-f] <src> ... <dst>

# -f 覆盖目标文件(已存在)

例:将HDFS下的test.txt文件复制到HDFS下的huan目录下

例:将test,txt复制到huan目录下改名为ad.txt

追加数据到HDFS文件夹中(Linux-->HDFS)

hadoop fs -appendToFile <localsrc> ... <dst>

hdfs dfs -appendToFile <localsrc> ... <dst>

# 将所有给定本地文件的内容追加到给定dst文件
# dst如果文件不存在,将创建该文件

例:创建app.txt文件,将其添加到HDFS的test.txt文件中

HDFS数据移动操作

hadoop fs -mv <src> ... <dst>

hdfs dfs -mv <src> ... <dst>

# 移动文件到指定文件夹下,可重命名文件名称

例:将HDFS下的test.txt移动到HDFS下的huan目录下并改名为qwe.txt

 

HDFS数据删除操作

hadoop fs -rm -r [-skipTrash] URI [URI ...]

hdfs dfs -rm -r [-skipTrash] URI [URI ...]

# 删除指定路径的文件或文件夹
# -skipTrash 跳过回收站,直接删除

注: 1440代表在回收站的时间为一天,120表示俩小时检查一次回收站,将到时间的清除 

        回收站在哪个机器配则在哪个机器生效

例:将huan目录下的qwe.txt删除

HDFS中修改所属用户和组

hadoop fs -chown [-R] root:root /xxx.txt

hdfs dfs -chown [-R] root:root /xxx.txt

例:将huan目录下的ad.txt改为root用户

 

HDFS修改权限

hadoop fs -chmod [-R] 777 /xxx.txt

hdfs dfs -chmod [-R] 777 /xxx.txt

例:将huan目录下的text.txt文件权限修改为777 

 

HDFS WEB UI权限修改

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/999012.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Gateway核心架构

1 Gateway核心架构 1.1 基本概念 路由(Route) 是 gateway 中最基本的组件之一&#xff0c;表示一个具体的路由信息载体。主要定义了下面的几个信息: id&#xff0c;路由标识符&#xff0c;区别于其他 Route。uri&#xff0c;路由指向的目的地 uri&#xff0c;即客户端请求最终…

EasyRecovery易恢复2023最新免费的电脑数据恢复软件

EasyRecovery是一款非常专业的硬盘数据恢复工具&#xff0c;EasyRecovery拥有磁盘诊断、数据恢复、文件修复、E-mail 修复等功能。有了EasyRecovery&#xff0c;你可以把误删&#xff0c;被破坏的文件&#xff0c;格式化的磁盘轻轻松松的找回来。小伙伴们可以使用EasyRecovery恢…

AWS EC2入门指南中创建和配置云虚拟机实例的基本步骤

文章目录 创建 AWS 账户登录 AWS 控制台导航到 EC2 控制台启动 EC2 实例选择 AMI&#xff08;Amazon Machine Image&#xff09;选择实例类型配置实例添加存储审查和启动实例创建密钥对 连接到 EC2 实例管理 EC2 实例了解定价和计费结论 &#x1f388;个人主页&#xff1a;程序…

预售33.8万元起:全新蔚来EC6开始接受预订,四驱标配 + 电动尾翼

蔚来汽车近日宣布&#xff0c;全新款EC6已经开始接受预订。从9月15日开始&#xff0c;广大消费者可以参与试驾活动&#xff0c;亲身体验这款定位为智能电动轿跑SUV的新车带来的魅力。据悉&#xff0c;这款车型将于9月16日开始交付&#xff0c;预售价格为33.8万元起&#xff0c;…

寻找联想集团的AI预期差

股票市场中最重要的因素是什么&#xff1f;不是技术分析&#xff0c;也不是基本面分析&#xff0c;而是预期差。 当下的市场&#xff0c;是复杂与困难的&#xff0c;想要在迷雾中看清方向&#xff0c;就要寻找更高的确定性&#xff0c;以及更大的预期差。 今天能大家分享一下联…

【Arduino29】74HC595控制LED灯

硬件准备 74HC595直插芯片&#xff1a;1 个 绿色LED灯&#xff1a;4 个 红色LED灯&#xff1a;4 个 220欧的电阻&#xff1a;8个 面包板&#xff1a;1个 杜邦线&#xff1a;若干 硬件连线 软件程序 #define DS_pin 11 //DS引脚 #define STCP_pin 8 //ST_CP引脚,输出…

海学会读《乡村振兴战略下传统村落文化旅游设计》2023年度许少辉八一新书

海学会读《乡村振兴战略下传统村落文化旅游设计》2023年度许少辉八一新书

Ubantu终端常用命令、快捷键和基本操作

目录 前言 一、常用命令 二、常用快捷键 三、快捷键自定义设置 总结 前言 Ubantu终端常用命令和快捷键用于进行系统管理、文件操作、软件安装等常见使用场景。使用它们可以提高工作效率&#xff0c;简化操作流程&#xff0c;并进行更多的自定义配置和控制。同时&#xff0c…

Docker的开源容器镜像仓库Harbor安装

概述 Docker Hub是Docker官方提供的在线Docker镜像注册中心&#xff0c;其支持Docker镜像的查询&#xff08;search&#xff09;、提交&#xff08;push&#xff09;以及获取&#xff08;pull&#xff09;。目前&#xff0c;在云原生领域中&#xff0c;CNCF提供Harbor开源版本…

影刀-验证码识别

打开慕课主界面为例子

自己编译静态ffmpeg freetype2 not found问题解决

整理好依赖的ffmpeg仓库地址&#xff1a; https://github.com/pyke369/sffmpeg 报错&#xff1a;ERROR: freetype2 not found using pkg-config 网上查询说是需要安装freetype-devel ​​​​​​​sudo apt install libfreetype6-dev 安装后还是报一样的错&#xff0c;实…

window 添加/删除系统右键菜单项

一、添加文件夹右键菜单项 1.打开Windows注册表编辑器。按下WinR组合键&#xff0c;输入regedit&#xff0c;点击确定。 2.在注册表中&#xff0c;找到以下路径&#xff1a; HKEY_CLASSES_ROOT\Directory\shell 3. 参考其他菜单项进行添加&#xff0c;例如添加WebStorm的菜…

VTK实现模型添加标注标记功能

VTK实现模型添加标注标记高级功能 功能演示 添加标记模型 变换标记模型&#xff08;朝向、位置、缩放&#xff09; 删除标记模型 功能介绍 支持在模型表面添加标记模型&#xff0c;标记模型可以切换为不同的模型&#xff08;演示里是圆柱体&#xff09;标记模型支持颜色…

linux配置本地yum源

在本地部署服务器时&#xff0c;因为无法联网导致没法使用外网yum源&#xff0c;会对安装服务有些影响。 不过可以通过本地光盘部署yum源赖解决问题。 1.查看一下虚拟机是否有sr0这个文件 ll /dev/sr0 2.创建一个文件做挂载 mkdir /media/cdrom/ mount /dev/sr0 /media/cdrom…

《得帆云 AIGC+低代码PaaS平台系列白皮书》-主流OA集成应用

近年来&#xff0c;随着国内外的信息技术发展日益迅速&#xff0c;无论是企业的业务模式&#xff0c;还是企业的人员管理&#xff0c;都在不断发展变化&#xff0c;OA系统作为公司的核心协调系统&#xff0c;必须能够及时响应公司的发展&#xff0c;实现与企业内部各种业务系统…

混合使用MariaDB和MongoDB的SQL与NoSQL

假设你有一个在Node.js&#xff08;或任何其他平台&#xff09;上开发的应用程序。这个应用程序连接到一个MongoDB数据库&#xff08;NoSQL&#xff09;&#xff0c;用于存储对书籍的评价&#xff08;给出的星级数量和评论&#xff09;。再假设你有另一个在Java&#xff08;或P…

冠达管理:国内产量最大!又一龙头来了…本周4股可申购

本周&#xff08;9月11日—9月15日&#xff09;&#xff0c;共有4只新股将申购&#xff0c;其间创业板2只&#xff08;飞南资源、万邦医药&#xff09;&#xff0c;科创板1只&#xff08;中研股份&#xff09;&#xff0c;沪市主板1只&#xff08;恒兴新材&#xff09;。 资料…

【acwing总结】快速排序

原题链接 时间复杂度 nlogn 快排利用分治思想的原理 主要步骤有以下几种 &#xff08;1&#xff09;&#xff1a;确认分界点 可以q[l] 可以是q[lr] 可以是q[r],也可以是随机值 &#xff08;2&#xff09;&#xff1a;调整区间 将小于等于分界点的&#xff0c;放到左边去&…

cpp-httplib 源码剖析

文章目录 前言一、cpp-httplib 是什么&#xff1f;二、Server类整体架构三、绑定和监听bind_internallisten_internal 四、路由添加路由路由 五、处理接受请求process_server_socket_coreprocess_request 前言 之前实现自己的http库的时候感觉有一些设计的不是很好&#xff0c…

虹科分享 | Chae$4:针对金融和物流客户的新Chaes恶意软件变体 | 自动移动目标防御

介绍--Chae$4 随着网络威胁的世界以惊人的速度发展&#xff0c;保持领先于这些数字危险对企业来说变得越来越关键。2023年1月&#xff0c;Morphisec发现了一个令人震惊的趋势&#xff0c;许多客户&#xff0c;主要是物流和金融部门的客户&#xff0c;受到了Chaes恶意软件的新的…