自学大数据第六天~HDFS命令

news2024/11/23 8:24:41

在这里插入图片描述

HDFS常用命令

  • 查看hadoop版本 version
hadoop version

注意,没有 ‘-’

[hadoop@master ~]$ hadoop version
Hadoop 3.3.4
Source code repository https://github.com/apache/hadoop.git -r a585a73c3e02ac62350c136643a5e7f6095a3dbb
Compiled by stevel on 2022-07-29T12:32Z
Compiled with protoc 3.7.1
From source with checksum fb9dd8918a7b8a5b430d61af858f6ec
This command was run using /usr/local/hadoop-3.3.4/share/hadoop/common/hadoop-common-3.3.4.jar
[hadoop@master ~]$ 

  • 创建文件夹~mkdir
hadoop dfs -mkdir -p /user/hadoop
  • 列出文件 -ls
hadoop dfs -ls /user

在这里插入图片描述

  • 将本地文件拷贝到HDFS中 ~put
hdfs dfs -put /usr/local/hadoop/etc/hadoop/*.xml  input
  • 复制本地文件到HDFS系统中~copyFromLocal
hdfs dfs -copyFromLocal ./a.txt  /user/hadoop
 hdfs dfs -ls /user/hadoop

在这里插入图片描述

  • 从HDFS下载文件到本地系统~get
hdfs dfs -get /user/hadoop/a.txt /usr/local/hadoop

在这里插入图片描述还可以下载多个文件合并到下载

先用不同命令上传到hdfs中

hdfs dfs -copyFromLocal b.txt  /user/hadoop
hdfs dfs -copyfromlocal b.txt  /user/hadoop

在这里插入图片描述

hdfs dfs -get /user/hadoop/a.txt /user/hadoop/b.txt  /usr/local/hadoop-3.3.4/

在这里插入图片描述

  • 将hdfs中文件拷贝到本地~copyToLocal
hdfs dfs -copyToLocal /user/hadoop/a.txt /usr/local/hadoop-3.3.4

在这里插入图片描述

  • 在hdfs中查看文件内容~ cat
hdfs dfs -cat /user/hadoop/a.txt

在这里插入图片描述

  • 移动文件 ~mv
hdfs dfs -mv /user/hadoop/a.txt /user

在这里插入图片描述

  • 在hdfs中拷贝文件 ~cp
hdfs dfs -cp /user/hadoop/b.txt /user

在这里插入图片描述

  • 从本地移动文件~moveFromLocal
hdfs dfs -moveFromLocal ./aaaaaaa.txt

在这里插入图片描述moveToLocal命令失败了
在这里插入图片描述

如果在 Hadoop Shell 运行这个命令,会提示功能还没实现。
moveToLocal: Option ‘-moveToLocal’ is not implemented yet.

查看文件内容跟~tail–>文件最后1KB内容
在这里插入图片描述

hdfs dfs -rm /user/a.txt
hdfs dfs -mkdir /user/test

在这里插入图片描述
根据反馈结果,rmr在最新版本中已被废弃,推荐使用 -rm -r
这风格更像是linux中的命令了
在这里插入图片描述

  • 清空回收站~expunge
hdfs dfs -expunge

在这里插入图片描述我们在HDFS系统中删除文件,其实就像是在win/linux中,文件先被放进回收站;

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/404253.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

蓝桥杯嵌入式(G4系列):定时器输出可调PWM

前言: 蓝桥杯定时器输出PWM的考点在历届真题中的出现次数较多,而且之前关于STM32的学习,我对于使用STM32Cubemx配置PWM的方式确实不是很熟悉,这里简单记录一下自己的学习过程。 STM32Cubemx配置部分: 这里我们是改编真…

yocto编译烧录和脚本解析

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录前言一、初始化构建目录二、imx-setup-release.sh脚本解析三、编译单独编译内核四、烧录总结前言 本篇文章主要讲解如何在下载好源码之后进行编译和yocto的脚本解析…

剑指 Offer II 027. 回文链表

题目链接 剑指 Offer II 027. 回文链表 easy 题目描述 给定一个链表的 头节点 head,请判断其是否为回文链表。 如果一个链表是回文,那么链表节点序列从前往后看和从后往前看是相同的。 示例 1: 输入: head [1,2,3,3,2,1] 输出: true 示例…

多目标遗传算法NSGA-II原理详解及算法实现

在接触学习多目标优化的问题上,经常会被提及到多目标遗传算法NSGA-II,网上也看到了很多人对该算法的总结,但真正讲解明白的以及配套用算法实现的文章很少,这里也对该算法进行一次详解与总结。会有侧重点的阐述,不会针对…

理解并解决【跨域】问题--通过代理或【CROS】

文章目录一.理解跨域问题引起跨域问题的原因浏览器的同源策略二.跨域问题的解决办法解决方法1-------代理(前端配置)解决方法2-----开启跨域资源共享CORS(后端)知识小贴士一.理解跨域问题 主要出现在前后端分离项目 引起跨域问题…

磨金石教育摄影技能干货分享|春之旅拍

春天来一次短暂的旅行,你会选择哪里呢?春天的照片又该如何拍呢?看看下面的照片,或许能给你答案。照片的构图很巧妙,画面被分成两部分,一半湖泊,一半绿色树林。分开这些的是一条斜向的公路&#…

合并两个链表(自定义位置合并与有序合并)LeetCode--OJ题详解

图片: csdn 自定义位置合并 问题: 给两个链表 list1 和 list2 ,它们包含的元素分别为 n 个和 m 个。 请你将 list1 中 下标从 a 到 b 的全部节点都删除,并将list2 接在被删除节点 的位置。 比如: 输入:list1 [1…

【STL】list剖析及模拟实现

✍作者:阿润菜菜 📖专栏:C 初识list 1. list基本概况 list是可以在常数范围内在任意位置进行插入和删除的序列式容器,并且该容器可以前后双向迭代。list的底层是双向链表结构,双向链表中每个元素存储在互不相关的独立…

前端前沿web 3d可视化技术 ThreeJS学习全记录

前端前沿web 3d可视化技术 随着浏览器性能和网络带宽的提升 使得3D技术不再是桌面的专利 打破传统平面展示模式 前端方向主要流向的3D图形库包括Three.js和WebGL WebGL灵活高性能,但代码量大,难度大,需要掌握很多底层知识和数学知识 Threej…

卷积神经网络模型之——LeNet

目录LeNet模型参数介绍该网络特点关于C3与S2之间的连接关于最后的输出层子采样参考LeNet LeNet是一个用来识别手写数字的最经典的卷积神经网络,是Yann LeCun在1998年设计并提出的。Lenet的网络结构规模较小,但包含了卷积层、池化层、全连接层&#xff0…

Mr. Cappuccino的第49杯咖啡——冒泡APP(升级版)之基于Docker部署Gitlab

冒泡APP(升级版)之基于Docker部署Gitlab基于Docker安装Gitlab登录Gitlab创建Git项目上传代码使用Git命令切换Git地址使用IDE更换Git地址基于Docker安装Gitlab 查看beginor/gitlab-ce镜像版本 下载指定版本的镜像 docker pull beginor/gitlab-ce:11.3.0…

c# 源生成器

本文概述了 .NET Compiler Platform(“Roslyn”)SDK 附带的源生成器。 通过源生成器,C# 开发人员可以在编译用户代码时检查用户代码。 生成器可以动态创建新的 C# 源文件,这些文件将添加到用户的编译中。 这样,代码可以…

线程(一)

线程 1. 线程 定义:线程是进程的组成部分,不同的线程执行不同的任务,不同的功能模块,同时线程使用的资源师由进程管理,主要分配CPU和内存。 ​ 在进程中,线程执行的方式是抢占式执行操作,需要考…

33--Vue-前端开发-使用Vue脚手架快速搭建项目

一、vue脚手架搭建项目 node的安装: 官方下载,一路下一步 node命令类似于python npm命令类似于pip 使用npm安装第三方模块,速度慢一些,需换成淘宝镜像 以后用cmpm代替npm的使用 npm install -g cnpm --registry=https://registry.npm.taobao.org安装脚手架: cnpm inst…

汉诺塔--课后程序(Python程序开发案例教程-黑马程序员编著-第6章-课后作业)

实例3:汉诺塔 汉诺塔是一个可以使用递归解决的经典问题,它源于印度一个古老传说:大梵天创造世界的时候做了三根金刚石柱子,其中一根柱子从下往上按照从大到小的顺序摞着64片黄金圆盘,大梵天命令婆罗门把圆盘从下面开始…

C++回顾(二十)—— vector容器 和 deque容器

20.1 vector容器 20.1.1 vector容器简介 vector是将元素置于一个动态数组中加以管理的容器。vector可以随机存取元素(支持索引值直接存取, 用[]操作符或at()方法)。vector尾部添加或移除元素非常快速。但是在中部或头部插入元素或移除元素比…

es6的class(类)

目录 一、class(类)的语法 二、代码 三、效果 一、class(类)的语法 ES6 提供了更接近传统语言的写法,引入了 Class(类)这个概念,作为对象的模板。通过class关键字,可以…

Java基础(二):原码、反码、补码及进制之间的运算

Java基础系列文章 Java基础(一):语言概述 Java基础(二):原码、反码、补码及进制之间的运算 Java基础(三):数据类型与进制 目录一、不同进制的表示方式二、二进制三、进制之间的转换四、byte的取值范围一、不同进制的表示方式 所有数字在计…

Leetcode 141.环形链表 142环形链表II

141环形链表 文章目录快慢指针快慢指针 代码思路: slow 和fast 指向 head slow走一步,fast走两步 没有环: fast每次走2步 ,如果 fast 最终遇到NULL(链表中的元素是 偶数)或者fast->next(链表中的元素是 奇数)遇到NULL&#xf…

【ArcGIS Pro二次开发】(12):txt文件和Excel文件的读写

在Arcgis Pro的工作流中,数据的输入是很常见的。这里以TXT和Excel两种文件为例,在SDK中实现数据的读取和写入。 一、txt文件的读写 txt文件的读写相对简单,可以用Arcgis Pro自带的OpenItemDialog打开txt文件,并直接读取&#xff…