当前位置:   article > 正文

大数据入门系列 5:全网最全,Hadoop 实验——熟悉常用的 HDFS 目录操作和文件操作_hdfs目录操作(1)

hdfs目录操作

#### 3.1.3、列出 HDFS 上的所有目录


如果要列出 HDFS 上的所有目录,可以使用如下命令:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

./bin/hdfs dfs -ls


#### 3.1.4、用户目录下创建一个 input 目录


在 bailu 用户下创建一个input目录,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

./bin/hdfs dfs -mkdir input


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222110159242.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)  
 **说明**:我们在创建 input 目录时,采用了相对路径形式,实际上 input 目录创建成功后,它在 HDFS 中的完整路径是 /user/bailu/input。


#### 3.1.5、根目录下创建 input 的目录


如果要在 HDFS 的根目录下创建一个名为 input 的目录,则需要以下命令:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

./bin/hdfs dfs -mkdir /input


#### 3.1.6、删除子目录


可以使用 rm 命令删除刚才在 HDFS 中创建的 /input 目录(不是 /user/bailu/input 目录):



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

./bin/hdfs dfs -rm -r /input


**说明**:-r 参数表示如果删除 /input 目录及其子目录下的所有内容,如果要删除的目录包含了子目录,则必须使用 -r 参数,否则会执行失败。


### 3.2、HDFS 文件操作


首先使用 gedit 编辑器,在本地 Linux 文件系统的 /home/bailu/ 目录下创建一个文件 myLocalFile.txt,里面随意输入一些单词,具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/2019122211465459.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.1、向 HDFS 中上传任意文本文件


向 HDFS 中上传任意文本文件,如果指定的文件在 HDFS 中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20

./bin/hdfs dfs -put /home/bailu/myLocalFile.txt input


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222115326609.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.2、从 HDFS 中下载指定文件


从 HDFS 中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -get input/myLocalFile.txt /home/bailu/下载


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222115803166.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.3、输出 HDFS 指定文件到终端中


将 HDFS 中指定文件的内容输出到终端中,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -cat input/myLocalFile.txt


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222120106173.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.4、显示 HDFS 中指定的文件信息


显示 HDFS 中指定的文件的读写权限、大小、创建时间、路径等信息,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -ls input/myLocalFile.txt


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222120508409.png#pic_center)


#### 3.2.5、输出 HDFS 指定目录下文件信息


给定 HDFS 中某一个目录,输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息,如果该文件是目录,则递归输出该目录下所有文件相关信息,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -ls input


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222120828705.png#pic_center)


#### 3.2.6、指定路径创建和删除文件


提供一个 HDFS 内的文件的路径,对该文件进行创建和删除操作。如果文件所在目录不存在,则自动创建目录(以操作 empty.txt 文件为例),创建文件操作命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -touchz empty.txt


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222121836601.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)  
 删除文件操作命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

./bin/hdfs dfs -rm empty.txt


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222122142134.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.7、指定路径创建和删除目录


提供一个 HDFS 的目录的路径,对该目录进行创建和删除操作。创建目录时,如果目录文件所在目录不存在则自动创建相应目录;删除目录时,由用户指定当该目录不为空时是否还删除该目录(以操作 empty 文件夹为例),创建目录操作命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -mkdir empty


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222123046441.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)  
 删除目录操作命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

./bin/hdfs dfs -rm -r empty


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222123915351.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.8、向 HDFS 中指定的文件追加内容


向 HDFS 中指定的文件追加内容,由用户指定内容追加到原有文件的开头或结尾。


我们先在本地 /home/bailu 下创建 test.txt 文件,并添加内容如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222131705257.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)  
 将 test.txt 文件上传至 HDFS 文件系统 /user/bailu/input 目录下,具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222132216132.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)  
 追加 test.txt 文件至 myLocalFile.txt 文件后,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25

./bin/hdfs dfs -appendToFile test.txt input/myLocalFile.txt


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222132819993.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.9、删除 HDFS 中指定的文件


删除 HDFS 中指定的文件 test.txt,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -rm input/test.txt


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222133624928.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.10、删除 HDFS 中指定的目录


删除 HDFS 中指定的目录,由用户指定目录中如果存在文件时是否删除目录(以操作 empty 目录为例),先创建 empty 目录,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

./bin/hdfs dfs -mkdir empty


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222123046441.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)  
 删除 empty 目录,命令如下:



  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

./bin/hdfs dfs -rm -r empty


具体如下图所示:


![在这里插入图片描述](https://img-blog.csdnimg.cn/20191222123915351.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA55m96bm_56ys5LiA5biF,size_20,color_FFFFFF,t_70,g_se,x_16#pic_center)


#### 3.2.11、将文件从源路径移动到目的路径




**自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。**

**深知大多数大数据工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!**

**因此收集整理了一份《2024年大数据全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
![img](https://img-blog.csdnimg.cn/img_convert/2269ef036f2acce7a8a73d1d8b82b161.png)
![img](https://img-blog.csdnimg.cn/img_convert/ec450c575234f8ebb9adcef61b343327.png)
![img](https://img-blog.csdnimg.cn/img_convert/c1772fa0b1cea065029dd8725c8cc4ff.png)
![img](https://img-blog.csdnimg.cn/img_convert/f72a94282e35492976f5d569d84fd30b.png)
![img](https://img-blog.csdnimg.cn/img_convert/73fa7791f848d87e423914519870bb51.png)

**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上大数据开发知识点,真正体系化!**

**由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新**

**如果你觉得这些内容对你有帮助,可以添加VX:vip204888 (备注大数据获取)**
![img](https://img-blog.csdnimg.cn/img_convert/d3cbc093cd62a662de51ae6e1980d320.png)

**一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上大数据开发知识点,真正体系化!**

**由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新**

**如果你觉得这些内容对你有帮助,可以添加VX:vip204888 (备注大数据获取)**
[外链图片转存中...(img-GlmZ8sOw-1713020671608)]

**一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/羊村懒王/article/detail/715726
推荐阅读
相关标签
  

闽ICP备14008679号