IT小白

这个屌丝很懒，什么也没留下！

热门标签

大数据入门系列 5：全网最全，Hadoop 实验——熟悉常用的 HDFS 目录操作和文件操作_向hdfs中上传任意文本文件,如果指定的文件在hdfs

作者：IT小白 | 2024-06-18 07:22:05

踩

向hdfs中上传任意文本文件,如果指定的文件在hdfs

文章目录

前言
一、实验目的
二、实验平台
三、实验内容和要求
总结

前言

本篇文章是大数据基础系列的第五篇，完全针对 HDFS 文件系统，目的即理解 HDFS 在 Hadoop 体系结构中的角色，熟练使用 HDFS 操作常用的 Shell 命令，熟悉 HDFS 操作常用的 Java API。对大数据系列感兴趣的同学可以移步本人大数据专栏查看更多内容。

在这里插入图片描述

声明：本文由作者“白鹿第一帅”于 CSDN 社区原创首发，未经作者本人授权，禁止转载！爬虫、复制至第三方平台属于严重违法行为，侵权必究。亲爱的读者，如果你在第三方平台看到本声明，说明本文内容已被窃取，内容可能残缺不全，强烈建议您移步“白鹿第一帅” CSDN 博客查看原文，并在 CSDN 平台私信联系作者对该第三方违规平台举报反馈，感谢您对于原创和知识产权保护做出的贡献！

文章作者：白鹿第一帅，作者主页：https://blog.csdn.net/qq_22695001，未经授权，严禁转载，侵权必究！

前文回顾：《大数据入门系列 4：全网最全，伪分布式 Hadoop 在 Ubuntu 上的安装流程完整步骤及易错点分析》。

一、实验目的

理解 HDFS 在 Hadoop 体系结构中的角色。
熟练使用 HDFS 操作常用的 Shell 命令。
熟悉 HDFS 操作常用的 Java API。

二、实验平台

操作系统：Linux。
Hadoop 版本：Hadoop-3.2.1。
JDK 版本：java-8-openjdk-amd64。
Java IDE：Eclipse。

三、实验内容和要求

3.1、HDFS 目录操作

Hadoop 系统安装好之后，第一次使用 HDFS 时，在初始化并启动之后，首先需要在 HDFS 中创建用户目录。

3.1.1、创建用户目录

本次实验全部采用 bailu 用户登录 Linux 系统，故在 HDFS 中为 bailu 用户创建用户目录，命令如下：

cd /usr/local/hadoop/hadoop-3.2.1
./bin/hdfs dfs -mkdir -p /user/bailu
1
2

具体如下图所示：

在这里插入图片描述
说明：该命令表示在 HDFS 中创建一个 /user/bailu 的目录。

-mkdir 是创建目录的操作。
-p 表示如果是多级目录，则父目录和子目录一起创建。

注意：这里 /user/bailu 就是一个多级目录，因此必须使用参数 -p，否则会出错。

3.1.2、显示 HDFS 中与当前用户对应的目录内容

/user/bailu 目录就成为 bailu 用户对应的用户目录。

我们可以使用如下命令显示 HDFS 中与当前 bailu 对应的用户目录下的内容：

./bin/hdfs dfs -ls .
1

说明：

-ls 表示列出 HDFS 某个目录下的所有内容。
. 表示 HDFS 中当前用户目录，也就是 /user/bailu 目录。

等价于：

./bin/hdfs dfs -ls /user/bailu
1

3.1.3、列出 HDFS 上的所有目录

如果要列出 HDFS 上的所有目录，可以使用如下命令：

./bin/hdfs dfs -ls
1

3.1.4、用户目录下创建一个 input 目录

在 bailu 用户下创建一个input目录，命令如下：

./bin/hdfs dfs -mkdir input
1

具体如下图所示：

在这里插入图片描述
说明：我们在创建 input 目录时，采用了相对路径形式，实际上 input 目录创建成功后，它在 HDFS 中的完整路径是 /user/bailu/input。

3.1.5、根目录下创建 input 的目录

如果要在 HDFS 的根目录下创建一个名为 input 的目录，则需要以下命令：

./bin/hdfs dfs -mkdir /input
1

3.1.6、删除子目录

可以使用 rm 命令删除刚才在 HDFS 中创建的 /input 目录（不是 /user/bailu/input 目录）：

./bin/hdfs dfs -rm -r /input
1

提供一个 HDFS 内的文件的路径，对该文件进行创建和删除操作。如果文件所在目录不存在，则自动创建目录（以操作 empty.txt 文件为例），创建文件操作命令如下：

./bin/hdfs dfs -touchz empty.txt
1

具体如下图所示：

在这里插入图片描述
删除文件操作命令如下：

./bin/hdfs dfs -rm empty.txt
1

具体如下图所示：

在这里插入图片描述

3.2.7、指定路径创建和删除目录

提供一个 HDFS 的目录的路径，对该目录进行创建和删除操作。创建目录时，如果目录文件所在目录不存在则自动创建相应目录；删除目录时，由用户指定当该目录不为空时是否还删除该目录（以操作 empty 文件夹为例），创建目录操作命令如下：

./bin/hdfs dfs -mkdir empty
1

具体如下图所示：

在这里插入图片描述
删除目录操作命令如下：

./bin/hdfs dfs -rm -r empty
1

具体如下图所示：

在这里插入图片描述

3.2.8、向 HDFS 中指定的文件追加内容

向 HDFS 中指定的文件追加内容，由用户指定内容追加到原有文件的开头或结尾。

我们先在本地 /home/bailu 下创建 test.txt 文件，并添加内容如下图所示：

在这里插入图片描述
将 test.txt 文件上传至 HDFS 文件系统 /user/bailu/input 目录下，具体如下图所示：

在这里插入图片描述
追加 test.txt 文件至 myLocalFile.txt 文件后，命令如下：

./bin/hdfs dfs -appendToFile test.txt input/myLocalFile.txt
1

具体如下图所示：

在这里插入图片描述

3.2.9、删除 HDFS 中指定的文件

删除 HDFS 中指定的文件 test.txt，命令如下：

./bin/hdfs dfs -rm input/test.txt
1

具体如下图所示：

在这里插入图片描述

3.2.10、删除 HDFS 中指定的目录

删除 HDFS 中指定的目录，由用户指定目录中如果存在文件时是否删除目录（以操作 empty 目录为例），先创建 empty 目录，命令如下：

./bin/hdfs dfs -mkdir empty
1

具体如下图所示：

在这里插入图片描述
删除 empty 目录，命令如下：

./bin/hdfs dfs -rm -r empty
1

具体如下图所示：

在这里插入图片描述

3.2.11、将文件从源路径移动到目的路径

在 HDFS 中，将文件从源路径移动到目的路径（以把 input 下的 myLocalFile.txt 文件移动到 empty 文件夹为例），命令如下：

./bin/hdfs dfs -mv input/myLocalFile.txt empty
1

具体如下图所示：

在这里插入图片描述

文章作者：白鹿第一帅，作者主页：https://blog.csdn.net/qq_22695001，未经授权，严禁转载，侵权必究！

总结

本文通过使用 HDFS 文件系统对目录和文件两大结构类型进行了增删改查的基本操作，帮助初学者进一步巩固 HDFS 的实验操作，为之后的学习奠定基础。初学的同学可能会觉得甚是繁琐，命令比较多，熟能生巧即可。

在这里插入图片描述

我是白鹿，一个不懈奋斗的程序猿。望本文能对你有所裨益，欢迎大家的一键三连！若有其他问题、建议或者补充可以留言在文章下方，感谢大家的支持！

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/IT小白/article/detail/734182