大数据入门系列 5：全网最全，Hadoop 实验——熟悉常用的 HDFS 目录操作和文件操作_hdfs目录操作_向hdfs中上传任意文本文件,如果指定的文件在hdfs

• 熟练使用 HDFS 操作常用的 Shell 命令。
• 熟悉 HDFS 操作常用的 Java API。

二、实验平台

• 操作系统：Linux。
• Hadoop 版本：Hadoop-3.2.1。
• JDK 版本：java-8-openjdk-amd64。
• Java IDE：Eclipse。

三、实验内容和要求

3.1、HDFS 目录操作

Hadoop 系统安装好之后，第一次使用 HDFS 时，在初始化并启动之后，首先需要在 HDFS 中创建用户目录。

3.1.1、创建用户目录

本次实验全部采用 bailu 用户登录 Linux 系统，故在 HDFS 中为 bailu 用户创建用户目录，命令如下：

cd /usr/local/hadoop/hadoop-3.2.1
./bin/hdfs dfs -mkdir -p /user/bailu

1
2
3

具体如下图所示：

说明：该命令表示在 HDFS 中创建一个 /user/bailu 的目录。

• -mkdir 是创建目录的操作。
• -p 表示如果是多级目录，则父目录和子目录一起创建。

注意：这里 /user/bailu 就是一个多级目录，因此必须使用参数 -p，否则会出错。

3.1.2、显示 HDFS 中与当前用户对应的目录内容

/user/bailu 目录就成为 bailu 用户对应的用户目录。

我们可以使用如下命令显示 HDFS 中与当前 bailu 对应的用户目录下的内容：

./bin/hdfs dfs -ls .

1
2

说明：

• -ls 表示列出 HDFS 某个目录下的所有内容。
• . 表示 HDFS 中当前用户目录，也就是 /user/bailu 目录。

等价于：

./bin/hdfs dfs -ls /user/bailu

1
2

3.1.3、列出 HDFS 上的所有目录

如果要列出 HDFS 上的所有目录，可以使用如下命令：

./bin/hdfs dfs -ls

1
2

3.1.4、用户目录下创建一个 input 目录

在 bailu 用户下创建一个input目录，命令如下：

./bin/hdfs dfs -mkdir input

1
2

具体如下图所示：

说明：我们在创建 input 目录时，采用了相对路径形式，实际上 input 目录创建成功后，它在 HDFS 中的完整路径是 /user/bailu/input。

3.1.5、根目录下创建 input 的目录

如果要在 HDFS 的根目录下创建一个名为 input 的目录，则需要以下命令：

./bin/hdfs dfs -mkdir /input

1
2

3.1.6、删除子目录

可以使用 rm 命令删除刚才在 HDFS 中创建的 /input 目录（不是 /user/bailu/input 目录）：

./bin/hdfs dfs -rm -r /input

1
2

说明：-r 参数表示如果删除 /input 目录及其子目录下的所有内容，如果要删除的目录包含了子目录，则必须使用 -r 参数，否则会执行失败。

3.2、HDFS 文件操作

首先使用 gedit 编辑器，在本地 Linux 文件系统的 /home/bailu/ 目录下创建一个文件 myLocalFile.txt，里面随意输入一些单词，具体如下图所示：

3.2.1、向 HDFS 中上传任意文本文件

向 HDFS 中上传任意文本文件，如果指定的文件在 HDFS 中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有的文件，命令如下：

./bin/hdfs dfs -put /home/bailu/myLocalFile.txt input

1
2

具体如下图所示：

3.2.2、从 HDFS 中下载指定文件

从 HDFS 中下载指定文件，如果本地文件与要下载的文件名称相同，则自动对下载的文件重命名，命令如下：

./bin/hdfs dfs -get input/myLocalFile.txt /home/bailu/下载

1
2

具体如下图所示：

3.2.3、输出 HDFS 指定文件到终端中

将 HDFS 中指定文件的内容输出到终端中，命令如下：

./bin/hdfs dfs -cat input/myLocalFile.txt

1
2

具体如下图所示：

3.2.4、显示 HDFS 中指定的文件信息

显示 HDFS 中指定的文件的读写权限、大小、创建时间、路径等信息，命令如下：

./bin/hdfs dfs -ls input/myLocalFile.txt

1
2

具体如下图所示：

3.2.5、输出 HDFS 指定目录下文件信息

给定 HDFS 中某一个目录，输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息，如果该文件是目录，则递归输出该目录下所有文件相关信息，命令如下：

./bin/hdfs dfs -ls input

1
2

具体如下图所示：

3.2.6、指定路径创建和删除文件

提供一个 HDFS 内的文件的路径，对该文件进行创建和删除操作。如果文件所在目录不存在，则自动创建目录（以操作 empty.txt 文件为例），创建文件操作命令如下：

./bin/hdfs dfs -touchz empty.txt

1
2

具体如下图所示：

删除文件操作命令如下：

./bin/hdfs dfs -rm empty.txt

1
2

具体如下图所示：

3.2.7、指定路径创建和删除目录

提供一个 HDFS 的目录的路径，对该目录进行创建和删除操作。创建目录时，如果目录文件所在目录不存在则自动创建相应目录；删除目录时，由用户指定当该目录不为空时是否还删除该目录（以操作 empty 文件夹为例），创建目录操作命令如下：

./bin/hdfs dfs -mkdir empty

1
2

具体如下图所示：

删除目录操作命令如下：

./bin/hdfs dfs -rm -r empty

1
2

具体如下图所示：

3.2.8、向 HDFS 中指定的文件追加内容

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）
[外链图片转存中…(img-iYraxG72-1713020696173)]

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！