Hadoop—分布式文件系统HDFS_分布式文件系统hdfs闯关

第一关

0.选择命令行

1.启动hadoop

start-dfs.sh
1

回车

hadoop fs -mkdir /usr 
hadoop fs -mkdir /usr/output
1
2

2.创建文件并写内容

touch hello.txt
vim hello.txt
1
2

按 fn + delete 进入
输入文字

HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。
1

在英文键盘下
按esc
shift + :
wq
退出

3.将hello.txt上传至HDFS的/usr/output/目录下

hadoop fs -put hello.txt /usr/output
1

为了保险我们查看一下是否上传成功

hadoop fs -cat /usr/output/hello.txt
1

这里就是上传成功了

4.删除HDFS的/user/hadoop目录；

hadoop fs  -rm -r /user/hadoop
1

这样就删除成功了

5.将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。

hadoop fs  -copyToLocal /usr/output/hello.txt /usr/local
1

第二关

点击命令行进入

1.在本地先创建文件

touch task.txt
vim task.txt
1
2

按 fn + delete 进入
输入

怕什么真理无穷，进一寸有一寸的欢喜。
1

在英文键盘下
按esc
shift + :
wq
退出

2.上传并查看

hadoop fs -put task.txt /user/hadoop
hadoop fs -cat /user/hadoop/  
1
2

结果如下

3.上方选择代码模块

插入代码

URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
    Configuration config = new Configuration();
    FileSystem fs = FileSystem.get(uri, config);
    InputStream in = null;
    try {
        in = fs.open(new Path(uri));
        IOUtils.copyBytes(in, System.out, 2048, false);
    } catch (Exception e) {
        IOUtils.closeStream(in);
    }
1
2
3
4
5
6
7
8
9
10

第三关

1.选择命令行，创建文件夹

mkdir /develop
mkdir /develop/input
1
2

2.在/develop/input/目录下创建hello.txt文件，

cd /develop/input
touch hello.txt
vim hello.txt
1
2
3

按 fn + delete 插入

迢迢牵牛星，皎皎河汉女。
纤纤擢素手，札札弄机杼。
终日不成章，泣涕零如雨。
河汉清且浅，相去复几许？
盈盈一水间，脉脉不得语。
《迢迢牵牛星》
1
2
3
4
5
6

在英文键盘下
按esc
shift + :
wq
退出

3.进入代码文件

		File localPath = new File("/develop/input/hello.txt");
    String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";

    InputStream in = new BufferedInputStream(new FileInputStream(localPath));
    Configuration config = new Configuration();

    FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
    long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;

    FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
        long fileCount = 0;

        public void progress() {
            System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
            fileCount++;
        }
    });

    IOUtils.copyBytes(in, out, 2048, true);
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

结果

第四关

1.点击代码文件

   String hadoop = "hdfs://localhost:9000/user/hadoop";
   String test = "hdfs://localhost:9000/tmp/test";
   String root = "hdfs://localhost:9000/";
   String tmp = "hdfs://localhost:9000/tmp";

   Configuration config = new Configuration();
   FileSystem fs = FileSystem.get(URI.create(root), config);

   fs.delete(new Path(hadoop), true);
   fs.delete(new Path(test), true);

   Path[] paths = {new Path(root), new Path(tmp)};
   FileStatus[] status = fs.listStatus(paths);
   Path[] listPaths = FileUtil.stat2Paths(status);

   for (Path path: listPaths) {
       System.out.println(path);
   }
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18