eclipse操作hadoop-文件上传下载以及使用MapReduce完成对一个文本文件的单词计数_假设一个大型的文本文件存放于hdfs,每行存放1个单词,设计基于map-reduce的文件内

1.查看hdfs上的文件

public static void main(String[] args) {
		try {
			// 创建要链接的资源地址
			URI uri = new URI("hdfs://xxx.xxx.xxx.xxx:端口号");  //这个地址是hadoop目录下etc/hadoop/core-site.xml文件里的 fs.defaultFS 地址

			Configuration conf = new Configuration();
			conf.set("dfs.replication", "1"); // 设置副本数

			// 获取文件系统实例
			FileSystem fs = FileSystem.get(uri, conf, "huangbiao");

			FileStatus[] fss = fs.listStatus(new Path("/user/huangbiao"));//这是要查看的文件系统的目录，看自己的目录是什么
			System.out.println("当前目录下的文件信息如下：");
			for (FileStatus f : fss) {
				System.out.println( f.getPath().getName() );
			}
		} catch (URISyntaxException e) {
			e.printStackTrace();
		} catch(FileNotFoundException e){
			e.printStackTrace();
		}catch (IOException e) {
			e.printStackTrace();
		} catch (InterruptedException e) {
			e.printStackTrace();
		}
	}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

输出结果：

2.修改hdfs上的文件名：

public static void main(String[] args) {
		try {
			// 创建要链接的资源地址
			URI uri = new URI("hdfs://xxx.xxx.xxx.xxx:端口号"); //这个地址是hadoop目录下etc/hadoop/core-site.xml文件里的 fs.defaultFS 地址

			Configuration conf = new Configuration();
			conf.set("dfs.replication", "1"); // 设置副本数

			// 获取文件系统实例
			FileSystem fs = FileSystem.get(uri, conf, "huangbiao");

			FileStatus[] fss = fs.listStatus(new Path("/user/huangbiao"));
			System.out.println("当前目录下的文件信息如下：");
			for (FileStatus f : fss) {
				System.out.println(f.getPath().getName());
			}
			
			Scanner sc = new Scanner(System.in);
			System.out.println("请输入您要修改的文件名：");
			Path f11 = new Path(sc.next());
			
			System.out.println("请输入修改后的名称：");
			Path f12 = new Path(sc.next());
			
			boolean b1 = fs.rename(f11, f12);
			System.out.println("修改结果："+b1);
			
		} catch (URISyntaxException e) {
			e.printStackTrace();
		} catch(FileNotFoundException e){
			e.printStackTrace();
		}catch (IOException e) {
			e.printStackTrace();
		} catch (InterruptedException e) {
			e.printStackTrace();
		}
	}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

输出结果：