当前位置:   article > 正文

Hive表与内部数据的映射关系_hive 将本地格式化的文本文件与内部表做映射

hive 将本地格式化的文本文件与内部表做映射

Hive表与内部数据的映射关系

1. 在练习Hive之前,先创建一个文件夹来存放Hive的练习数据。

命令:cd /export/data/ ,然后创建对应文件夹: mkdir hivedata

[外链图片转存失败(img-y3EZW7bG-1568681458974)(D:\学习笔记\hadoop\保存图片\Hive练习\01创建保存Hive数据的文件夹.jpg)]

2. 进入hivedata文件夹,创建一个名为1.txt 的文件,将如下数据复制进去。

1,allen,18
2,jack,28
3,rose,20
4,lucy,10
  • 1
  • 2
  • 3
  • 4

[外链图片转存失败(img-uCeURxxs-1568681458975)(D:\学习笔记\hadoop\保存图片\Hive练习\02增加数据.jpg)]

3. 然后将文件上传值HDFS

现在HDFS上创建一个文件夹来保存数据,命令:hadoop fs -mkdir /hivedata

然后将1.txt上传至刚刚创建的文件夹,命令:hadoop fs -put 1.txt /hivedata

[外链图片转存失败(img-xRpETL13-1568681458975)(D:\学习笔记\hadoop\保存图片\Hive练习\03将数据上传至hdfs.jpg)]

4. 使用node-3远程连接上Hive

这里不多说。

5. 查看当前数据库

命令:show databases;

[外链图片转存失败(img-3loktO0T-1568681458976)(D:\学习笔记\hadoop\保存图片\Hive练习\04查看当前数据库.jpg)]

6. 创建一个练习用的数据库:pttest

命令:create database pttest;

[外链图片转存失败(img-q4XEeJ0Q-1568681458977)(D:\学习笔记\hadoop\保存图片\Hive练习\05创建一个数据库.jpg)]

7. 选择我们刚刚创建的数据库,创建一张test1表

命令:use pttest; ,创建表:create table test1(id int,name string,age int);

[外链图片转存失败(img-bgxIBEWf-1568681458979)(D:\学习笔记\hadoop\保存图片\Hive练习\06创建test1表.jpg)]

8. 此时去查询这个表会发现没有任何数据,因为文件还没有映射过来。

Hive在HDFS上有特定的映射的地方:/user/hive/warehouse,当创建外部表时可以指定数据加载的地方。

在这里我们可以查看到刚刚创建的数据库和表。

[外链图片转存失败(img-vzaiaApz-1568681458980)(D:\学习笔记\hadoop\保存图片\Hive练习\07Hive指定映射位置.jpg)]

9.将之前上传到HDFS的文件移动到Hive指定映射的地方。

命令:hadoop fs -cp /hivedata/1.txt /user/hive/warehouse/pttest.db/test1

[外链图片转存失败(img-rYSW5Nuk-1568681458982)(D:\学习笔记\hadoop\保存图片\Hive练习\08 移动文件到HDFS指定位置.jpg)]

10. 这时候如果我们去select test1表,会发现:查出来的数据都是null

[外链图片转存失败(img-ciEBb7NG-1568681458983)(D:\学习笔记\hadoop\保存图片\Hive练习\09查询test1里的数据null.jpg)]

原因:分隔符,1.txt中我们用的是 ‘,’ 来作为分隔符,但是我们在创建test1 表时没有指定分隔符,导致错误。

11. 修改表与数据的对应分隔符

命令:alter table test1 set serdeproperties('field.delim'=',');

然后查询发现:

[外链图片转存失败(img-2acO3YJM-1568681458984)(D:\学习笔记\hadoop\保存图片\Hive练习\10修改分隔符.jpg)]

附:修改序列化分隔符:

alter table test1 set serdeproperties('serialization.format'='\t');

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/78958
推荐阅读
相关标签
  

闽ICP备14008679号