赞
踩
Hive远程模式部署参考:
一、Hive数据仓库应用之Hive部署(超详细步骤指导操作,WIN10,VMware Workstation 15.5 PRO,CentOS-6.7)
Hive提供了用于定义数据表结构和数据库对象的语言,称为数据定义语言(简称DDL)。
在操作Hive数据仓库前,需要将相关服务启动,具体如下:
启动Hadoop高可用集群:
(1)启动集群中各个节点的Zookeeper服务,命令如下:
cd /export/servers/zookeeper-3.4.10/bin
./zkServer.sh start
启动后可查询角色,命令如下:
./zkServer.sh status
(2)启动集群各个节点监控NameNode的管理日志的JournalNode,命令如下:
hadoop-daemon.sh start journalnode
(3)在node-01上分别启动HDFS和YARN,命令如下:
start-dfs.sh
start-yarn.sh
启动mysql服务:
/etc/init.d/mysqld start
启动Hive远程模式:
(1)在node-01中进入安装包解压后目录,使用如下指令进入:
cd /export/servers/apache-hive-1.2.1-bin
在该目录下使用如下指令启动Hiveserver2服务:
bin/hiveserver2
(2)在node-02上进行Hive安装包解压目录,指令如下:
cd /export/servers/apache-hive-1.2.1-bin
在该路径下输入远程连接指令:
bin/beeline
按要求输入远程连接协议,连接到指定Hive服务(node-01)的主机口和端名(默认10000)
!connect jdbc:hive2://node-01:10000
紧接着按照提示输入node-01的账户名“root
”和密码“123456
”,自此远程连接成功。
创建数据库itcast,并指定数据库文件存放在HDFS的/hive_db/create_db/目录中,指令如下:
CREATE DATABASE IF NOT EXISTS itcast
COMMENT "This is itcast database"
LOCATION '/hive_db/create_db/'
WITH DBPROPERTIES ("creator"="itcast", "date"="2020-08-08");
SHOW DATABASES;
DESC DATABASE EXTENDED itcast;
USE itcast;
SELECT current_database();
修改数据库itcast中的属性。
ALTER DATABASE itcast SET DBPROPERTIES ("date"="2020-08-18", "locale"="beijing");
修改后查看数据库内容,结果如下:
DROP DATABASE IF EXISTS itcast;
删除后查看已存在数据块,结果如下:
创建数据库hive_database
CREATE DATABASE IF NOT EXISTS hive_database;
在Hive数据库hive_database中创建内部表managed_table。
CREATE TABLE IF NOT EXISTS
hive_database.managed_table(
staff_id INT COMMENT "This is staffid",
staff_name STRING COMMENT "This is staffname",
salary FLOAT COMMENT "This is staff salary",
hobby ARRAY<STRING> COMMENT "This is staff hobby",
deductions MAP<STRING, FLOAT> COMMENT "This is staff deduction",
address STRUCT<street:STRING,city:STRING> COMMENT "This is staff address")
ROW FORMAT DELIMITED
FIELDS TERMINATED BY ','
COLLECTION ITEMS TERMINATED BY '_'
MAP KEYS TERMINATED BY ':'
LINES TERMINATED BY '\n'
STORED AS textfile
TBLPROPERTIES("comment"="This is a managed table");
创建完成后可查看数据中已存在的表名称,结果如下:
在Hive数据库hive_database中创建外部表external_table。
CREATE EXTERNAL TABLE IF NOT EXISTS
hive_database.external_table(
staff_id INT COMMENT "This is staffid",
staff_name STRING COMMENT "This is staffname",
salary FLOAT COMMENT "This is staff salary",
hobby ARRAY<STRING> COMMENT "This is staff hobby",
deductions MAP<STRING, FLOAT> COMMENT "This is staff deduction",
address STRUCT<street:STRING,city:STRING> COMMENT "This is staff address")
ROW FORMAT DELIMITED
FIELDS TERMINATED BY ','
COLLECTION ITEMS TERMINATED BY '_'
MAP KEYS TERMINATED BY ':'
LINES TERMINATED BY '\n'
STORED AS textfile
LOCATION '/user/hive_external/external_table/'
TBLPROPERTIES("comment"="This is a external table");
切换到数据库hive_database:
USE hive_database;
通过模糊查询查看数据库hive_database中数据表名称首字母为“m”的数据表:
SHOW TABLES LIKE 'm*';
查看数据库hive_database中内部表managed_table表结构的基本信息:
DESC managed_table;
查看数据hive_database中外部表external_table表结构的详细信息
DESC formatted external_table;
5.1 重命名数据表
将数据库hive_database的内部表managed_table重命名为managed_table_new:
ALTER TABLE managed_table RENAME TO managed_table_new;
5.2 修改数据表属性
修改内部表 managed_table_new 的属性comment:
ALTER TABLE managed_table_new SET TBLPROPERTIES("comment"="This is a new managed table");
DESC FORMATTED managed_table_new;
5.3 修改数据表列
在数据库hive_database中创建数据表alter_managed_table,该表中所有列的数据类型一致。
CREATE TABLE IF NOT EXISTS alter_managed_table( id STRING, sex STRING, name STRING);
SHOW TABLES;
查看该表基本信息。
DESC alter_managed_table;
修改数据库hive_database中数据表alter_managed_table的列sex,首先重命名列sex为gender,然后移动列gender的位置到列name的后边,最后修改列gender的描述为“This is gender“。
ALTER TABLE alter_managed_table CHANGE sex gender STRING COMMENT "This is gender" AFTER name;
修改数据库hive_database中内部表alter_managed_table的列gender,将列的数据类型由STRING 修改为 VARCHAR(30)。
ALTER TABLE alter_managed_table CHANGE gender gender VARCHAR(30);
在 Hive客户端工具 Beeline中执行“DESCalter_managed_table;”命令,查看数据 库hive_database中数据表alter_managed_table表结构的基本信息。
DESC alter_managed_table;
5.4 添加数据表列
在数据表alter_managed_table中添加列。
ALTER TABLE alter_managed_table ADD COLUMNS (age INT COMMENT "This is age",phone STRING COMMENT "This is phone");
DESC alter_managed_table;
5.5 替换数据表列
将数据表alter_managed_table的列替换为列username和列passowrd。
ALTER TABLE alter_managed_table REPLACE COLUMNS (username STRING COMMENT "This is username",passowrd STRING COMMENT "This is password");
DESC alter_managed_table;
删除数据库hive_database的数据表alter_managed_table。
DROP TABLE IF EXISTS alter_managed_table PURGE;
SHOW TABLES;
参考文献:黑马程序员.Hive数据仓库应用[M].北京:清华大学出版社,2021.
后续学习链接:
二、Hive数据仓库应用之Hive数据定义语言(二)(超详细步骤指导操作,WIN10,VMware Workstation 15.5 PRO,CentOS-6.7)
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。