Hadoop学习笔记： 分布式数据库 HBase_hbase 按时间戳将表格分为不同的region

HBase概述

HBase是一个构建在HDFS上的分布式列存储系统，是Apache Hadoop生态系统中的重要一员，主要用于海量结构化数据存储。HBase是Google Bigtable的开源实现，从逻辑上讲，HBase将数据按照表、行和列进行存储，它是一个分布式的、稀疏的、持久化存储的多维度排序表。Hbase会把数据写到HDFS文件系统中。
HBase具有以下特点：1）良好的扩展性；2）读和写的强一致性；3）高可靠性，任何一个节点挂掉，都不会影响读写；4）与MapReduce良好的集成。
HBase VS HDFS：1）HDFS适合批处理场景；2）HDFS不支持数据随机查找；3）HDFS不支持数据更新。
HBase VS Hive：1）Hive适合批处理数据分析场景；2）Hive不适合实时的数据访问。
HBase应用在360搜索的网页库、淘宝的商品库和淘宝数据魔方的交易信息。

HBase数据模型

HBase由 (Table, RowKey, Family, Qualifer, TimeStamp)确定Value。在HBase中，一行数据由行健(RowKey)作为键，包含多个列族 (Family)，列族是由具有同时访问特性的多个列(Qualifer)组成的。数据是可以具有多版本的，由时间戳(TimeStamp)索引。时间戳和列的值绑定，如果一行所有的列都没有值，就不会有时间戳。
行键是主键，它是数据行在表中的唯一标识，表中的数据按照行键排序，所有操作都是基于主键的。表是稀疏的，空值不被存储，一行有可能会有几百万列，但是只有几十列有数据。每行都有一个可排序的主键和任意多的列，列可以根据需要动态的增加，同一张表中不同的行可以有截然不同的列。在HBase中只需要定义到列组，列组提前创建好后，列可以在写数据的时候动态的增加，理论上可以有无穷多列。
RowKey：row1
Family：data
Qualifer：name
TimeStamp：t3
Value：lars

HBase数据模型具有以下特点：
1）大：一个表可以有数十亿行，上百万列，可以达到PB级；
2）面向列：面向列(族)的存储，列(族)独立检索；
3）稀疏：对于空(null)的列，并不占用存储空间，表可以设计的非常稀疏；
4）数据多版本：每个单元中的数据可以有多个版本，由时间戳实现；
5）数据类型单一：HBase中的数据都是字节型，没有其他类型，数据读出时由用户做类型转换成他们想要的类型。RowKey的排序也是按照字节排序。

行存储与列存储区别：
1）行存储数据是按行存储，没有索引的查询使用大量I/O，建立索引和物化视图需要花费大量时间和资源，行存更容易定位到一行数据，所以比较适合对事物的处理，面向查询的需求，数据库必须被大量膨胀才能满足性能要求；
2）列存储数据是按列存储，每一列单独存放，数据即是索引，当访问要查询的列时，可以大量降低系统I/O。数据类型一致，数据特征相似，可以高效压缩。每一列由一个线索来处理，支持查询的并发处理。列存更容易将所有相同的数据统计到一起，所以比较适合数据分析，一般分析的维度没有那么多，而又需要统计所有行的信息的时候，比较适合用列存，列存不容易定位一行数据。

HBase物理模型

HBase面向列组存储。
Table中的所有行都按照RowKey的字典序排列，Table 在行的方向上分割为多个Region。某个Region会包含某一个或几个RowKey，一个Region类似于一个行分组。行本身不可以按照列再划分Region，一个Region一般是1G-100G，如果一行的数据大于100G，那说明组织有问题。一行不能分为不同的Region。一个Region放到HDFS上会被再切分成128M的Block来存储。HBase对Table的切分，以及HDFS对Block的切分由内部处理机制完成，对外暴露的都是数据库表和文件。

Region按大小分割的，每个表开始只有一个Region，随着数据增多Region不断增大，当增大到一个阀值的时候，Region就会等分为两个新的Region，之后会有越来越多的Region。也可以在建立Table的时候就建立多个Region。
HBase把Table分割成不同的Region，再把Region随机分配到不同的机器（Region Server）上来实现分布式。Region是HBase中分布式存储和负载均衡的最小单元，不同Region分布到不同Region Server上。
Region虽然是分布式存储的最小单元，但并不是存储的最小单元。Region由一个或者多个Store组成，每个Store保存一个Columns Family；每个Store又由一个MemStore和0至多个StoreFile组成，MemStore存储在内存中，StoreFile存储在HDFS上。HBase写操作是先写到内存的MemStore中，在内存写到一定程度比如到128M或256M后再作为一个文件写入到磁盘中形成StoreFile，每个文件一次写入。

HBase架构

• HRegion
  HBase 会自动地将表划分为不同的区域HRegion，每个HRegion包含所有行的一个子集。对用户来说，每个表是一堆数据的集合，靠主键RowKey来区分。从物理上来说，一张表被拆分成了多块，每一块是一个HRegion，HBase用表名+ 开始和结束主键，来区分每一个HRegion。一个 HRegion 会保存一个表里面某段连续的数据，从开始主键到结束主键。一张完整的表格是保存在多个HRegion上面。HRegion也是三副本存在HDFS上，所以它也是HA。

• HRegionServer
  HBase所有的数据库数据都保存在HDFS上面，用户通过访问HRegionServer获取这些数据，一台机器上面一般只运行一个HRegionServer，一个HRegionServer上面部署了多个HRegion，一个HRegion 也只会被一个 HRegionServer维护。HRegionServer主要负责响应用户I/O请求，从HDFS读写数据，是 HBase中最核心的模块，HRegionServer内部管理了一系列HRegion对象，每个HRegion对应了Table中的一个Region，HRegion中由多个HStore组成，每个HStore 对应了Table中的一个Column Family的存储，最好将具备共同 IO特性的Column放在一个Column Family中。

• HMaster
  每个HRegionServer都会与HMaster通信，HMaster的主要任务就是给HRegionServer分配HRegion，HMaster指定HRegionServer 要维护哪些HRegion。当一台HRegionServer宕机时，HMaster会把它负责的HRegion标记为未分配，然后再把它们分配到其他HRegionServer中。HMaster有多个，由Zookeeper选举哪些为Active哪些为Standby。
  HMaster 没有单点问题，HBase中可以启动多个HMaster，通过 Zookeeper的Master Selection机制保证总有一个Master 运行，HMaster 在功能上主要负责 Table 和 Region 的管理工作:
  1）管理用户对 Table 的增、删、改、查操作;
  2）管理 HRegion Server 的负载均衡，调整 Region 分布;
  3）在 Region Split 后，负责新 Region 的分配;
  4）在 HRegion Server 停机后，负责失效 HRegion Server 上的
  Regions 迁移。

• Client
  Client负责提交请求。HBase Client使用HBase的RPC机制与HMaster和HRegionServer进行通信：
  1）对于管理类操作，Client与HMaster进行RPC；
  2）对于数据读写类操作，Client与HRegionServer进行RPC。

• Zookeeper
  Zookeeper负责协调。Zookeeper中存储了Meta表的地址和HMaster的地址，HRegionServer也会把自己以 Ephemeral方式注册到Zookeeper中， 使得HMaster可以随时感知到各个HRegionServer的健康状态。此 外，Zookeeper也避免了HMaster的单点问题，负责Active HMaster的选举。

HBase数据寻址的原理是：
首先，HBase有一个Meta表，表里存储一个HRegion包括的Table的Start Key和End Key，存储在哪个HRegionServer上，这样Table名+HRegion名就可以确定数据以及从哪个HRegionServer取数据。Meta表本身也是HBase的一个表，也可能会被横向切分后放到一个HRegion中，但因为Meta表中存储的数据一般不多，所以大小一般不会超过1G，所以Meta表一般就存在一个HRegion上，Meta表的地址写到Zookeeper中。这样Client就会从Zookeeper中读取Meta表地址，然后再从Meta表中读取RowKey为某个值的数据的存放位置。客户端第一次读完Meta表的元数据后会缓存下来，这样以后再读就可以直接从缓存读了。一旦HRegion所在的HRegsionServer变了，缓存失效，取数据出错，可以更新缓存，继续使用。

HBase数据修改的原理是：
HDFS上的文件是不支持修改的，但HBase是如何实现修改的？事实上HBase没有数据修改，都是新增，通过时间戳来标识哪些是最新的数据，数据读取的时候，HDFS返回最新时间戳的数据，这就实现了数据的修改。默认返回最新时间戳的数据，也可以指定返回哪个或哪几个时间戳的数据。HBase默认保留三个版本（时间戳），多余的会删除，保留的版本数可以配置。HBase会在HDFS上生成很多文件，定期会合并成一个大文件。
数据文件目录结构：Table名+Region名+Column Family名字+文件，所以不同的Table的数据不可能存到一个文件的。

HBase访问方式

• HBase Shell
  HBase的命令行工具，最简单的接口，适合HBase管理使用;
  1）启动HBase Shell

  $ ./bin/hbase shell

2）建表:表名scores，有两个列族:‘grade’和‘course’

> create 'scores', 'grade', 'course'
1

3）查看HBase中的表

> list
1

4） 查看表结构

 > describe 'scores' 
1

5） put: 写入数据

> put 't1', 'r1', 'c1', 'value', ts1
1

t1指表名，r1指行键(key)，c1指列名，value指值，ts1指数据戳（ 一般都省略不设置）。

6）向scores表中插入数据

> put 'scores', 'Tom', 'grade', 5
> put 'scores', 'Tom', 'course:math', 97
> put 'scores', 'Tom', 'course:art', 87 
> put 'scores', 'Jim', 'grade', 4
> put 'scores', 'Jim', 'course:math', 68
> put 'scores', 'Jim', 'course:science', 89
1
2
3
4
5
6

7）get: 随机查找数据

 >get 't1', 'r1'
>get 't1', 'r1', 'c1'
>get 't1', 'r1', 'c1', 'c2'
>get 't1', 'r1', {COLUMN => 'c1', TIMESTAMP => ts1}
>get 't1', 'r1', {COLUMN => 'c1', TIMERANGE => [ts1, ts2], VERSIONS => 4}
>get 'scores', 'Tom'
> get 'scores', 'Tom', 'grade'
> get 'scores', 'Tom', 'grade', 'course'
1
2
3
4
5
6
7
8

8）scan: 范围查找数据

 >scan 't1'
>scan 't1', {COLUMNS => 'c1:q1'}
>scan 't1', {COLUMNS => ['c1', 'c2'], LIMIT => 10, STARTROW => 'xyz'}
>scan 't1', {REVERSED => true}
> scan 'scores'
> scan 'scores',{COLUMNS =>'course:math'} 
> scan 'scores',{COLUMNS =>'course'}
> scan 'scores',{COLUMNS =>'course', LIMIT => 1, STARTROW => 'Jim'}
1
2
3
4
5
6
7
8

9）delete: 删除数据

>delete 't1', 'r1', 'c1', ts1
>delete 'scores', 'Jim', 'course:math'
1
2

10）Truncate删除全表数据

> truncate 'scores'
1

11）alter: 修改表结构
为scores表增加一个family列族，名为profile

> alter 'scores', NAME => 'profile'
1

删除profile列族

> alter 'scores', NAME => 'profile', METHOD => 'delete'
1

12）删除表的步骤
先disable Table，然后drop Table

> disable 'scores'
> drop 'scores'
1
2

参考链接：
http://hbase.apache.org/book.html#shell_exercises
https://learnhbase.net/2013/03/02/hbase-shell-commands/

• Native Java API
  HBase是用Java语言编写的，支持Java编程是自然的事情，Java API支持CRUD（Create, Read, Update, Delete）操作，并且包含HBase Shell支持的所有功能，甚至更多，并且Java API是访问HBase最快的方式。
  Java API程序设计步骤：
  1）创建一个Configuration对象，包含各种配置信息；
  2）构建一个Connection连接，提供Configuration对象；
  3）根据不同的功能来获得相应的角色，管理->Admin，访问数据-> Table；
  4）执行相应的操作，如put、get、delete、scan等操作；
  5）关闭连接句柄，释放各种资源。
  示例代码：
  Java API - put

  public static void put_example() {
     Configuration conf = HBaseConfiguration.create();
     conf.set("hbase.zookeeper.quorum",
     "zookeeper-01.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com");
     conf.set("zookeeper.znode.parent", "/hbase_root_dir");
     //establish the connection to the cluster.
     Connection connection = ConnectionFactory.createConnection(conf); //retrieve a handler to the target table
     Table table = connection.getTable(TableName.valueOf("mytable")); //describe the data
     Put put = new Put(Bytes.toBytes("row1")); put.addColumn(Bytes.toBytes("f1"), Bytes.toBytes((”q1"), Bytes.toBytes(0)); //send the data
     table.put(put);
     //close
     if (table != null) 
     	table.close();
     connection.close();
  }
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15

  1）创建一个Configuration对象，包含各种配置信息（Zookeeper地址以及HBase信息在Zookeeper上的目录位置）；
  2）构建一个Connection连接，封装了客户端到整个集群的连接，用户从Connection中可以得到访问数据的Table对象、管理HBase的Admin对象和定位Region的RegionLocator对象，从线程安全考虑，建立了与Zookeeper的连接，创建成本大， 后续代码可以重用Connection对象；
  3）构建Table对象，与HBase的表交流，传入表名；

  Table table = connection.getTable(TableName.valueOf("mytable"));
  1

  4）Put对象，构造对象传入行键RowKey，加入需要插入的列值，发送数据；

   Put put = new Put(Bytes.toBytes("row1")); 
   put.addColumn(Bytes.toBytes("f1"), Bytes.toBytes((”q1"), Bytes.toBytes(0));//send the data
   table.put(put);
  1
  2
  3

  5）关闭连接句柄

  Java API - get

  public static void get_example() {
  	Configuration conf = HBaseConfiguration.create();
  	conf.set(“hbase.zookeeper.quorum”,
  	“zookeeper-01.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com”);
  	conf.set(“zookeeper.znode.parent”, “/hbase_root_dir”);
  	//establish the connection to the cluster.
  	Connection connection = ConnectionFactory.createConnection(conf); //retrieve a handler to the target table
  	Table table = connection.getTable(TableName.valueOf(“mytable”));
  	Get get = new Get(Bytes.toBytes(“row1”)); 
  	get.addColumn(Bytes.toBytes(“f1”), Bytes.toBytes(”q1“)); Result result = table.get(get);
  	while (result.advance()) {
  		System.out.println(result.current()); 
  	}
  	table.close();
  	connection.close(); 
  }
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15
  16

  1）构造get 对象(读取一行数据) ，传入行键RowKey，加入需要访问的列，发送请求，获得Result；

   Get get = new Get(Bytes.toBytes(“row1”)); 
   get.addColumn(Bytes.toBytes(“f1”), Bytes.toBytes(”q1“)); 
   Result result = table.get(get);
  1
  2
  3

  2）遍历结果

   while (result.advance()) { 
  	   		System.out.println(result.current());
  		}
  1
  2
  3

  Java API - scan

  public static void scan_example() {
  	Configuration conf = HBaseConfiguration.create();
  	conf.set(“hbase.zookeeper.quorum”,
  	“zookeeper-01.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com”);
  	conf.set(“zookeeper.znode.parent”, “/hbase_root_dir”);
  	//establish the connection to the cluster.
  	Connection connection = ConnectionFactory.createConnection(conf); //retrieve a handler to the target table
  	Table table = connection.getTable(TableName.valueOf(“mytable”));
  	Scan scan = new Scan(); 
  	scan.setStartRow(Bytes.toBytes(“row1”));
  	scan.setStopRow(Bytes.toBytes("row11"));
  	scan.addColumn(Bytes.toBytes(“f1”), Bytes.toBytes(”q1“));
  	scan.setCaching(100);
  	ResultScanner results = table.getScanner(scan);
  	for (Result result : results) { 
  		while (result.advance()) {
  			System.out.println(result.current()); 
  			}
  	}
  	table.close(); 
  	connection.close();
  }
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15
  16
  17
  18
  19
  20
  21
  22

  创建scan 对象(读取多行数据)
  1）设置起始和结束行键RowKey，[start_key, stop_key) ；
  2）加入需要访问的列；
  3）设置每次返回的结果数量；
  4）发送请求，获得ResultScanner句柄。

  Scan scan = new Scan(); 
  scan.setStartRow(Bytes.toBytes(“row1”));
  scan.setStopRow(Bytes.toBytes("row11")); 
  scan.addColumn(Bytes.toBytes(“f1”), Bytes.toBytes(”q1“)); 
  scan.setCaching(100);
  1
  2
  3
  4
  5

  Java API - delete

  public static void delete_example() {
  	Configuration conf = HBaseConfiguration.create();
  	conf.set(“hbase.zookeeper.quorum”,“zookeeper-01.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com, zookeeper-02.com”);
  	conf.set(“zookeeper.znode.parent”, “/hbase_root_dir”);//establish the connection to the cluster.
  	Connection connection = ConnectionFactory.createConnection(conf); //retrieve a handler to the target table
  	Table table = connection.getTable(TableName.valueOf(“mytable”));
  	Delete delete = new Delete(Bytes.toBytes(“row1”));
  	delete.addColumn(Bytes.toBytes(TableInformation.FAMILY_NAME_1), Bytes.toBytes(TableInformation.QUALIFIER_NAME_1_1));
  	table.delete(delete);
  	table.close();
  	connection.close(); 
  }
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12

  构造delete 对象
  1）构造对象传入行键key
  2）加入需要删除的列，删除最新版本的列
  3）发送请求

  Delete delete = new Delete(Bytes.toBytes("row1"));
  delete.addColumn(Bytes.toBytes(TableInformation.FAMILY_NAME_1), Bytes.toBytes(TableInformation.QUALIFIER_NAME_1_1));
  table.delete(delete);
  1
  2
  3

  4）也可以指定删除的版本

   delete.addColumn(Bytes.toBytes(TableInformation.FAMILY_NAME_1), Bytes.toBytes(TableInformation.QUALIFIER_NAME_1_2), 1000000);
  1

• Thrift Gateway
  利用Thrift序列化技术，支持C++，PHP，Python等多种语言， 适合其他异构系统在线访问HBase表数据;

• MapReduce
  直接使用MapReduce作业处理HBase数据或使用Pig/Hive处理HBase数据。

HBase参考文档

http://abloz.com/hbase/book.html
https://www.oschina.net/p/hbase/