当前位置:   article > 正文

大数据技术原理与应用-林子雨版-课后习题答案_大数据技术原理与应用林子雨答案

大数据技术原理与应用林子雨答案

HDFS中的块,默认一个块大小为64MB,而HDFS中的文件会被拆分成多个块,每个块作为独立的单元进行存储。HDFS在块的大小的设计上明显要大于普通文件系统。

4.试述HDFS中的名称节点和数据节点的具体功能。

答:名称节点负责管理分布式文件系统系统的命名空间,记录分布式文件系统中的每个文件中各个块所在的数据节点的位置信息;

数据节点是分布式文件系统HDFS的工作节点,负责数据的存储和读取,会根据客户端或者是名称节点的调度来进行数据的存储和检索,并向名称节点定期发送自己所存储的块的列表。

hadoop fs -ls 显示 指定的文件的详细信息

hadoop fs -cat 指定的文件的内容输出到标准输出

hadoop fs -mkdir 创建 指定的文件夹

hadoop fs -get [-ignorecrc] [-crc] 复制指定的文件到本地文件系统指定的文件或文件夹。-ignorecrc选项复制CRC校验失败的文件。使用-crc选项复制文件以及CRC信息。

hadoop fs -put 从本地文件系统中复制指定的单个或多个源文件到指定的目标文件系统中。也支持从标准输入(stdin)中读取输入写入目标文件系统。

hadoop fs -rmr 删除 指定的文件夹及其的所有文件

第四章


1.试述在Hadoop体系架构中HBase与其他组成部分的相互关系。

答: HBase利用Hadoop MapReduce来处理HBase中的海量数据,实现高性能计算;利用Zookeeper作为协同服务,实现稳定服务和失败恢复;使用HDFS作为高可靠的底层存储,利用廉价集群提供海量数据存储能力; Sqoop为HBase的底层数据导入功能,Pig和Hive为HBase提供了高层语言支持,HBase是BigTable的开源实现。

2.请阐述HBase和BigTable的底层技术的对应关系

答:

项目

BigTable

HBase

文件存储系统

GFS

HDFS

海量数据处理

MapReduce

Hadoop MapReduce

协同服务管理

Chubby

Zookeeper

3.请阐述HBase和传统关系数据库的区别

答:

区别

传统关系数据库

HBase

数据类型

关系模型

数据模型

数据操作

插入、删除、更新、查询、多表连接

插入、查询、删除、清空,无法实现表与表之间关联

存储模式

基于行模式存储,元组或行会被连续地存储在磁盘也中

基于列存储,每个列族都由几个文件保存,不同列族的文件是分离的

数据索引

针对不同列构建复杂的多个索引

只有一个行键索引

数据维护

用最新的当前值去替换记录中原来的旧值

更新操作不会删除数据旧的版本,而是生成一个新的版本

可伸缩性

很难实现横向扩展,纵向扩展的空间也比较有限

轻易地通过在集群中增加或者减少硬件数量来实现性能的伸缩

4.HBase有哪些类型的访问接口?

答:HBase提供了Native Java API , HBase Shell , Thrift Gateway , REST GateWay , Pig , Hive 等访问接口。

5.请以实例说明HBase数据模型。

 

Info

Name

Major

Email

201505001

Luo Min

Math

Luo@qq.com

201505002

Liu Jun

Math

liu@qq.com

201505003

Xie You

Math

xie@qq.com

you@163.com

6.分别解释HBase中行键、列键和时间戳的概念

行键是唯一的,在一个表里只出现一次,否则就是在更新同一行,行键可以是任意的字节数组。

列族需要在创建表的时候就定义好,数量也不宜过多。列族名必须由可打印字符组成,创建表的时候不需要定义好列。

时间戳,默认由系统指定,用户也可以显示设置。使用不同的时间戳来区分不同的版本。

7.请举个实例来阐述HBase的概念视图和物理视图的不同

HBase数据概念视图

行键

时间戳

列族contents

列族anchor

“com.cnn.www”

T5

 

Anchor:cnnsi.com=”CNN”

T3

 

Anchor:my.look.ca=”CNN”

“com.cnn.www”

T3

Content:html=”<html>...”

 

T2

Content:html=”<html>...”

 

T1

Content:html=”<html>...”

 

HBase数据物理视图

行键

时间戳

列族anchor

“com.cnn.www”

T5

Anchor:cnnsi.com=”CNN”

T4

Anchor:my.look.ca=”CNN”

行键

时间戳

列族contents

“com.cnn.www”

T3

Content:html=”<html>...”

T2

Content:html=”<html>...”

T1

Content:html=”<html>...”

在HBase的概念视图中,一个表可以视为一个稀疏、多维的映射关系。

在物理视图中,一个表会按照属于同一列族的数据保存在一起

8.试述HBase各功能组建及其作用

(1)库函数:链接到每个客户端;

(2)一个Master主服务器:主服务器Master主要负责表和Region的管理工作;

(3)许多个Region服务器:Region服务器是HBase中最核心的模块,负责维护分配给自己的Region,并响应用户的读写请求

9.请阐述HBase的数据分区机制。

答: HBase采用分区存储,一个大的表会被分拆许多个Region,这些Region会被分发到不同的服务器上实现分布式存储。

10.HBase中的分区是如何定位的。</

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/747933
推荐阅读
相关标签
  

闽ICP备14008679号