赞
踩
首先介绍版本背景,hdfs为2.7.1,hbase为1.3.0,其它版本的配置可能存在变化。
HDFS相关配置:
dfs.datanode.synconclose 设为true,当为false时,系统重启或断电时有可能数据丢失,默认值是false。
当写操作完成之后,缓存中的block不会立即被写入磁盘,如果要同步将缓存的block写入磁盘,用户需要将“hdfs-site.xml”中的dfs.datanode.synconclose设置为true。更改此设置后,对性能可能存在影响。
dfs.datanode.sync.behind.writes=FALSE 如果是true,写之后,DN将指示操作系统把队列中的数据全部立即写磁盘。和常用的OS策略不同,它们可能在触发写磁盘之前等待30s
- dfs.namenode.avoid.write.stale.datanode —— default: true
- dfs.namenode.avoid.read.stale.datanode —— default: true
- dfs.namenode.stale.datanode.interval —— default: 30 seconds
默认是true,超过30s未收到heartbeat的datanode,namenode会将之判为最低优先级的读写
关于stale的理解可以参看下面的链接:
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。