当前位置:   article > 正文

高可用Hdfs&HBase配置实践_dfs.datanode.sync.behind.writes

dfs.datanode.sync.behind.writes

首先介绍版本背景,hdfs为2.7.1,hbase为1.3.0,其它版本的配置可能存在变化。

HDFS相关配置:

dfs.datanode.synconclose 设为true,当为false时,系统重启或断电时有可能数据丢失,默认值是false。

当写操作完成之后,缓存中的block不会立即被写入磁盘,如果要同步将缓存的block写入磁盘,用户需要将“hdfs-site.xml”中的dfs.datanode.synconclose设置为true。更改此设置后,对性能可能存在影响。

dfs.datanode.sync.behind.writes=FALSE 如果是true,写之后,DN将指示操作系统把队列中的数据全部立即写磁盘。和常用的OS策略不同,它们可能在触发写磁盘之前等待30s

  1. dfs.namenode.avoid.write.stale.datanode —— default: true
  2. dfs.namenode.avoid.read.stale.datanode —— default: true
  3. dfs.namenode.stale.datanode.interval —— default: 30 seconds

默认是true,超过30s未收到heartbeat的datanode,namenode会将之判为最低优先级的读写

关于stale的理解可以参看下面的链接:

http

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/爱喝兽奶帝天荒/article/detail/745281
推荐阅读
相关标签
  

闽ICP备14008679号