HBase解决Region Server Compact过程占用大量网络出口带宽的问题
HBase 0.92版本之后,Region Server的Compact过程根据待合并的文件大小分为small compaction和large compaction两种,由此可能导致在集群写入量大的时候Compact占用过多的网络出口带宽。本文将详细描述集群使用过程中遇到这一问题的排查过程及其解决方法。
1. 发现问题
HBase集群(版本为0.94.0)运行过程中,发现5台Region Server的网络出口带宽经常维持在100MB/s以上,接近到网卡的极限;同时Region Server的机器load负载也很高,高峰时候能够达到30~50。
2. 排查问题
1、集群实际运行过程中,观察到Region Server服务端的网卡,平均每台写入流量大概60MB/s(此时写入量已经很大了);读出流量90MB/s,有时甚至突破100MB/s(注:每台机器都是千兆网卡);
2、观察实际的写入数据量在每秒5w tps左右,单条记录平均大小为1KB,大概会占用50MB/s左右的网卡入口带宽请求量,和观察到的现象一致;
3、观察查询量在每秒6w qps左右,单条记录平均大小为1KB,大概会占用60MB/s左右的网卡出口带宽请求量,奇怪的是实际观察到有接近甚至超过100MB/s的网络出口带宽请求量,多出了40MB/s左右的网络出口带宽;
4、经分析排查确定导致上述过程的原因,可能是HBase服务端由于写入量过大频繁触发compaction过程,而compaction是需要读HBase数据的,因此占据了相当部分的网络出口带宽;
5、结合对相关源码org/apache/hadoop/hbase/regionserver/CompactSplitThread.java的分析,决定对HBase集群配置做出变更(具体见下一小节),主要目的是减少compaction的发生;
6、接下来,观察到Region Server的网络利用率明显降低,一般进出口带宽能维持在70MB/s以下。
3. 解决问题
HBase 0.92版本之后增加了关于compact的配置选项,compact分为small compaction和large compaction两个线程池执行(默认都是各有1个线程,具体源代码见:org/apache/hadoop/hbase/regionserver /CompactSplitThread.java),由于compact过程需要从HBase集群读取数据,因此实际运行中导致了compact占用大 量网络出口流量,解决方案为选择性地关闭small compaction或large compaction。有以下两种变更方式均可解决:
1)方案一
(1) 修改hbase.regionserver.thread.compaction.throttle为一个很大的值(如50GB),强制让所有compact都变为small compaction,减少compact的压力;
(2) 将small compaction和large compaction线程数均设置为1,减少compact的压力(可不配置,系统默认也会将其初始化为1)。
操作步骤:
准备hbase-site.xml文件,添加或修改如下选项:
<property> <name>hbase.regionserver.thread.compaction.throttle</name> <value>53687091200</value> </property> <property> <name>hbase.regionserver.thread.compaction.small</name> <value>1</value> </property> <property> <name>hbase.regionserver.thread.compaction.large</name> <value>1</value> </property>
重启集群使配置生效。
2)方案二
将small compaction线程数均设置为0,从而关闭small compaction,只剩下large compaction,也可减少compact的压力。
操作步骤:
准备hbase-site.xml文件,添加或修改如下选项:
<property> <name>hbase.regionserver.thread.compaction.small</name> <value>0</value> </property>
重启集群使配置生效。
建议继续学习:
- HBase集群出现NotServingRegionException问题的排查及解决方法 (阅读:16204)
- HFile存储格式 (阅读:14521)
- hbase运维 (阅读:13670)
- hbase介绍 (阅读:11014)
- HBase技术介绍 (阅读:6737)
- HBase随机写以及随机读性能测试 (阅读:6480)
- HBase性能优化方法总结 (阅读:5818)
- HBase二级索引与Join (阅读:5763)
- 系统架构的一些思考 (阅读:5591)
- HBase Thrift 接口使用注意事项 (阅读:5391)
扫一扫订阅我的微信号:IT技术博客大学习
- 作者:原 攀峰 来源: 量子恒道官方博客
- 标签: HBase 带宽
- 发布时间:2013-07-31 13:12:54
- [65] Oracle MTS模式下 进程地址与会话信
- [65] Go Reflect 性能
- [64] 如何拿下简短的域名
- [59] android 开发入门
- [59] IOS安全–浅谈关于IOS加固的几种方法
- [58] 图书馆的世界纪录
- [58] 【社会化设计】自我(self)部分――欢迎区
- [53] 视觉调整-设计师 vs. 逻辑
- [47] 界面设计速成
- [46] 读书笔记-壹百度:百度十年千倍的29条法则