首页 首页 大数据 大数据入门 查看内容

Apache HBase 问题排查思路

木马童年 2018-10-10 21:15 43 0

作者:范欣欣 来源:Hadoop技术博文 本文来自于中国 HBase 技术社区在杭州举办的第三次 HBase Meetup 会议,第四次 HBase Meetup 会议将于本周六(2018-09-08)在上海举办。详情请点击:中国HBase技术社区第四届MeetUp ...

作者:范欣欣 来源:Hadoop技术博文

本文来自于中国 HBase 技术社区在杭州举办的第三次 HBase Meetup 会议,第四次 HBase Meetup 会议将于本周六(2018-09-08)在上海举办。详情请点击:中国HBase技术社区第四届MeetUp上海站——HBase应用实践专场

HBCK - HBCK检查什么?

(1)HBase Region一致性

集群中所有region都被assign,而且deploy到唯一一台RegionServer上

该region的状态在内存中、hbase:meta表中以及zookeeper这三个地方需要保持一致

(2)HBase 表完整性

对于集群中任意一张表,每个rowkey都仅能存在于一个region区间

HBCK – 常用检查命令

./bin/hbase hbck

./bin/hbase hbck –details

./bin/hbase hbck TableFoo TableBar

HBCK - 局部低危修复

-fixAssignments :修复没有assign、assign不正确或者同时assign到多台RegionServer的问题region。

-fixMeta :主要修复.regioninfo文件和hbase:meta元数据表的不一致。修复的原则是以HDFS文件为准:如果region在HDFS上存在,但在hbase.meta表中不存在,就会在hbase:meta表中添加一条记录。反之如果在HDFS上不存在,而在hbase:meta表中存在,就会将hbase:meta表中对应的记录删除。

HBCK –高危修复

region区间overlap相关问题的修复属于高危修复操作,因为这类修复通常需要修改HDFS上的文件,有时甚至需要人工介入。

对于这类高危修复操作,建议先执行hbck -details详细了解更多的问题细节,再执行相应的修复命令

-repair|-fix 命令强烈不建议生产线使用

HBCK –案例

RIT处理套路

套路一:pending_open(或pending_close)状态的region通常可以使用hbck命令修复

套路二:failed_open (或failed_close)状态的region通常无法使用hbck命令修复

套路三:failed_open (或failed_close)状态的region需检查日志确认region无法打开关闭的具体原因

套路四:region处于RIT状态但hbck显示正常,把zk上的region-in-transaction节点相关region删除,重启master

HBase-日志分析

监控分析只能告诉你可能是什么原因,间接原因

日志分析才能告诉你问题的精确原因,最直接原因。

一般的问题都能在日志中找到直接原因,再根据原因找答案。

通过日志分析可以弄清楚事情的来龙去脉,监控不会告诉你那么多

下面是本次会议的全部PPT,完整PPT下载请到 http://hbase.group/?/article/52 这里下载。

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

未分类
0
为您推荐
大数据时代,主要需要什么类型的人才?

大数据时代,主要需要什么类型的人才?

什么是大数据,大数据是主要指的是,无法在可承受的时间范围内用常规软件工具进行捕捉…...

数据科学,数据分析和机器学习之间,有什么本质区别?

数据科学,数据分析和机器学习之间,有什么本质区别?

我们都知道机器学习,数据科学和数据分析是未来的发展方向。有些公司不仅利用大数据帮…...

什么样的人才是大数据人才呢?我们应该怎么定义和分类?

什么样的人才是大数据人才呢?我们应该怎么定义和分类

在未来世界,国家之间、区域之间甚至是公司之间的大数据人才的争夺战,将是愈演愈烈的…...

大数据技术怎么学习,在学习大数据之前,需要具备什么基础?

大数据技术怎么学习,在学习大数据之前,需要具备什么

  大数据又称黑暗数据,是指人脑无法处理的海量数据聚合成的信息资产,在民生、IT、…...

大数据现在处于什么阶段,入行大数据,需要学习哪些基础知识?

大数据现在处于什么阶段,入行大数据,需要学习哪些基

大数据的发展历程总体上可以划分为三个重要阶段,萌芽期、成熟期和大规模应用期…...

对于大数据开发的学习,最经典的学习路线是什么?

对于大数据开发的学习,最经典的学习路线是什么?

对于现代社会,大数据开发的重要性不言而喻,通过大量的数据处理、分析获取有价值的信…...