【从零单排HBase 01】从一无所知到5分钟快速了解HBase「建议收藏」

【从零单排HBase 01】从一无所知到5分钟快速了解HBase「建议收藏」最近公司正好准备投入HBase,因此做了一些基础学习准备,所以先暂时停止MySQL的更新,把HBase的学习心得跟大家分享一下,接下来一段时间都会发布HBase相关内容。 在学的过程中,发现跟MyS…

【从零单排HBase 01】从一无所知到5分钟快速了解HBase

在学的过程中,发现跟MySQL相互对比,能更深入地了解存储组件的设计。有任何问题或者想看的知识点,欢迎留言跟我沟通。

1.前言

随着公司业务不断发展,开始遇见越来越多的复杂存储场景。我们在关系型数据库上已经有了比较好的技术积累,但是并不能解决所有问题。

因此,需要对更多存储类型做技术储备。

HBase作为nosql的典型代表,是一个分布式的、面向列的开源数据库,在大数据存储上广受欢迎,因此,第一站就来到这里。

网络上对于HBase的文档有很多,但是看了一圈,没有特别能让一个小白快速入门的介绍。

本文作为一个入门文档,希望能通过自己的理解,来快速认识HBase到底是什么,它的结构、特点、适用场景有哪些,但不会有深入的技术点的说明。

嗯,就是快速,非常快速并且丝滑地去理解HBase到底是啥。

2. 适用场景

一开始,我们肯定需要了解的是,为什么要用HBase。

存储组件比较多,我们就简单谈谈MySQL和HBase的主要对比。

 

从一无所知到5分钟快速了解HBase

 

可以看到,在面对海量数据场景时,如果没有较强的事务要求,查询比较简单,那么HBase是非常适合的。

2. 基本概念

2.1 表、行、列和单元格

为什么正文要从这里开始呢?

因为这个是一切的基础,也是我们初次接触HBase最先想到的问题,HBase的数据格式是怎样的?

但是在入门HBase的过程中,发现一个小白想搞明白HBase到底是个什么存储格式还是挺费劲的。

比如给你这样一个HBaes的数据结构,是不是比较难理解是一个怎样的层级概念?

从一无所知到5分钟快速了解HBase

 

一个好的办法就是做 知识的迁移。所以,从我们熟悉的Mysql来说,是个非常好的方式。

Mysql的表结构我们非常熟悉,所以第一个问题就是,Mysql的表记录在HBase中是如何存储呢?

我们来举个例子,有两张mysql的表,表名叫user和location,表记录如下。

user表

从一无所知到5分钟快速了解HBase

 

location表

 

从一无所知到5分钟快速了解HBase

 

这样的结构,在HBase中的逻辑存储应该是这样的。

 

从一无所知到5分钟快速了解HBase

 

抽象出来的概念如下

 

从一无所知到5分钟快速了解HBase

 

相信有了这样直接的对比,不用我说,大家也能明白HBase的基本存储概念了。

  • RowKey:是Byte array,是表中每条记录的“主键”,方便快速查找,Rowkey的设计非常重要。
  • Column Family:列族,拥有一个名称(string),包含一个或者多个相关列
  • Column:属于某一个column family,familyName:columnName,每条记录可动态添加
  • Value(Cell):Byte array
  • Version Number:类型为Long,默认值是系统时间戳,可由用户自定义(这个概念在上文的逻辑存储中不太好迁移类比,所以上文的模型中没有给出,可以理解为mysql中的mvcc的版本号)

那么,在HBase中确定一个值的方式就比较清楚了。

 

从一无所知到5分钟快速了解HBase

 

通过RowKey-CF-Column-Version我们就能找到Value,这样就明白了KV的查询的结构关系。

如果用代码来简单表示,可以这样显示:

SortedMap<RowKey, List<SortedMap<Column,List<Value,TimeStamp>>>>

代码100分

做个小结:

最基本的单位是列(column)。一列或者多列形成行(row),并且由唯一的行键(row key)来确定存储。反过来,一个表(table)中由若干行,其中每列可能由多个版本(version),在每一个单元格(cell)中存储了不同的值。

2.2 分区概念

第二章对存储结构做了比较直白的说明,下面介绍HBase另一个比较核心的概念:regin。

HBase中扩展和负载均衡的基本单位称为regin,regin本质上是以行键排序的连续存储的区间。

如果regin太大,系统会自动进行拆分(在中间的行键进行一拆二),反之,会把多个regin合并(非自动),以减少存储文件数量。

如果类比mysql,可以看作是分区表partition的概念。

每一个regin只能由一台regin服务器(region server)加载,每一台region server可以加载多个region。

3. 架构

这张图是HBase非常经典的整体架构图。图中展示了HBase的各种组件。

 

从一无所知到5分钟快速了解HBase

 

1)Client

Client包含了访问Hbase的接口,另外Client还维护了对应的cache来加速Hbase的访问,比如cache的.META.元数据的信息。

2) Zookeeper

Hbase通过Zookeeper来做master的高可用、RegionServer的监控、元数据的入口以及集群配置的维护等工作。具体工作如下:

  • 通过Zoopkeeper来保证集群中只有1个master在运行,如果master异常,会通过竞争机制产生新的master提供服务
  • 通过Zoopkeeper来监控RegionServer的状态,当RegionSevrer有异常的时候,通过回调的形式通知Master RegionServer上下线的信息
  • 通过Zoopkeeper存储元数据的统一入口地址

3) HMaster

  • master节点为RegionServer分配Region
  • 维护整个集群的负载均衡
  • 维护集群的元数据信息
  • 发现失效的Region,并将失效的Region分配到正常的RegionServer上
  • 当RegionSever失效的时候,协调对应Hlog的拆分

4)HReginServer

HregionServer直接对接用户的读写请求,是真正的“干活”的节点。它的功能概括如下:

  • 管理master为其分配的Region 处理来自客户端的读写请求
  • 负责和底层HDFS的交互,存储数据到HDFS
  • 负责Region变大以后的拆分
  • 负责Storefile的合并工作

5) HDFS

HDFS为Hbase提供最终的底层数据存储服务,同时为Hbase提供高可用(Hlog存储在HDFS)的支持,具体功能概括如下:

  • 提供元数据和表数据的底层分布式存储服务
  • 数据多副本,保证的高可靠和高可用性

 

看到这里了,原创不易,点个关注、点个赞吧,你最好看了~

知识碎片重新梳理,构建Java知识图谱:https://github.com/saigu/JavaKnowledgeGraph(历史文章查阅非常方便)

扫码关注我的公众号“阿丸笔记”,第一时间获取最新更新。同时可以免费获取海量Java技术栈电子书、各个大厂面试题。

阿丸笔记

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/9617.html

(0)
上一篇 2023-02-04
下一篇 2023-02-04

相关推荐

  • Python面向对象编程中的方法(Method)

    Python面向对象编程中的方法(Method)普通方法是类中最常见的方法,它是类中的实例方法。普通方法的第一个参数是self,代表该方法所属的实例对象。在普通方法中可以访问对象的属性,并且可以调用其他的类方法或普通方法。下面是一个简单的例子:

    2023-12-12
    90
  • 如何删除sql数据库里的几个月之前的数据_sql server删除数据

    如何删除sql数据库里的几个月之前的数据_sql server删除数据删除语句: delete from tongbu_log where create_time <= dateadd(month,-1,getdate()) 可自定义其他时间。

    2023-03-24
    147
  • JavaScript获取对象的key

    JavaScript获取对象的key在 JavaScript 中,获取对象的 key(属性名)是非常常见的操作。不仅如此,有时候我们需要对对象的 key 做进一步的操作,如查找某个特定 key,在循环中迭代对象等等。这篇文章将详细介绍如何使用 JavaScript 获取对象的 key(属性名),并给出多个案例来演示不同的用法。

    2024-06-14
    46
  • MySQL创建主键[通俗易懂]

    MySQL创建主键[通俗易懂]MySQL InnoDB 存储引擎是必须要有一个主键的,主键可以是一个字段或者多个字段,通常建议:主键就一个、主键字段和业务无关、主键字段最好是自增且字段较小(原因:索引原理)。 创建主键的三种方式…

    2023-03-04
    148
  • Python中hmac的使用方法

    Python中hmac的使用方法在Python中,hmac模块提供了一种方便的方法来生成HMAC(基于哈希的消息验证代码)。HMAC是一种涉及哈希函数和一个秘密密钥的消息认证码,对于具有消息认证要求的应用程序而言,它是一种非常有用和安全的算法。

    2024-08-01
    30
  • CentOS7源码安装MySQL[亲测有效]

    CentOS7源码安装MySQL[亲测有效]CentOS7源码安装MySQL 1:安装依赖包 执行:yum -y install ncurses-devel gcc-* bzip2-* bison 2:升级cmake工具(我用的是cmake-3

    2023-04-26
    160
  • Linux安装Mysql5.7数据库

    Linux安装Mysql5.7数据库下载地址:https://downloads.mysql.com/archives/community/ 1.上传到服务器并解压 tar -xvf mysql-5.7.26-linux-glibc2.

    2023-02-14
    136
  • 包含python中display什么意思的词条

    包含python中display什么意思的词条display()是一种函数,功能是显示输出函数。

    2023-10-30
    139

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注