【大数据基础】HBase数据结构是什么

2020-10-21 10:53发布

5条回答
浅浅77
2楼-- · 2020-10-21 11:20

传统数据库存储

B树 B+树 B-树

传统关系型数据普通索引就是采用B+树的方式

B+树最大的性能问题是会产生大量的随机IO,随着新数据的插入,叶子节点会慢慢分裂,逻辑上连续的叶子节点在物理上往往不连续,甚至分离的很远,但做范围查询时,会产生大量读随机IO;

Hbase

LSM树

为了克服B+树的弱点,HBase引入了LSM树的概念,即Log-Structured Merge-Trees;

LSM树的设计思想

将对数据的修改增量保持在内存中,达到指定的大小限制后将这些修改操作批量写入磁盘,不过读取的时候稍微麻烦,需要合并磁盘中历史数据和内存中最近修改操作,所以写入性能大大提升,读取时可能需要先看是否命中内存,否则需要访问较多的磁盘文件。极端的说,基于LSM树实现的HBase的写性能比MySQL高了一个数量级,读性能低了一个数量级。

LSM树本质上就是在读写之间取得平衡,和B+树相比,它牺牲了部分读性能,用来大幅提高写性能。

基本过程:

LSM树原理把一棵大树拆分成N棵小树,它首先写入内存中,随着小树越来越大,内存中的小树会flush到磁盘中,磁盘中的树定期可以做merge操作,合并成一棵大树,以优化读性能。

B+树与LSM-Tree树本质区别

他们本质不同点在于他们使用现代硬盘的方式,尤其是磁盘。从磁盘使用方面讲,RDBMS是寻道型,它需要随机读写数据。LSM-Tree则属于传输型,它会顺序读写数据。

HBase存储的设计思想:

为什么要有 WAL(Write Ahead Log)

因为数据是先写到内存中,如果断电,内存中的数据会丢失,因此为了保护内存中的数据,需要在磁盘上先记录LogFile,当内存中的数据flush到磁盘上时,就可以抛弃相应的LogFile

什么是MemStore, StoreFile

LSM树就是一堆小树,在内存中的小树即MemStore,每次flush,内存中的MemStore变成磁盘上一个新的StoreFile

为什么会有compact

随着小树越来越多,读的性能会越来越差,因此需要在适当的时候,对磁盘中的小树进行merge,多棵小树变成一颗大树


有点好奇
3楼-- · 2020-10-22 08:42

RowKey

与nosql数据库们一样,RowKey是用来检索记录的主键。访问HBASE table中的行


Column Family

列族:HBASE表中的每个列,都归属于某个列族。列族是表的schema的一部 分(而列不是),必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history,courses:math都属于courses 这个列族。


Cell

由{rowkey, column Family:columu, version} 唯一确定的单元。cell中的数据是没有类型的,全部是字节码形式存贮。


Time Stamp

HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值,此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突,就必须自己生成具有唯一性的时间戳。每个 cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。


命名空间


1) Table:表,所有的表都是命名空间的成员,即表必属于某个命名空间,如果没有指定,则在default默认的命名空间中。


2) RegionServer group:一个命名空间包含了默认的RegionServer Group。


3) Permission:权限,命名空间能够让我们来定义访问控制列表ACL(Access Control List)。例如,创建表,读取表,删除,更新等等操作。


4) Quota:限额,可以强制一个命名空间可包含的region的数量。



 


天天
4楼-- · 2020-10-22 09:45

1、表:对应于关系型数据库中的一张张表,HBASE以“表”为单位组织数据,表由多行组成。

2、行:行由一个Rowkey(行键)和多个列族组成,一个行有一个rowkey,用来唯一标识。

3、列族:在hbase中,是先有列族(Column Family)后有列的。列族可以理解为列的属性类别。每一行由若干列族组成,每个列族下可包含多个列。列族是列共性的一些体现。

4、列限定符:列由列族和列限定符唯一指定,如上面的name、major、email即是由 Info1列族的列限定符。

5、单元格:单元格由Rowkey、列族、列限定符唯一定位,单元格之中存放一个值(value)和一个版本号。

6、时间戳:单元格内不同版本的值按时间倒序排列,最新的数据排在最前面。


霸气的名字 - 喜欢晴天
5楼-- · 2020-10-22 18:33

一、RowKey

与 nosql 数据库们一样,RowKey 是用来检索记录的主键。访问 HBASE table 中的行,只有三种方式:1、通过单个 RowKey 访问2、通过 RowKey 的 range(正则)3、全表扫描
RowKey 行键可以是任意字符串(最大长度是 64KB,实际应用中长度一般为10-100bytes),在 HBASE 内部,RowKey 保存为字节数组。
存储时,数据按照 RowKey 的字典序(byte order)排序存储。设计 RowKey 时,要充分利用排序存储这个特性,将经常一起读取的行存储在一起。

二、Column Family

列族:HBASE 表中的每个列,都归属于某个列族。列族是表的 schema 的一部分(而列不是),必须在使用表之前定义。
列名都以列族作为前缀。例如 courses:history,courses:math 都属于 courses 这个列族。

三、Cell

由{rowkey, column Family:columu, version} 唯一确定的单元。cell 中的数据是没有类型的,全部是字节码形式存贮。

关键字:无类型、字节码

四、Time Stamp

1、HBASE 中通过rowkey和columns确定的一个存贮单元称为cell。每个 cell都保存着同一份数据的多个版本。

2、版本通过时间戳来索引。时间戳的类型是 64 位整型。时间戳可以由 HBASE(在数据写入时自动 )赋值,此时时间戳是精确到毫秒的当前系统时间。
   时间戳也可以由客户显式赋值。如果应用程序要避免数据版本冲突,就必须自己生成具有唯一性的时间戳。

3、每个cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。

4、为了避免数据存在过多版本中造成管理 (包括存贮和索引)负担,HBASE 提供了两种数据版本回收方式。
    一是保存数据的最后n个版本,
    二是保存最近一段时间内的版本(比如最近七天)。用户可以针对每个列族进行设置。

五、 命名空间


命名空间的结构.png

1)、 Table:所有的表都是命名空间的成员,即表必属于某个命名空间,如果没有指定,则在 default 默认的命名空间中。2) 、RegionServer group :一个命名空间包含了默认的 RegionServer Group。3) 、Permission :权限,命名空间能够让我们来定义访问控制列表 ACL( Access Control List )。
      例如,创建表,读取表,删除,更新等等操作。4) 、Quota :限额,可以强制一个命名空间可包含的 region 的数量。(5)、查看命名空间:
hbase(main):083:0> list_namespaceNAMESPACE                                                                                                    default                                                                                                      
hbase                                                                                                        
2 row(s) in 0.0460 seconds(6)、创建命名空间:
hbase(main):084:0> create_namespace 'bigdata'0 row(s) in 0.8850 seconds

hbase(main):085:0> list_namespaceNAMESPACE                                                                            bigdata                                                                              
default                                                                              
hbase                                                                                
3 row(s) in 0.0140 seconds(7)、创建表在指定命名空间:
hbase(main):086:0> create 'bigdata:test', 'info'0 row(s) in 1.2730 seconds=> Hbase::Table - bigdata:test(8)、删除指定命名空间:注意删除之前必须清空该命名空间,否则会报错
hbase(main):087:0> drop_namespace 'bigdata'ERROR: org.apache.hadoop.hbase.constraint.ConstraintException: Only empty namespaces can be removed. Namespace bigdata has 1 tables
    at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
    at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:62)
    at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45)
    at java.lang.reflect.Constructor.newInstance(Constructor.java:423)
    at org.apache.hadoop.ipc.RemoteException.instantiateException(RemoteException.java:106)
    at org.apache.hadoop.ipc.RemoteException.unwrapRemoteException(RemoteException.java:95)
    at org.apache.hadoop.hbase.util.ForeignExceptionUtil.toIOException(ForeignExceptionUtil.java:45)
    at org.apache.hadoop.hbase.procedure2.RemoteProcedureException.fromProto(RemoteProcedureException.java:114)
    at org.apache.hadoop.hbase.master.procedure.ProcedureSyncWait.waitForProcedureToComplete(ProcedureSyncWait.java:85)
    at org.apache.hadoop.hbase.master.HMaster$15.run(HMaster.java:2941)
    at org.apache.hadoop.hbase.master.procedure.MasterProcedureUtil.submitProcedure(MasterProcedureUtil.java:133)
    at org.apache.hadoop.hbase.master.HMaster.deleteNamespace(HMaster.java:2929)
    at org.apache.hadoop.hbase.master.MasterRpcServices.deleteNamespace(MasterRpcServices.java:508)
    at org.apache.hadoop.hbase.protobuf.generated.MasterProtos$MasterService$2.callBlockingMethod(MasterProtos.java:63460)
    at org.apache.hadoop.hbase.ipc.RpcServer.call(RpcServer.java:2369)
    at org.apache.hadoop.hbase.ipc.CallRunner.run(CallRunner.java:124)
    at org.apache.hadoop.hbase.ipc.RpcExecutor$Handler.run(RpcExecutor.java:297)
    at org.apache.hadoop.hbase.ipc.RpcExecutor$Handler.run(RpcExecutor.java:277)Caused by: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hbase.constraint.ConstraintException): Only empty namespaces can be removed. Namespace bigdata has 1 tables
    at org.apache.hadoop.hbase.master.procedure.DeleteNamespaceProcedure.prepareDelete(DeleteNamespaceProcedure.java:256)
    at org.apache.hadoop.hbase.master.procedure.DeleteNamespaceProcedure.executeFromState(DeleteNamespaceProcedure.java:83)
    at org.apache.hadoop.hbase.master.procedure.DeleteNamespaceProcedure.executeFromState(DeleteNamespaceProcedure.java:49)
    at org.apache.hadoop.hbase.procedure2.StateMachineProcedure.execute(StateMachineProcedure.java:139)
    at org.apache.hadoop.hbase.procedure2.Procedure.doExecute(Procedure.java:506)
    at org.apache.hadoop.hbase.procedure2.ProcedureExecutor.execProcedure(ProcedureExecutor.java:1167)
    at org.apache.hadoop.hbase.procedure2.ProcedureExecutor.execLoop(ProcedureExecutor.java:955)
    at org.apache.hadoop.hbase.procedure2.ProcedureExecutor.execLoop(ProcedureExecutor.java:908)
    at org.apache.hadoop.hbase.procedure2.ProcedureExecutor.access$400(ProcedureExecutor.java:77)
    at org.apache.hadoop.hbase.procedure2.ProcedureExecutor$2.run(ProcedureExecutor.java:482)Here is some help for this command:Drop the named namespace. The namespace must be empty.hbase(main):088:0>


我的网名不再改
6楼-- · 2020-10-25 15:02

RowKey

与nosql数据库们一样,RowKey是用来检索记录的主键。访问HBASE table中的行,只有三种方式:

  1. 通过单个RowKey访问(get)

  2. 通过RowKey的range(正则)(like)

  3. 全表扫描(scan)
    RowKey行键 (RowKey)可以是任意字符串(最大长度是64KB,实际应用中长度一般为 10-100bytes),在HBASE内部,RowKey保存为字节数组。存储时,数据按照RowKey的字典序(byte order)排序存储。设计RowKey时,要充分排序存储这个特性,将经常一起读取的行存储放到一起。(位置相关性)

Column Family

列族:HBASE表中的每个列,都归属于某个列族。列族是表的schema的一部 分(而列不是),必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history,courses:math都属于courses 这个列族。

Cell

由{rowkey, column Family:columu, version} 唯一确定的单元。cell中的数据是没有类型的,全部是字节码形式存贮。
关键字:无类型、字节码

Time Stamp

HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值,此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突,就必须自己生成具有唯一性的时间戳。每个 cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。
为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担,HBASE提供 了两种数据版本回收方式。一是保存数据的最后n个版本,二是保存最近一段 时间内的版本(比如最近七天)。用户可以针对每个列族进行设置。

命名空间

命名空间的结构:
image.png

  1. Table:表,所有的表都是命名空间的成员,即表必属于某个命名空间,如果没有指定,则在default默认的命名空间中。

  2. RegionServer group:一个命名空间包含了默认的RegionServer Group。

  3. Permission:权限,命名空间能够让我们来定义访问控制列表ACL(Access Control List)。例如,创建表,读取表,删除,更新等等操作。

  4. Quota:限额,可以强制一个命名空间可包含的region的数量。