本文共 15745 字，大约阅读时间需要 52 分钟。

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13
• 14
• 15
• 16
• 17
• 18
• 19
• 20
• 21
• 22
• 23
• 24

16、HBase的rowKey设计技巧

HBase是三维有序存储的，通过rowkey（行键），column key（column family和qualifier）和TimeStamp（时间戳）这个三个维度可以对HBase中的数据进行快速定位。

HBase中rowkey可以唯一标识一行记录，在HBase查询的时候，有以下几种方式： 1.通过get方式，指定rowkey获取唯一一条记录 2.通过scan方式，设置startRow和stopRow参数进行范围匹配 3.全表扫描，即直接扫描整张表中所有行记录

1 rowkey长度原则

rowkey是一个二进制码流，可以是任意字符串，最大长度64kb，实际应用中一般为10-100bytes，以byte[]形式保存，一般设计成定长。

建议越短越好，不要超过16个字节，原因如下：

• 数据的持久化文件HFile中是按照KeyValue存储的，如果rowkey过长，比如超过100字节，1000w行数据，光rowkey就要占用100*1000w=10亿个字节，将近1G数据，这样会极大影响HFile的存储效率；
• MemStore将缓存部分数据到内存，如果rowkey字段过长，内存的有效利用率就会降低，系统不能缓存更多的数据，这样会降低检索效率。

2 rowkey散列原则

如果rowkey按照时间戳的方式递增，不要将时间放在二进制码的前面，建议将rowkey的高位作为散列字段，由程序随机生成，低位放时间字段，这样将提高数据均衡分布在每个RegionServer，以实现负载均衡的几率。如果没有散列字段，首字段直接是时间信息，所有的数据都会集中在一个RegionServer上，这样在数据检索的时候负载会集中在个别的RegionServer上，造成热点问题，会降低查询效率。

3 rowkey唯一原则

必须在设计上保证其唯一性，rowkey是按照字典顺序排序存储的，因此，设计rowkey的时候，要充分利用这个排序的特点，将经常读取的数据存储到一块，将最近可能会被访问的数据放到一块。

4什么是热点

HBase中的行是按照rowkey的字典顺序排序的，这种设计优化了scan操作，可以将相关的行以及会被一起读取的行存取在临近位置，便于scan。然而糟糕的rowkey设计是热点的源头。

热点发生在大量的client直接访问集群的一个或极少数个节点（访问可能是读，写或者其他操作）。大量访问会使热点region所在的单个机器超出自身承受能力，引起性能下降甚至region不可用，这也会影响同一个RegionServer上的其他region，由于主机无法服务其他region的请求。 设计良好的数据访问模式以使集群被充分，均衡的利用。为了避免写热点，设计rowkey使得不同行在同一个region，但是在更多数据情况下，数据应该被写入集群的多个region，而不是一个。下面是一些常见的避免热点的方法以及它们的优缺点：

1加盐

这里所说的加盐不是密码学中的加盐，而是在rowkey的前面增加随机数，具体就是给rowkey分配一个随机前缀以使得它和之前的rowkey的开头不同。分配的前缀种类数量应该和你想使用数据分散到不同的region的数量一致。加盐之后的rowkey就会根据随机生成的前缀分散到各个region上，以避免热点。

2哈希

哈希会使同一行永远用一个前缀加盐。哈希也可以使负载分散到整个集群，但是读却是可以预测的。使用确定的哈希可以让客户端重构完整的rowkey，可以使用get操作准确获取某一个行数据。

3反转

第三种防止热点的方法时反转固定长度或者数字格式的rowkey。这样可以使得rowkey中经常改变的部分（最没有意义的部分）放在前面。这样可以有效的随机rowkey，但是牺牲了rowkey的有序性。

反转rowkey的例子以手机号为rowkey，可以将手机号反转后的字符串作为rowkey，这样的就避免了以手机号那样比较固定开头导致热点问题

4时间戳反转

一个常见的数据处理问题是快速获取数据的最近版本，使用反转的时间戳作为rowkey的一部分对这个问题十分有用，可以用 Long.Max_Value - timestamp 追加到key的末尾，例如 [key][reverse_timestamp] , [key] 的最新值可以通过scan [key]获得[key]的第一条记录，因为HBase中rowkey是有序的，第一条记录是最后录入的数据。

其他一些建议： 尽量减少行键和列族的大小在HBase中，value永远和它的key一起传输的。当具体的值在系统间传输时，它的rowkey，列名，时间戳也会一起传输。如果你的rowkey和列名很大，这个时候它们将会占用大量的存储空间。 列族尽可能越短越好，最好是一个字符。 冗长的属性名虽然可读性好，但是更短的属性名存储在HBase中会更好。

17、HBase的协处理器

http://hbase.apache.org/book.html#cp

1、 起源

Hbase 作为列族数据库最经常被人诟病的特性包括：无法轻易建立“二级索引”，难以执 行求和、计数、排序等操作。比如，在旧版本的(<0.92)Hbase 中，统计数据表的总行数，需 要使用 Counter 方法，执行一次 MapReduce Job 才能得到。虽然 HBase 在数据存储层中集成

了 MapReduce，能够有效用于数据表的分布式计算。然而在很多情况下，做一些简单的相 加或者聚合计算的时候， 如果直接将计算过程放置在 server 端，能够减少通讯开销，从而获 得很好的性能提升。于是， HBase 在 0.92 之后引入了协处理器(coprocessors)，实现一些激动 人心的新特性：能够轻易建立二次索引、复杂过滤器(谓词下推)以及访问控制等。

2、协处理器有两种： observer 和 endpoint

(1) Observer 类似于传统数据库中的触发器，当发生某些事件的时候这类协处理器会被 Server 端调用。Observer Coprocessor 就是一些散布在 HBase Server 端代码中的 hook 钩子， 在固定的事件发生时被调用。比如： put 操作之前有钩子函数 prePut，该函数在 put 操作

执行前会被 Region Server 调用；在 put 操作之后则有 postPut 钩子函数

以 Hbase2.0.0 版本为例，它提供了三种观察者接口：

● RegionObserver：提供客户端的数据操纵事件钩子： Get、 Put、 Delete、 Scan 等。 ● WALObserver：提供 WAL 相关操作钩子。 ● MasterObserver：提供 DDL-类型的操作钩子。如创建、删除、修改数据表等。 到 0.96 版本又新增一个 RegionServerObserver 下图是以 RegionObserver 为例子讲解 Observer 这种协处理器的原理：

(2) Endpoint 协处理器类似传统数据库中的存储过程，客户端可以调用这些 Endpoint 协处 理器执行一段 Server 端代码，并将 Server 端代码的结果返回给客户端进一步处理，最常 见的用法就是进行聚集操作。如果没有协处理器，当用户需要找出一张表中的最大数据，即

max 聚合操作，就必须进行全表扫描，在客户端代码内遍历扫描结果，并执行求最大值的 操作。这样的方法无法利用底层集群的并发能力，而将所有计算都集中到 Client 端统一执 行，势必效率低下。利用 Coprocessor，用户可以将求最大值的代码部署到 HBase Server 端， HBase 将利用底层 cluster 的多个节点并发执行求最大值的操作。即在每个 Region 范围内 执行求最大值的代码，将每个 Region 的最大值在 Region Server 端计算出，仅仅将该 max 值返回给客户端。在客户端进一步将多个 Region 的最大值进一步处理而找到其中的最大值。 这样整体的执行效率就会提高很多 下图是 EndPoint 的工作原理：

(3)总结

Observer 允许集群在正常的客户端操作过程中可以有不同的行为表现 Endpoint 允许扩展集群的能力，对客户端应用开放新的运算命令 observer 类似于 RDBMS 中的触发器，主要在服务端工作 endpoint 类似于 RDBMS 中的存储过程，主要在 client 端工作 observer 可以实现权限管理、优先级设置、监控、 ddl 控制、 二级索引等功能 endpoint 可以实现 min、 max、 avg、 sum、 distinct、 group by 等功能

3、协处理器加载方式

协处理器的加载方式有两种，我们称之为静态加载方式（ Static Load） 和动态加载方式 （ Dynamic Load）。 静态加载的协处理器称之为 System Coprocessor，动态加载的协处理器称 之为 Table Coprocessor 1、静态加载  
  
 
  1 
  2

通过修改 hbase-site.xml 这个文件来实现， 启动全局 aggregation，能过操纵所有的表上 的数据。只需要添加如下代码：

   
    
     hbase.coprocessor.user.region.classes
    
    
     org.apache.hadoop.hbase.coprocessor.AggregateImplementation
    
    
  
 
  1 
  2 
  3 
  4

为所有 table 加载了一个 cp class，可以用” ,”分割加载多个 class

2、动态加载 启用表 aggregation，只对特定的表生效。通过 HBase Shell 来实现。 disable 指定表。 hbase> disable ‘mytable’ 添加 aggregation hbase> alter ‘mytable’, METHOD => ‘table_att’,‘coprocessor’=> ‘|org.apache.Hadoop.hbase.coprocessor.AggregateImplementation||’ 重启指定表 hbase> enable ‘mytable’ 协处理器卸载

4、协处理器Observer应用实战

通过协处理器Observer实现hbase当中一张表插入数据，然后通过协处理器，将数据复制一份保存到另外一张表当中去，但是只取当第一张表当中的部分列数据保存到第二张表当中去

第一步：HBase当中创建第一张表proc1

在HBase当中创建一张表，表名user2，并只有一个列族info

cd /export/servers/hbase-2.0.0/ bin/hbase shell hbase(main):053:0> create ‘proc1’,‘info’

第二步：Hbase当中创建第二张表proc2

创建第二张表’proc2，作为目标表，将第一张表当中插入数据的部分列，使用协处理器，复制到’proc2表当中来

hbase(main):054:0> create ‘proc2’,‘info’

第三步：开发HBase的协处理器

开发HBase的协处理器Copo

public class MyProcessor implements RegionObserver,RegionCoprocessor {
   static Connection connection = null;static Table table = null;static{    Configuration conf = HBaseConfiguration.create();    conf.set("hbase.zookeeper.quorum","node01:2181");    try {        connection = ConnectionFactory.createConnection(conf);        table = connection.getTable(TableName.valueOf("proc2"));    } catch (Exception e) {        e.printStackTrace();    }}private RegionCoprocessorEnvironment env = null;private static final String FAMAILLY_NAME = "info";private static final String QUALIFIER_NAME = "name";//2.0加入该方法，否则无法生效@Overridepublic Optional<RegionObserver> getRegionObserver() {    // Extremely important to be sure that the coprocessor is invoked as a RegionObserver    return Optional.of(this);}@Overridepublic void start(CoprocessorEnvironment e) throws IOException {    env = (RegionCoprocessorEnvironment) e;}@Overridepublic void stop(CoprocessorEnvironment e) throws IOException {    // nothing to do here}/** * 覆写prePut方法，在我们数据插入之前进行拦截， * @param e * @param put  put对象里面封装了我们需要插入到目标表的数据 * @param edit * @param durability * @throws IOException */@Overridepublic void prePut(final ObserverContext<RegionCoprocessorEnvironment> e,                   final Put put, final WALEdit edit, final Durability durability)        throws IOException {    try {        //通过put对象获取插入数据的rowkey        byte[] rowBytes = put.getRow();        String rowkey = Bytes.toString(rowBytes);        //获取我们插入数据的name字段的值        List<Cell> list = put.get(Bytes.toBytes(FAMAILLY_NAME), Bytes.toBytes(QUALIFIER_NAME));        if (list == null || list.size() == 0) {            return;        }        //获取到info列族，name列对应的cell        Cell cell2 = list.get(0);        //通过cell获取数据值        String nameValue = Bytes.toString(CellUtil.cloneValue(cell2));        //创建put对象，将数据插入到proc2表里面去        Put put2 = new Put(rowkey.getBytes());        put2.addColumn(Bytes.toBytes(FAMAILLY_NAME), Bytes.toBytes(QUALIFIER_NAME),  nameValue.getBytes());        table.put(put2);        table.close();    } catch (Exception e1) {        return ;    }}

}

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13
• 14
• 15
• 16
• 17
• 18
• 19
• 20
• 21
• 22
• 23
• 24
• 25
• 26
• 27
• 28
• 29
• 30
• 31
• 32
• 33
• 34
• 35
• 36
• 37
• 38
• 39
• 40
• 41
• 42
• 43
• 44
• 45
• 46
• 47
• 48
• 49
• 50
• 51
• 52
• 53
• 54
• 55
• 56
• 57
• 58
• 59
• 60
• 61
• 62
• 63
• 64
• 65
• 66
• 67

第四步：将项目打成jar包，并上传到HDFS上面

将我们的协处理器打成一个jar包，此处不需要用任何的打包插件即可，然后上传到hdfs

将打好的jar包上传到linux的/export/servers路径下

cd /export/serversmv original-hbase-1.0-SNAPSHOT.jar  processor.jarhdfs dfs -mkdir -p /processorhdfs dfs -put processor.jar /processor 
  
 
  1 
  2 
  3 
  4

第五步：将打好的jar包挂载到proc1表当中去

hbase(main):056:0> describe 'proc1'hbase(main):055:0> alter 'proc1',METHOD => 'table_att','Coprocessor'=>'hdfs://node01:8020/processor/processor.jar|cn.itcast.hbasemr.demo4.MyProcessor|1001|' 
  
 
  1 
  2

再次查看’proc1’表，

hbase(main):043:0> describe ‘proc1’ 可以查看到我们的卸载器已经加载了

第六步：proc1表当中添加数据

进入hbase-shell客户端，然后直接执行以下命令向proc1表当中添加数据

put 'proc1','0001','info:name','zhangsan'put 'proc1','0001','info:age','28'put 'proc1','0002','info:name','lisi'put 'proc1','0002','info:age','25' 
  
 
  1 
  2 
  3 
  4

向proc1表当中添加数据，然后通过

scan ‘proc2’ 我们会发现，proc2表当中也插入了数据，并且只有info列族，name列

注意：如果需要卸载我们的协处理器，那么进入hbase的shell命令行，执行以下命令即可

disable 'proc1'alter 'proc1',METHOD=>'table_att_unset',NAME=>'coprocessor$1'enable 'proc1' 
  
 
  1 
  2 
  3

18、HBase当中的二级索引的基本介绍

由于HBase的查询比较弱，如果需要实现类似于 select name,salary,count(1),max(salary) from user group by name,salary order by salary 等这样的复杂性的统计需求，基本上不可能，或者说比较困难，所以我们在使用HBase的时候，一般都会借助二级索引的方案来进行实现

HBase的一级索引就是rowkey，我们只能通过rowkey进行检索。如果我们相对hbase里面列族的列列进行一些组合查询，就需要采用HBase的二级索引方案来进行多条件的查询。

1. MapReduce方案
2. ITHBASE（Indexed-Transanctional HBase）方案
3. IHBASE（Index HBase）方案
4. Hbase Coprocessor(协处理器)方案
5. Solr+hbase方案
6. CCIndex（complementalclustering index）方案
   常见的二级索引我们一般可以借助各种其他的方式来实现，例如Phoenix或者solr或者ES等

20、HBase调优

1、通用优化

1、NameNode的元数据备份使用SSD

2、定时备份NameNode上的元数据，每小时或者每天备份，如果数据极其重要，可以5~10分钟备份一次。备份可以通过定时任务复制元数据目录即可。 3、为NameNode指定多个元数据目录，使用dfs.name.dir或者dfs.namenode.name.dir指定。一个指定本地磁盘，一个指定网络磁盘。这样可以提供元数据的冗余和健壮性，以免发生故障。 4、设置dfs.namenode.name.dir.restore为true，允许尝试恢复之前失败的dfs.namenode.name.dir目录，在创建checkpoint时做此尝试，如果设置了多个磁盘，建议允许。 5、NameNode节点必须配置为RAID1（镜像盘）结构。 6、补充：什么是Raid0、Raid0+1、Raid1、Raid5

Standalone

最普遍的单磁盘储存方式。

Cluster

集群储存是通过将数据分布到集群中各节点的存储方式,提供单一的使用接口与界面,使用户可以方便地对所有数据进行统一使用与管理。

Hot swap

用户可以再不关闭系统,不切断电源的情况下取出和更换硬盘,提高系统的恢复能力、拓展性和灵活性。

Raid0

Raid0是所有raid中存储性能最强的阵列形式。其工作原理就是在多个磁盘上分散存取连续的数据,这样,当需要存取数据是多个磁盘可以并排执行,每个磁盘执行属于它自己的那部分数据请求,显著提高磁盘整体存取性能。但是不具备容错能力,适用于低成本、低可靠性的台式系统。

Raid1

又称镜像盘,把一个磁盘的数据镜像到另一个磁盘上,采用镜像容错来提高可靠性,具有raid中最高的数据冗余能力。存数据时会将数据同时写入镜像盘内,读取数据则只从工作盘读出。发生故障时,系统将从镜像盘读取数据,然后再恢复工作盘正确数据。这种阵列方式可靠性极高,但是其容量会减去一半。广泛用于数据要求极严的应用场合,如商业金融、档案管理等领域。只允许一颗硬盘出故障。

Raid0+1

将Raid0和Raid1技术结合在一起,兼顾两者的优势。在数据得到保障的同时,还能提供较强的存储性能。不过至少要求4个或以上的硬盘，但也只允许一个磁盘出错。是一种三高技术。

Raid5

Raid5可以看成是Raid0+1的低成本方案。采用循环偶校验独立存取的阵列方式。将数据和相对应的奇偶校验信息分布存储到组成RAID5的各个磁盘上。当其中一个磁盘数据发生损坏后,利用剩下的磁盘和相应的奇偶校验信息 重新恢复/生成丢失的数据而不影响数据的可用性。至少需要3个或以上的硬盘。适用于大数据量的操作。成本稍高、储存性强、可靠性强的阵列方式。 RAID还有其他方式，请自行查阅。 7、保持NameNode日志目录有足够的空间，这些日志有助于帮助你发现问题。 8、因为Hadoop是IO密集型框架，所以尽量提升存储的速度和吞吐量（类似位宽）。

2、Linux优化

1、开启文件系统的预读缓存可以提高读取速度

$ sudo blockdev --setra 32768 /dev/sda （尖叫提示：ra是readahead的缩写） 2、关闭进程睡眠池 $ sudo sysctl -w vm.swappiness=0 3、调整ulimit上限，默认值为比较小的数字 $ ulimit -n 查看允许最大进程数 $ ulimit -u 查看允许打开最大文件数 修改： $ sudo vi /etc/security/limits.conf 修改打开文件数限制 末尾添加：

*                soft    nofile          1024000*                hard    nofile          1024000Hive             -       nofile          1024000hive             -       nproc           1024000  
  
 
  1 
  2 
  3 
  4

$ sudo vi /etc/security/limits.d/20-nproc.conf 修改用户打开进程数限制

修改为：

#*          soft    nproc     4096#root       soft    nproc     unlimited*          soft    nproc     40960root       soft    nproc     unlimited 
  
 
  1 
  2 
  3 
  4

4、开启集群的时间同步NTP，请参看之前文档

5、更新系统补丁（尖叫提示：更新补丁前，请先测试新版本补丁对集群节点的兼容性）

3、HDFS优化（hdfs-site.xml）

1、保证RPC调用会有较多的线程数

属性：dfs.namenode.handler.count 解释：该属性是NameNode服务默认线程数，的默认值是10，根据机器的可用内存可以调整为50~100

属性：dfs.datanode.handler.count

解释：该属性默认值为10，是DataNode的处理线程数，如果HDFS客户端程序读写请求比较多，可以调高到15_{20，设置的值越大，内存消耗越多，不要调整的过高，一般业务中，5}10即可。 2、副本数的调整 属性：dfs.replication 解释：如果数据量巨大，且不是非常之重要，可以调整为2_{3，如果数据非常之重要，可以调整为3}5。

3.、文件块大小的调整

属性：dfs.blocksize 解释：块大小定义，该属性应该根据存储的大量的单个文件大小来设置，如果大量的单个文件都小于100M，建议设置成64M块大小，对于大于100M或者达到GB的这种情况，建议设置成256M，一般设置范围波动在64M~256M之间。

4、MapReduce优化（mapred-site.xml）

1、Job任务服务线程数调整

mapreduce.jobtracker.handler.count 该属性是Job任务线程数，默认值是10，根据机器的可用内存可以调整为50~100 2、Http服务器工作线程数 属性：mapreduce.tasktracker.http.threads 解释：定义HTTP服务器工作线程数，默认值为40，对于大集群可以调整到80~100 3、文件排序合并优化 属性：mapreduce.task.io.sort.factor 解释：文件排序时同时合并的数据流的数量，这也定义了同时打开文件的个数，默认值为10，如果调高该参数，可以明显减少磁盘IO，即减少文件读取的次数。 4、设置任务并发 属性：mapreduce.map.speculative 解释：该属性可以设置任务是否可以并发执行，如果任务多而小，该属性设置为true可以明显加快任务执行效率，但是对于延迟非常高的任务，建议改为false，这就类似于迅雷下载。 5、MR输出数据的压缩 属性：mapreduce.map.output.compress、mapreduce.output.fileoutputformat.compress 解释：对于大集群而言，建议设置Map-Reduce的输出为压缩的数据，而对于小集群，则不需要。 6、优化Mapper和Reducer的个数 属性： mapreduce.tasktracker.map.tasks.maximum mapreduce.tasktracker.reduce.tasks.maximum 解释：以上两个属性分别为一个单独的Job任务可以同时运行的Map和Reduce的数量。 设置上面两个参数时，需要考虑CPU核数、磁盘和内存容量。假设一个8核的CPU，业务内容非常消耗CPU，那么可以设置map数量为4，如果该业务不是特别消耗CPU类型的，那么可以设置map数量为40，reduce数量为20。这些参数的值修改完成之后，一定要观察是否有较长等待的任务，如果有的话，可以减少数量以加快任务执行，如果设置一个很大的值，会引起大量的上下文切换，以及内存与磁盘之间的数据交换，这里没有标准的配置数值，需要根据业务和硬件配置以及经验来做出选择。

在同一时刻，不要同时运行太多的MapReduce，这样会消耗过多的内存，任务会执行的非常缓慢，我们需要根据CPU核数，内存容量设置一个MR任务并发的最大值，使固定数据量的任务完全加载到内存中，避免频繁的内存和磁盘数据交换，从而降低磁盘IO，提高性能。

大概配比： CPU CORE MEM（GB） Map Reduce 1 1 1 1 1 5 1 1 4 5 1~4 2 16 32 16 8 16 64 16 8 24 64 24 12 24 128 24 12

大概估算公式：

map = 2 + ⅔cpu_core reduce = 2 + ⅓cpu_core

5、HBase优化

1、在HDFS的文件中追加内容

不是不允许追加内容么？没错，请看背景故事： 属性：dfs.support.append 文件：hdfs-site.xml、hbase-site.xml 解释：开启HDFS追加同步，可以优秀的配合HBase的数据同步和持久化。默认值为true。

2、优化DataNode允许的最大文件打开数

属性：dfs.datanode.max.transfer.threads 文件：hdfs-site.xml 解释：HBase一般都会同一时间操作大量的文件，根据集群的数量和规模以及数据动作，设置为4096或者更高。默认值：4096 3、优化延迟高的数据操作的等待时间 属性：dfs.image.transfer.timeout 文件：hdfs-site.xml 解释：如果对于某一次数据操作来讲，延迟非常高，socket需要等待更长的时间，建议把该值设置为更大的值（默认60000毫秒），以确保socket不会被timeout掉。 4、优化数据的写入效率 属性： mapreduce.map.output.compress mapreduce.map.output.compress.codec 文件：mapred-site.xml 解释：开启这两个数据可以大大提高文件的写入效率，减少写入时间。第一个属性值修改为true，第二个属性值修改为：org.apache.hadoop.io.compress.GzipCodec 5、优化DataNode存储 属性：dfs.datanode.failed.volumes.tolerated 文件：hdfs-site.xml 解释：默认为0，意思是当DataNode中有一个磁盘出现故障，则会认为该DataNode shutdown了。如果修改为1，则一个磁盘出现故障时，数据会被复制到其他正常的DataNode上，当前的DataNode继续工作。 6、设置RPC监听数量 属性：hbase.regionserver.handler.count 文件：hbase-site.xml 解释：默认值为30，用于指定RPC监听的数量，可以根据客户端的请求数进行调整，读写请求较多时，增加此值。 7、优化HStore文件大小 属性：hbase.hregion.max.filesize 文件：hbase-site.xml 解释：默认值10737418240（10GB），如果需要运行HBase的MR任务，可以减小此值，因为一个region对应一个map任务，如果单个region过大，会导致map任务执行时间过长。该值的意思就是，如果HFile的大小达到这个数值，则这个region会被切分为两个Hfile。 8、优化hbase客户端缓存 属性：hbase.client.write.buffer 文件：hbase-site.xml 解释：用于指定HBase客户端缓存，增大该值可以减少RPC调用次数，但是会消耗更多内存，反之则反之。一般我们需要设定一定的缓存大小，以达到减少RPC次数的目的。 9、指定scan.next扫描HBase所获取的行数 属性：hbase.client.scanner.caching 文件：hbase-site.xml 解释：用于指定scan.next方法获取的默认行数，值越大，消耗内存越大。

6、内存优化

HBase操作过程中需要大量的内存开销，毕竟Table是可以缓存在内存中的，一般会分配整个可用内存的70%给HBase的Java堆。但是不建议分配非常大的堆内存，因为GC过程持续太久会导致RegionServer处于长期不可用状态，一般16~48G内存就可以了，如果因为框架占用内存过高导致系统内存不足，框架一样会被系统服务拖死。

7、JVM优化

涉及文件：hbase-env.sh

1、并行GC 参数：-XX:+UseParallelGC 解释：开启并行GC 2、同时处理垃圾回收的线程数 参数：-XX:ParallelGCThreads=cpu_core – 1 解释：该属性设置了同时处理垃圾回收的线程数。 3、禁用手动GC 参数：-XX:DisableExplicitGC 解释：防止开发人员手动调用GC

8、Zookeeper优化

1、优化Zookeeper会话超时时间

参数：zookeeper.session.timeout 文件：hbase-site.xml 解释：In hbase-site.xml, set zookeeper.session.timeout to 30 seconds or less to bound failure detection (20-30 seconds is a good start).该值会直接关系到master发现服务器宕机的最大周期，默认值为30秒，如果该值过小，会在HBase在写入大量数据发生而GC时，导致RegionServer短暂的不可用，从而没有向ZK发送心跳包，最终导致认为从节点shutdown。一般20台左右的集群需要配置5台zookeeper。

转载地址：https://blog.csdn.net/wyfsxs/article/details/107761565 如侵犯您的版权，请留言回复原文章的地址，我们会给您删除此文章，给您带来不便请您谅解！