Hbase 基础

hujh20

　　版权说明：  本文章版权归本人及博客园共同所有，转载请标明原文出处(http://www.cnblogs.com/mikevictor07/)，以下内容为个人理解，仅供参考。
　　
　　一、简介
　　Hbase是在HDFS上开发的面向列的分布式数据库，适用于随机读/写超大规模的数据集（通常这种数据压力传统RDBMS很难承受），可以在廉价的硬件上构成的集群上管理超大规模的稀疏表，并且可以水平扩展。
　　
　　二、基础概念
　　1、Hbase把数据存放在表中，表由行列组成，表中的行是排序的（根据ASCII顺序），行键作为表的主键，对表的数据访问需要通过主键或者主键Range，故行键的设计很重要。
　　2、列由“列族”组成（即对列分类），不同列族的数据通常放在不同的文件夹里，列族不宜过多，Hbase启动时就打开数据文件，并且一直保持打开状态（Linux 默认一个进程打开最大文件数为1024），不合理的设计将导致异常。定义表时必须定义一个可用的列族，用户可根据需要增加或删除列族，但是必须先disable。
　　3、Hbase为master/slave结构，依赖于zookeeper，master 管理着多个regionServer。
　　
　　三、安装(standalone)
　　1、必须安装Java 1.6 或者更高版本。
　　2、可用修改~/.base_profile，export JAVA_HOME指向JAVA安装路径，也可修改conf/hbase-env.sh 中 export JAVA_HOME=/usr/java/jdk1.6.0/
　　3、默认情况下，hbase会使用/tmp/hbase-$USERID作为数据存储目录，有些系统重启会清空/tmp目录，可用通过更改hbase-site.xml来配置数据存储目录，如：



<configuration>
<property>
<name>hbase.rootdir</name>
<value>file:///opt/hbase_data</value>
</property>
</configuration>
　　4、修改bin下sh文件执行权限，通过 ./bin/start-hbase.sh即可启动hbase，通过tail -f 监听./log/hbase-root-master-hbase-xx.log来查看启动信息。
　　
　　四、Hbase shell
　　使用 ./bin/hbase shell即可进入管理hbase，使用secureCRT会导致无法删除键入的错误命令(backspace delete键无法使用)，笔者使用putty(v0.62)可正常使用，下面是一些示例：
　　下面以创建一个stations的表，这表的行键是stationid,  列包含info.name（名称）、info.countryCode（站点所属国家代号）
　　1、创建一个表与显示所有表



hbase> create 'stations','info'   --创建一个带有info列族的stations表
hbase> list   --显示当前所有表
　　2、录入数据(如果录入同一行同一列则代表更新)



hbase> put 'stations', '1001', 'info:name', 'HAILAR'    --录入1001为行键、HAILAR为站点名称的记录
hbase> put 'stations', '1001', 'info:countryCode', 'CH'   --CH代表china
　　hbase> put 'stations', '1002', 'info:name', 'NENJIANG'
  hbase> put 'stations', '1002', 'info:countryCode', 'CH'
　　3、读取、删除数据



hbase> scan 'stations'   --读取表中所有数据
hbase> get 'stations','1001'  --得到行键为1001的所有列
hbase> get 'stations','1002','info:name'  --得到行键为1002的info:name列
hbase> delete 'stations','1001','info:countryCode'   --删除1001行的info:countryCode列
　　4、增加/删除列族



hbase> disable 'stations'
hbase> alter 'stations', {NAME=>'data'}   --增加data列族，可以录入以data:作为prefix的列
hbase> enable 'stations'
hbase> describe 'stations'  --列出表结构
---删除列族
hbase> disable 'stations'
hbase> alter 'stations',{NAME=>'data', METHOD=>'delete'}   --删除stations里面的data列族，列族下面的列将被全部删除
　　5、删除表



hbase> disable 'stations'   --需要把表disable
hbase> drop 'stations'
　　通过http://hbase-master:60010/ 可查看hbase状态信息
　　
　　五、Java 客户端
　　基本表的管理与访问，下面方法依赖一个静态变量：



private static String host = "192.168.70.41"; --这里是Master 的地址
　　下面各段代码中有重复部分，关键的在try{}中，可举一反三。
　　1、创建表



/**
* create 'tableName','colFamily'
*/
public static void createTable(String tableName, String colFamily) throws Exception{
Configuration config = HBaseConfiguration.create();
config.set("hbase.zookeeper.quorum", host);
HBaseAdmin hadmin = null;
try {
hadmin = new HBaseAdmin(config);
HTableDescriptor htd = new HTableDescriptor(TableName.valueOf(Bytes.toBytes(tableName)));
HColumnDescriptor hcd = new HColumnDescriptor(colFamily);
htd.addFamily(hcd);
hadmin.createTable(htd);
} catch (Exception e) {
e.printStackTrace();
} finally {
if (hadmin != null)
hadmin.close();
}
}
　　
　　2、列出所有表名



/**
* list
*/
public static void list() throws Exception{
Configuration config = HBaseConfiguration.create();
config.set("hbase.zookeeper.quorum", host);
HBaseAdmin hadmin = null;
try {
hadmin = new HBaseAdmin(config);
HTableDescriptor[] tables = hadmin.listTables();
for (HTableDescriptor table : tables) {
System.out.println(new String(table.getName()));
}
} catch (Exception e) {
e.printStackTrace();
} finally {
if (hadmin != null)
hadmin.close();
}
}
　　
　　3、录入数据



/**
* put 'tableName','row','colFamily:qualifier','value'
*/
public static void put(String tableName,String row, String colFamily, String qualifier, String value) throws Exception {
Configuration config = HBaseConfiguration.create();
config.set("hbase.zookeeper.quorum", host);
HBaseAdmin hadmin = null;
HTable table = null;
try {
table = new HTable(config, tableName);
Put put = new Put(Bytes.toBytes(row));
put.add(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier), Bytes.toBytes(value));
table.put(put);
} catch (Exception e) {
e.printStackTrace();
} finally {
if (table != null)
table.close();
if (hadmin != null)
hadmin.close();
}
}
　　
　　4、获取数据



/**
* get 'tableName', 'row', 'colFamily:qualifier'
*/
public static void get(String tableName,String row, String colFamily, String qualifier) throws Exception {
Configuration config = HBaseConfiguration.create();
config.set("hbase.zookeeper.quorum", host);
HBaseAdmin hadmin = null;
HTable table = null;
try {
table = new HTable(config, tableName);
Get get = new Get(Bytes.toBytes(row));
get.addColumn(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier));
Result result = table.get(get);
String value = Bytes.toString(result.getValue(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier)));
System.out.println(value);
} catch (Exception e) {
e.printStackTrace();
} finally {
if (table != null)
table.close();
if (hadmin != null)
hadmin.close();
}
}
　　
　　5、删除数据



/**
* delete 'tableName', 'row', 'colFamily:qualifier'
*/
public static void delete(String tableName,String row, String colFamily, String qualifier) throws Exception {
Configuration config = HBaseConfiguration.create();
config.set("hbase.zookeeper.quorum", host);
HBaseAdmin hadmin = null;
HTable table = null;
try {
table = new HTable(config, tableName);
Delete delete = new Delete(Bytes.toBytes(row));
delete.deleteColumn(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier));
table.delete(delete);
System.out.println("delete successful");
} catch (Exception e) {
e.printStackTrace();
} finally {
if (table != null)
table.close();
if (hadmin != null)
hadmin.close();
}
}
　　6、扫描全表



/**
* scan 'tableName'
*/
public static void scan(String tableName) throws Exception {
Configuration config = HBaseConfiguration.create();
config.set("hbase.zookeeper.quorum", host);
HBaseAdmin hadmin = null;
HTable table = null;
try {
table = new HTable(config, tableName);
Scan scan = new Scan();
ResultScanner rc = table.getScanner(scan);
for (Result result : rc) {
System.out.println(result);
}
} catch (Exception e) {
e.printStackTrace();
} finally {
if (table != null)
table.close();
if (hadmin != null)
hadmin.close();
}
}