设为首页 收藏本站
查看: 431|回复: 0

[经验分享] HBase – 基于Hadoop的分布式数据库

[复制链接]

尚未签到

发表于 2016-12-11 07:32:02 | 显示全部楼层 |阅读模式
wget http://mirrors.cnnic.cn/apache/zookeeper/zookeeper-3.4.5/zookeeper-3.4.5.tar.gz
tar -xzvf zookeeper-3.4.5.tar.gz
cd zookeeper-3.4.5
cp conf/zoo_sample.cfg conf/zoo.cfg
vi conf/zoo.cfg
  
修改:dataDir=/home/ysc/zookeeper
  
添加:
       server.1=host001:2888:3888

maxClientCnxns=100
mkdir /home/ysc/zookeeper注:dataDirzookeeper的数据目录,需要手动创建
echo 1 > /home/ysc/zookeeper/myid
启动服务:
bin/zkServer.sh start
连接服务:
bin/zkCli.sh -server host001:2181
查看服务状态:
bin/zkServer.sh status
 
hbase存在系统时间同步的问题,并且误差要再30s以内
sudo apt-get install ntp
sudo ntpdate -u 210.72.145.44

HBase是数据库,会在同一时间使用很多的文件句柄,大多数linux系统使用的默认值1024是不能满足的,还需要修改 hbase 用户的nproc,在压力很大的情况下,如果过低会造成 OutOfMemoryError异常
sudo vi /etc/security/limits.conf
添加:
   ysc soft nproc 32000
   ysc hard nproc 32000
   ysc soft nofile 32768
   ysc hard nofile 32768

sudo vi /etc/pam.d/common-session
添加:
   session required  pam_limits.so

 
wget http://mirrors.hust.edu.cn/apache/hbase/hbase-0.94.12/hbase-0.94.12.tar.gz
tar -xzvf  hbase-0.94.12.tar.gz
cd hbase-0.94.12
vi conf/hbase-env.sh

追加:
  export JAVA_HOME=/home/ysc/jdk1.7.0_40
  export HBASE_MANAGES_ZK=false
  export HBASE_HEAPSIZE=1000

vi conf/hbase-site.xml
加入:
 <property> 
  <name>hbase.rootdir</name> 
  <value>hdfs://host001:9000/hbase</value>    
 </property>
 <property> 
  <name>hbase.cluster.distributed</name> 
  <value>true</value> 
 </property> 
 <property>  
  <name>hbase.zookeeper.quorum</name>       
  <value>host001</value>  
 </property>
vi conf/regionservers
localhosthost001
因为HBase建立在Hadoop之上,Hadoop使用的hadoop*.jarHBase使用的必须一致。所以要将 HBase lib目录下的hadoop*.jar替换成Hadoop里面的那个,防止版本冲突。
cp  /home/ysc/hadoop-1.2.1/hadoop-core-1.2.1.jar  /home/ysc/hbase-0.94.12/lib
rm  /home/ysc/hbase-0.94.12/lib/hadoop-core-1.0.4.jar
启动hadoop并创建目录
hadoop fs -mkdir /hbase

sudo vi /etc/profile
增加:
export PATH=$PATH:/home/ysc/hbase-0.94.12/bin
source /etc/profile
启动初始 HBase 集群:
start-hbase.sh
web界面
  http://host001:60010
  http://host001:60030

停止HBase 集群:
stop-hbase.sh
启动额外备份主服务器,可以启动到 9 个备份服务器(总数10 )
local-master-backup.sh start 1
local-master-backup.sh start 2 3
启动更多regionservers, 支持到99 个额外regionservers(100)
local-regionservers.sh start 1
local-regionservers.sh start 2 3 4 5
停止备份主服务器:
cat /tmp/hbase-ysc-1-master.pid | xargs kill -9
停止单独regionserver
local-regionservers.sh stop 1
使用HBase命令行模式:
hbaseshell
 
命令演示:
创建表Person,列族basicdetail
create 'Person', 'basic', 'detail'
看有哪些表:
list
看是否有person表:
list 'person'
增加数据,动态增加列:
数据1
put 'Person','533001198510125838', 'basic:idcard', '533001198510125838'
put 'Person', '533001198510125838','basic:name', '章子怡'
put 'Person','533001198510125838', 'detail:age', '25'
数据2
put 'Person', '533001198510125837','basic:idcard', '533001198510125837'
put 'Person','533001198510125837', 'basic:name', '杨尚川'
put 'Person','533001198510125837', 'detail:age', '22'
查询整条数据:
get 'Person','533001198510125838'
get 'Person','533001198510125837'
查询单列数据:
get 'Person', '533001198510125837','basic:idcard'
查询多列数据:
get 'Person', '533001198510125837','basic:idcard', 'detail:age'
查询全部数据:
scan 'Person'
删除表:
disable 'Person'
drop 'Person'

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-312476-1-1.html 上篇帖子: hadoop的FileSystem 文件系统实现上传下载文件 下篇帖子: Hadoop 2.2.0版本HDFS的HA配置
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表