设为首页 收藏本站
查看: 1226|回复: 0

[经验分享] Hadoop集群的hbase介绍、搭建、环境、安装

[复制链接]

尚未签到

发表于 2017-12-18 07:54:32 | 显示全部楼层 |阅读模式
  1、hbase的介绍(自行百度hbase,比我总结的全面具体)
  HBase – Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。
  HBase是Google Bigtable的开源实现,类似Google Bigtable利用GFS作为其文件存储系统,HBase利用Hadoop HDFS作为其文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable利用 Chubby作为协同服务。
  2、搭建hbase的环境准备
  1.jdk的1.7以上版本
  2.前提zookper集群和HDFS集群
  保证HDFS的namenode和datanode启动,也就是zookeeper出现QuorumPeerMain的leader和follower
  3.安装hbase(今天的主题,理论知识太多也没用!!!)
  3.1下载HBase安装包(hbase.apache.org)
  我一般都是下载到window10里,在用Xftp传到JVM里的tmp目录下,安装到我JVM对相应的/usr/local路径下
  tar -zxvf hbase-1.2.6-bin.tar.gz -C /usr/local/
  然后进入我的local目录   cd /usr/local/
  重命名    mv hbase-1.2.6/ hbase
  我通常会把软件的docs删了,当搭建集群时会拷贝整个hbase,docs装的API在虚拟机里我们几乎不需要。
  cd hbase                删除docs :rm -rf docs/
  3.2修改环境变量
  3.2.1 使用 vim /etc/profile命令修改系统环境变量(当你是普通用户时 sudo  vim /etc/profile)
  #hbase
  export HBASE_HOME=/usr/local/hbase
  export PATH=$PATH:$HBASE_HOME/bin
  保存后source /etc/profile应用下
  3.2.2 在修改hbase的环境变量(记住的JAVA_HOME可使用echo $JAVA_HOME查我的路径是/usr/local/java)
  cd  /usr/local/hbase/conf
  vim hbase-env.sh
  export JAVA_HOME=/usr/local/java  #Java环境
  export HBASE_CLASSPATH=/usr/local/hadoop/etc/hadoop  #通过hadoop的配置文件找到hadoop集群(hdfs_site.xml的目录位置)
  export HBASE_MANAGES_ZK=false #不使用HBASE自带的zookeeper管理集群
  3.2.3HBase参数配置:(hbase-site.xml)由于我直接配置的集群变量,可能跟伪集群不大一样。
  <property><!-- 指定HDFS的路径信息 -->
  <name>hbase.rootdir</name>
  <value>hdfs://ns1/hbase</value>
  </property>
  <property><!-- Hbase的运行模式,false单机,true分布式集群 -->
  <name>hbase.cluster.distributed</name>
  <value>true</value>
  </property>
  <property><!-- ZK集群 -->
  <name>hbase.zookeeper.quorum</name>
  <value>zkHost01:2181,zkHost02:2181,zkHost03:2181</value>
  </property>
  <property><!--web ui port-->
  <name>hbase.master.info.port</name>
  <value>60010</value>
  </property>
  3.2.4测试是否启动成功
  zkServer.sh start
  start-dfs.sh
  start-hbase.sh
  jps显示如下
DSC0000.png

  由于我搭的集群的正常还应该有个 DSC0001.png
  ok!!!!!!!!!!!
  4,配置集群的Hbase
  如果你按上述创建完成了我们配置一个集群,克隆机就不用说了吧,搭建HDFS集群略过
  达到的效果是配置2台主机(Hmaster),3个子机(HRegionServer)
  主机分别为HaoopMaster01,HaoopMaster02.子机为HadoopSlave1,HadoopSlave2,HadoopSlave3
  4.1在主机直接配置子机vim /usr/local/hbase/conf/regionservers
  #里面填入子机名或端口号(可在etc下hosts里修改集群名对应端口)
  HadoopSlave1
  HadoopSlave2
  HadoopSlave3
  4.2把你配置好的hbaser通过你的单点机直接复制到其他机器上
  再把第二台主机的环境配好 scp -r /etc/profile HadoopMaster01 :/etc/
  scp -r hbase HadoopMaster01 :/usr/local
  scp -r hbase HadoopSlave1 :/usr/local
  scp -r hbase HadoopSlave2 :/usr/local
  scp -r hbase HadoopSlave3 :/usr/local
  4.3第二台主机需要单启(这台主机是防止一台主机down了,然后自动顶上)
  hbase-daemon.sh start master
  4.4测试
  jps
  这个集群主机的DFSZKFailoverController和ResousrceManager于本次配置无关子机的nodeManager和journalnode无关
  因为我测试之前搭建的yarn和zfkc所以就显示上了(so sorry!)
DSC0002.png

  有什么大数据集群搭建问题可以直接评论我,一起进步吧!!!!

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-425258-1-1.html 上篇帖子: 【3】测试搭建成功的单机hadoop环境 下篇帖子: 远程hadoop集群方法
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表