设为首页 收藏本站
查看: 1317|回复: 0

[经验分享] Hadoop伪分布安装详解(五)

[复制链接]

尚未签到

发表于 2017-12-17 19:45:11 | 显示全部楼层 |阅读模式
  目录:
  1.修改主机名和用户名
  2.配置静态IP地址
  3.配置SSH无密码连接
  4.安装JDK1.7
  5.配置Hadoop
  6.安装Mysql
  7.安装Hive
  8.安装Hbase
  9.安装Sqoop
  ********************

8.安装Hbase
  HBase是基于HDFS的一种列式数据库,接下来使用伪分布式的安装方式。
  (1)将/opt/hbase-1.0.0-cdh5.6.0.tar.gz解压
  

tar  -zxvf  /opt/hbase-1.0.0-cdh5.6.0.tar.gz  

  (2) 配置Hbase相关配置文件,在其conf目录下可查看所有配置文件,如下图:
DSC0000.png

  打开hbase-env.sh
[iyunv@neusoft-master conf]# vi  hbase-env.sh   



  •     #这里同时需要注释掉与zookeeper相关配置,在这里使用自带的Zookeeper。不使用单独的zookeeper。一般在文件中已经作了注释,无需修改该配置文件。
  •     #在文件末尾追加JAVA_HOME和HBASE_MANAGERS的配置信息
  

export JAVA_HOME=/usr/java/default  
export HBASE_MANAGES_ZK
=true     #表示使用自带的zookeeper  

DSC0001.png

  (3)配置regionservers
[iyunv@neusoft-master conf]# vi regionservers  

DSC0002.png

  该配置选项为当Hbase启动的时候,Hreginserver进程是根据conf/regionserver文件中的节点来启动的,因此,这里需要根据自己的主机名进行填写。
  (4)配置hbase-site.xml
  

<configuration>  
<property>
  
<name>hbase.rootdir</name>
  
<value>hdfs://neusoft-master:9000/hbase</value>
  
</property>
  
<property>
  
<name>hbase.cluster.distributed</name>
  
<value>true</value>   true表示运行模式为完全分布式模式,如果是伪分布更改爲false
  
</property>
  

  
</configuration>
  

DSC0003.png

  (4)配置环境变量 vi /etc/profile
  

export HBASE_HOME=/opt/hbase-1.0.0-cdh5.6.0  
export PATH
=$JAVA_HOME/bin/:$PATH:$HADOOP_HOME/bin:$HIVE_HOME/bin:$HBASE_HOME/bin:$SQOOP_HOME/bin  

DSC0004.png    

  

source  /etc/profile  #配置生效  

  (5)启动并验证
  (a)首先启动Hadoop
  

[iyunv@neusoft-master ~]# cd /opt/hadoop-2.6.0-cdh5.6.0/sbin/  
[iyunv@neusoft
-master sbin]# ./start-all.sh   

  检验hadoop启动是否成功
   DSC0005.png
  (b)启动Hbase进程
  

[iyunv@neusoft-master bin]# chmod +x /opt/hbase-1.0.0-cdh5.6.0/bin/start-hbase.sh   #启动文件赋权限  
[iyunv@neusoft
-master bin]# ./opt/hbase-1.0.0-cdh5.6.0/bin/start-hbase.sh   #启动hbase进程  

  使用jps进程查看是否有如下进程


  • HMaster              #Hbase的配置节点。默认在start-habse.sh启动时启动。
  • HregionServer    #该配置选项为当Hbase启动的时候,Hreginserver进程是根据conf/regionserver文件中的节点来启动的。
  • HQuorumpeer     #该进程为Zookeeper进程
DSC0006.png

  (c)进入Hbase命令行模式
  

[iyunv@neusoft-master conf]# hbase  shell  

DSC0007.png

  注意:安装完HBase,需要采用NTP时间同步服务器使得各节点时间一致,否则有了误差,Hbase会启动失败。
DSC0008.png


9.安装Sqoop
  Sqoop是一个从关系型数据库抽取到Hadoop中,用于进一步处理数据。
  (1)将/opt/sqoop-1.4.6-cdh5.6.0.tar.gz解压
  

tar -zxvf   /opt/sqoop-1.4.6-cdh5.6.0.tar.gz  

  (2)[iyunv@neusoft-master bin]# vi /etc/profile
  

export SQOOP_HOME=/opt/sqoop-1.4.6-cdh5.6.0  
export PATH
=$JAVA_HOME/bin/:$PATH:$HADOOP_HOME/bin:$HIVE_HOME/bin:$HBASE_HOME/bin:$SQOOP_HOME/bin  

  使得环境变量生效
  

source  /etc/profile  #使得环境变量生效  

  (3)进入mysql执行以下
  mysql>grant all privileges on  *.* to 'sqoop'@'neusoft-master'>
  mysql>select host,user,password  from mysql.user
  mysql>flush privileges;
  mysql>create database sqoop;
  mysql>use sqoop;
  mysql>create table test(id int,name varchar(20),age int)
  mysql>insert into test(1,'tag',20)
  如果上述语句出错,插入语句可直接指定具体字段:mysql>insert into test(id,name,age) values(1,'tag',20)
  (4)linux命令行中执行下述sqoop代码:
  

sqoop  list-databases  --connect  jdbc:mysql://neusoft-master:3306/  --username  sqoop  --password  sqooppwd  



  • 执行完后,即可显示MySql数据库中所有实例:
  hive
  mysql
  sqoop
  test
  END~

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-425122-1-1.html 上篇帖子: 基于金山云平台的Hadoop集群部署(二) 下篇帖子: 搭建hadoop、hdfs环境
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表