设为首页 收藏本站
查看: 1287|回复: 0

[经验分享] Hadoop伪分布安装详解(四)

[复制链接]

尚未签到

发表于 2017-12-17 15:16:11 | 显示全部楼层 |阅读模式
  目录:
  1.修改主机名和用户名
  2.配置静态IP地址
  3.配置SSH无密码连接
  4.安装JDK1.7
  5.配置Hadoop
  6.安装Mysql
  7.安装Hive
  8.安装Hbase
  9.安装Sqoop
  ********************
  为什么要安装Mysql?  因为Hive的元数据和数据是分开存放的,数据存放在HDFS中,元数据默认存储在Derby数据库中。
  但是由于Derby数据库只支持同时一个用户访问Hive,因此将数据库的配置更改为Mysql。

6.安装Mysql

 (1)安装Mysql客户端:
  

yum install mysql  


 (2)安装Mysql服务器端:  
  

yum install mysql-server     

yum install mysql-devel  


   (3)查看Mysql的状态 
  

service mysqld status  

DSC0000.png

  

# Mysql启动   service mysqld start  

  
# Mysql停止   service mysqld stop
  


     (4)启动Mysql后,以root用户登录Mysql:
  

   mysql -u root  
mysql
> set PASSWORD  FOR 'root'@'localhost'=PASSWORD('root')  #设置密码root  
mysql
-u root  -p  

DSC0001.png


      (5)创建数据库Hive,用来保存Hive元数据     
  

create  database   hive  

  使用root用户操作hive中所有的表格
  

     GRANT  all  ON  hive.*  TO  root@'neusoft-master'   >
  
flush  
privileges;  

  

select   user,host from mysql.user  

  如下显示:
   DSC0002.png

7.安装Hive

(1) 下载hive的安装包,并传到centos系统中,在对应目录解压即可
  

tar  -zxvf  /opt/hive-1.1.0-cdh5.6.0.tar.gz  


(2)修改hive的配置文件/opt/hive-1.1.0-cdh5.6.0/conf,在conf目录下创建hive-site.xml
  

[iyunv@neusoft-master conf]# cd /opt/hive-1.1.0-cdh5.6.0/conf/  
[iyunv@neusoft-master conf]# ll
  
total 20
  
-rw-r--r-- 1 1106  592 1139 Jan 29  2016 beeline-log4j.properties.template
  
-rw-r--r-- 1 1106  592 2459 Jan  6 21:09 hive-env.sh
  
-rw-r--r-- 1 1106  592 2662 Jan 29  2016 hive-exec-log4j.properties.template
  
-rw-r--r-- 1 1106  592 3505 Jan 29  2016 hive-log4j.properties.template
  
-rw-r--r-- 1 root root  740 Jan  6 21:36 hive-site.xml
  
[iyunv@neusoft-master conf]# cat hive-site.xml
  
<?xml version="1.0"?>
  
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
  
<configuration>
  
<property>
  
<name>hive.metastore.local</name>
  
<value>true</value>
  
</property>
  
<property>
  
<name>javax.jdo.option.ConnectionURL</name>
  
<value>jdbc:mysql://neusoft-master:3306/hive?createDatabaseIfNotExist=true</value>
  
</property>
  
<property>
  
<name>javax.jdo.option.ConnectionDriverName</name>
  
<value>com.mysql.jdbc.Driver</value>
  
</property>
  
<property>
  
<name>javax.jdo.option.ConnectionUserName</name>
  
<value>root</value>
  
</property>
  
<property>
  
<name>javax.jdo.option.ConnectionPassword</name>
  
<value>hivepwd</value>
  
</property>
  
</configuration>
  

  

  如图:
   DSC0003.png

   (3)配置hive-env.sh
  由于hive压缩包中只有hive-env.sh.template文件,因此需要复制一份文件并更改为hive-env.sh,如下命令:
  

cp hive-env.sh.template hive-env.sh  

[iyunv@neusoft-master conf]# vi  hive-env.sh

  

export JAVA_HOME=/usr/java/default  
export HADOOP_HOME
=/opt/hadoop-2.6.0-cdh5.6.0  

DSC0004.png


   (4)移动jar包到hive的lib目录下
  将Mysql的JDBC驱动jar包移动到hive-1.1.0-cdh5.6.0/lib下,否则hive不能成功连接mysql
  JDBC的jar包应选择相应版本,如:mysql-connector-5.1.30.jar,这里不是下载mysql安装包,而是找到mysql启动包放进lib目录下。

 (5)环境变量配置   
  

vi  /etc/profile   #更改如下  

export HIVE_HOME=/opt/hive-1.1.0-cdh5.6.0  
export PATH=$JAVA_HOME/bin/:$PATH:$HADOOP_HOME/bin:$HIVE_HOME/bin
  

  

DSC0005.png

  source  /etc/profile  #环境变量生效

  (6)验证安装
  首先启动Hadoop和Mysql,在执行Hive
  执行创建表结构:create  table  test(id int);
  执行含有mapreduce的查询
DSC0006.png

  补充:如果用户通过SecureCRT链接虚拟机,则会出现进入hive命令行后无法使用退格键的情况?
  详细描述: 通过SecureCRT连接服务器,使用Hive时,不能用Backspace或delete时
              解决方案:在选项里面有个会话选项--终端---仿真选项里面终端选择linux即可。
  END~
  

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-425041-1-1.html 上篇帖子: 大数据的开始:安装hadoop 下篇帖子: Ubuntu下hadoop集群搭建
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表