设为首页 收藏本站
查看: 1096|回复: 0

[经验分享] Hadoop+hive 集群安装部署 (三)

[复制链接]

尚未签到

发表于 2018-10-31 12:50:23 | 显示全部楼层 |阅读模式
  这节我来介绍在hadoop集群里如何安装hive,
  hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。
  版本:
  hive-0.9.0
  安装很简单,只需将下载的包放到相应的目录下,主要是配置文件的配置:
  1  hive-env.sh
  在最后加上以下几行:
  export PATH=$PATH:/home/hadoop/hive-0.9.0/bin
  export HADOOP_HOME=/home/hadoop/hadoop
  export HIVE_HOME=/home/hadoop/hive-0.9.0
  export JAVA_HOME=/usr/local/java/jdk1.6.0_24
  2  hive-site.xml  (hive 的元数据放到了远程Mysql数据库中,如果不这样做,那么hive可能不支持并发)
  
  
  javax.jdo.option.ConnectionURL
  jdbc:mysql://10.129.8.50:3306/hive?characterEncoding=UTF-8
  JDBC connect string for a JDBC metastore
  
  
  javax.jdo.option.ConnectionDriverName
  com.mysql.jdbc.Driver

  Driver>  
  
  javax.jdo.option.ConnectionUserName
  hive
  username to use against metastore database
  
  
  javax.jdo.option.ConnectionPassword
  000000
  password to use against metastore database
  
  
  hive.metastore.uris
  thrift://master:50000
  
  
  hive.hwi.war.file
  lib/hive-hwi-0.9.0.war

  This sets the path to the HWI war file,>  
  
  hive.hwi.listen.host
  0.0.0.0
  This is the host address the Hive Web Interface will listen on
  
  
  hive.hwi.listen.port
  9999
  This is the port the Hive Web Interface will listen on
  
  
  hive.metastore.warehouse.dir
  /home/hive/warehouise
  location of default database for the warehouse
  
  
  hive.exec.scratchdir
  /home/tmp/hive-${user.name}
  Scratch space for Hive jobs
  
  
  hive.metastore.uris
  thrift://master:5000
  
  3 nohup /home/hadoop/hive-0.9.0/bin/hive --service hiveserver &  后台启动hive 默认监听的端口是10000
  4  /home/hadoop/hive-0.9.0/bin/hive 可以进入到hive的命令行模式中,
  直接执行相应的hql语句,
  注意:有时候启动的时候报错,需要把hadoop的安装路径下的build 目录重命名掉,这应该是一个bug
  下一节讲实际点的,利用hadoop 和hive python 来分析iis日志,最后将分析出来的日志存入到hive中


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-628992-1-1.html 上篇帖子: hadoop实战二 单机部署1 下篇帖子: hadoop +hive 结构化分析advanceiislog日志
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表