设为首页 收藏本站
查看: 2029|回复: 0

[经验分享] CDH安装Hadoop

[复制链接]

尚未签到

发表于 2015-7-14 07:40:50 | 显示全部楼层 |阅读模式
  一.安装CDH-manager
  1.关闭selinux
  修改/etc/selinux/config 文件
  将SELINUX=enforcing改为SELINUX=disabled


重启机器即可



2.修改bin文件的运行权限,运行bin文件后,进入安装cdh-manager的安装界面



如果直接安装,cdh-manager会去archive.cloudera.com下载安装包,这样会很慢,所以最好在内网搭一个下载源,做个host

echo '192.168.8.XX archive.cloudera.com' >> /etc/hosts

每一步安装的日志会保存在  /var/log/cloudera-manager-installer/目录



3.设置全部机器的hostname,并关闭iptable  /etc/init.d/iptables stop

我的集群情况




192.168.15.115  nn.hadoop.com
192.168.15.99 dn1.hadoop.com
192.168.15.162 dn2.hadoop.com
  


3.安装成功后,就在浏览器输入http://192.168.15.115:7180/,账号密码都是admin,

然后输入这三台机的ip



搜索结果



选择安装包





这里如果选择Parcel包安装,会卡在下载Parcel的步骤,不知道为什么,可能还是因为网络原因,需要去官网下载parcel包,这肯定会很慢

进入安装界面



在这一步一般会遇到比较多问题:

1.显示 获取XXX资源error,主要原因是访问cdh的官网会比较慢,而且下载的包一般都比较大,一共要下载2G左右,所以如果没有内部的源来下载,去官网下载的话,失败的几率很大

2.报错:


安装失败。 无法接收 Agent 发出的检测信号。
请确保主机的名称已正确配置。
请确保端口 7182 可在 Cloudera Manager Server 上访问(检查防火墙规则)。
请确保正在添加的主机上的端口 9000 和 9001 空闲。
检查正在添加的主机上 /var/log/cloudera-scm-agent/ 中的代理日志(某些日志可在安装详细信息中找到)。
  原因是/etc/hosts 里面配置的ip hosts设置错误,ip和host不对应
  3.yum安装某个包的时候失败,报由于XXX包依赖于XXX包导致安装失败的错误,最后我把所有虚拟机都还原,重新安装cdh了~~~~~
  安装完成后,选择启动所有的服务

  添加所有服务
  后面连接Report Manager时数据库的时候可能会报错Unknown host ':7432'. Unable to find it from host.
  解决方法:



用netstat查看 7432端口状态 如果监听的主键为localhost 就修改
/var/lib/cloudera-scm-server-db/data/ 里面的postgres.conf,的listen_address为'*',然后/etc/init.d/cloudera-scm-server-db.sh restart重启
页面上数据库主机名称那一栏加上域名,例如nn.hadoop.com:7432
  启动服务时如果


卡住了hive的启动,报错'Hive Metastore Database Host' is required when using database type 'postgresql'

需要在cdh的页面里面修改hive的配置,把Metastore的主机名改成是nn.hadoop.com



如果重启机器,需要手动启动cdh-agent

/etc/init.d/cloudera-scm-agent start



如果报时钟偏差,启动所有机器的ntpd服务

/etc/init.d/ntpd start  
  
  搭建内部源:
  用 wget -c -r -np -k -L -p http://archive.cloudera.com/cdh5/redhat/6/x86_64/cdh/5.0.0/
  把所有文件下载下来,然后用nginx做一个静态资源服务器

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-86345-1-1.html 上篇帖子: 面向生产环境的大集群模式安装Hadoop 下篇帖子: 错误 :(hadoop)could only be replicated to 0 nodes, instead of 1
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表