设为首页 收藏本站
查看: 2731|回复: 0

[Cloudstack] Hadoop单机版安装,配置,运行

[复制链接]
累计签到:15 天
连续签到:1 天
发表于 2015-10-14 10:10:00 | 显示全部楼层 |阅读模式
  Hadoop是最近非常流行的东东啦,但是乍一看都觉得是集群的东东,其实在单机版上安装Hadoop也是可以的,并且安装好以后可以很方便的进行程序的调试,调试好程序以后再丢到集群中,放心的算吧,呵呵。。
  本文说的是在ubuntu上hadoop的安装,其他的linux可以类比进行。

安装前的准备

  在安装之前,我们需要准备以下的东西


  • Ubuntu的安装盘,我装的就是桌面吧,你可以选择服务器版,无所谓。
  • 一台空白电脑,当然,你也可以用虚拟机,推荐使用VirtualBox,高端大气上档次,还免费,我正好有台空着的机器,就直接用的机器了。
  • hadoop安装包,选一个快的下载,版本的话,我用的1.2.1,不过差别不大。
  OK,就需要这么些东西,我们开始吧。

安装操作系统

  装系统大家都会,就不说了,Ubuntu现在的安装方法超级简单,不管是在虚拟机下还是在实体机上都很简单,一路next就行了。

创建hadoop用户

  安装好系统,建立一个hadoop用户是必须的,如果你装的是桌面版的ubuntu,估计要使用root密码,创建root密码的方法是

sudo password root

  然后输入你自己的密码,就可以创建root密码了,其实没有root密码也关系不大,因为你的用户已经有root权限了。


  •   创建hadoop用户组

      sudo addgroup hadoop
  •   创建hadoop用户

      sudo adduser -ingroup hadoop hadoop

      就是在hadoop用户组下建立一个hadoop用户,别问我为什么,关于用户组和用户的问题请自己去查linux文档。
  •   给hadoop加上root权限,方便hadoop用户以后的操作。方法就是打开/etc/sudoers文件,然后添加一行hadoop ALL=(ALL:ALL) ALL,就是让hadoop永远root权限,每次要执行权限指令时前面加上sudo就行了。

修改主机名称

  其实在安装ubuntu的时候就可以选择主机名,你要是没有创建的话应该显示的是ubuntu,打开/etc/hostname,把ubuntu改成你想的任何名字,我改的是WuCloud,显得高端点。

安装配置SSH,建立信任链接

  SSH是一个安全的传输协议,可以进行远程登录,搞linux没听过ssh的话,建议不要往下看了。
  一般情况下,安装ubuntu的时候我都会选上ssh,没有选的话,这里安装一下就行了,安装方法很傻瓜

sudo apt-get install openssh-server

  由于hadoop默认是一个集群,所以需要登录各个服务器,就算你是单机的它也会这么干,所以你得配置一个不需要密码的登录环境给hadoop。
  下面的操作,最好登录到hadoop用户下进行。登录方法su hadoop


  •   创建ssh-key

      ssh-keygen -t rsa -P ""

      完了以后将在~/.ssh/目录下生成id_rsa和id_rsa.pub两个文件。确认以后输入:

      cat id_rsa.pub >> authorized_keys

      OK,一切就绪
  •   测试一下,登录一下本机,使用ssh WuCloud或者ssh localhost都行,第一次要输入一个yes,然后退出,再登录,发现不用密码了,OK,这一步完成了。

安装JAVA环境

  这个不用说了吧,你搞hadoop的,没玩过java...呵呵,呵呵,其实我毕业后也没碰过JAVA,搞hadoop我还想用C++呢,不过安装JAVA环境我还是会的,而且,Ubuntu本身自带了OPENJDK环境,也可以用,你要是不想用的话,可以自己安装一个JDK,我用的自带的,没什么问题,话说要是装XenServer和CloudStack的话,原生的OpenJDK就不行,之前装CloudStack就被JDK坑死了。。。
  恩,别跑题,JDK默认目录在/usr/lib/jvm/java-6-openjdk下,如果你自己装的Java环境,目录你自己知道。

安装hadoop

  重头戏来了,终于开始安装Hadoop了,其实Hadoop不用安装,解压就行了,我们拷贝到/usr/local/下解压,显得专业点,当然,你也可以安装到任意目录,没什么区别。

sudo tar -zxvf hadoop-1.2.1.tar.gz

  目录中多了一个hadoop-1.2.1目录,改名成hadoop,mv hadoop-1.2.1 hadoop
  好了,安装好了,简单吧,慢着,还要配置呢。

配置hadoop



  •   将hadoop配置成hadoop用户属性

      sudo chown -R hadoop:hadoop hadoop
  •   修改hadoop/conf/hadoop-env.sh文件,添加环境变量,最文件最后添加:

      export JAVA_HOME=/usr/lib/jvm/java-6-openjdk
    export HADOOP_HOME=/usr/local/hadoop
    export PATH=$PATH:/usr/local/hadoop/bin

      实际上就是添加JAVA环境和HADOOP环境,完成了。
  作为一个单机的hadoop,就配置完成了,也就是你可以开始写程序测试了,当然,hadoop配置还有很多东西,但是到目前为止,作为单机开发,不影响我们使用了。

开始运行吧



  •   第一次运行hadoop,要格式化,不要怕,不会删除你电脑上的任何数据,况且你是虚拟机安装的,删了也没事。

      bin/hadoop namenode -format
  •   启动服务

      bin/start-all.sh
  如果没报错的话,就OK了。。

运行一个测试程序

  在hadoop目录下,hadoop-examples-1.2.1.jar这个是测试程序,里面包含了很多测试用的代码,我们运行一个经典的,wordcout,很多教程都用这个来做说明,我们也不例外。
  由于我们已经格式化了文件系统了,运行一个测试程序可以按照以下步骤进行。


  • 随便在任何地方建立一个目录,比如/home/hadoop/input/
  • 随便拷贝一些文本文件到该目录下
  •   运行以下命令:

      bin/hadoop jar hadoop-examples-1.2.1.jar wordcout /home/hadoop/input/ /home/hadoop/output/

      进过一系列像黑客电脑般的刷屏以后,会在/home/hadoop/下生成一个output目录,里面有part-r-00000和_SUCCESS两个文件,看到_SUCCESS就知道已经成功了,打开part-r-00000看看,每个单词的出现次数都给你统计好了吧。
  好了,全部完成,可以开始自己写程序了~~~

版权声明:本文为博主原创文章,未经博主允许不得转载。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-126535-1-1.html 上篇帖子: 虚拟化系统(XenServer,ESXi)-XenServer 下篇帖子: cloudstack prepare template
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表