查看: 1163|回复: 0

[经验分享] spark安装配置

尚未签到

发表于 2019-1-30 12:54:45 | 显示全部楼层 |阅读模式

　　在装spark之前先装Scala  Scala 的安装在hadoop安装配置中已经介绍了
　　

　　1、下载spark安装包下载地址如下
　　http://spark.apache.org/downloads.html
　　我选择的是
　　spark-1.4.1-bin-hadoop2.6.tgz  放在/root/software
　　解压
　　tar zxvf  spark-1.4.1-bin-hadoop2.6.tgz
　　2、配置系统环境变量
　　vim /etc/profile
　　

　　export SPARK_HOME=/root/sherry/spark-1.4.1
　　export PATH=$SPARK_HOME/bin:$PATH
　　

　　source /etc/profile
　　3、配置spark文件
　　1）[root@HBMS-DKXD-DEV sherry]# cd spark-1.4.1-bin-hadoop2.6/
　　[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# cd conf
　　[root@HBMS-DKXD-DEV conf]# vim spark-env.sh
　　添加如下内容

　　

　　export SCALA_HOME=/root/sherry/scala-2.10.4
　　export JAVA_HOME=/usr/java/jdk1.7.0_45
　　export SPARK_WORKER_MEMORY=1g
　　export SPARK_MASTER_IP=10.118.46.22
　　

　　2）配置slave
　　我自己没有配置
　　4、启动集群
　　[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/start-all.sh
　　关闭
　　[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/stop-all.sh
　　检查是否安装成功
　　jps
　　

　　

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-669633-1-1.html 上篇帖子： spark集群搭建下篇帖子： CentOS7下安装配置Spark-2.0.1集群

使用道具举报