查看: 1703|回复: 0

[经验分享] 【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂

[复制链接]

yangcctv

尚未签到

发表于 2019-1-31 07:56:46 | 显示全部楼层 |阅读模式

“决胜云计算大数据时代”

Spark亚太研究院100期公益大讲堂【第17期互动问答分享】

　　
Q1：为了加快spark shuffle 的执行速度是否可以把spark_local_dirs 指向一块固态硬盘上面，这样做是否有效果。

可以把spark_local_dirs指向一块固态硬盘上面,这样会非常有效的提升Spark执行速度；
同时想更快的提升Spark运行速度的话可以指定多个Shuffle输出的目录，让Shuffle并行读写磁盘；

Q2：solidation=true只是在同一机器上进行合并对吧

solidation=true是在同一台机器上进行合并；
当进行合并的时候会把属于同一个Reducer的bucket放入同一个文件，这回极大的减少Shuffler文件的数量，提升性能；

Q3：未来spark与hadoop会共存吗

Spark和hadoop会共存， Spark+Hadoop= A winning combination；
并存的时候，Hadoop主要使用HDFS进行数据存储，Spark负责对大数据一体化多元化的计算；

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com