285572001 发表于 2019-1-31 07:41:36

王家林每日大数据语录Spark篇0015(2015.11.5于南宁)

Spark中宽依赖指的是生成的RDD的每一个partition都依赖于父 RDD(s) 所有partition,宽依赖典型的操作有groupByKey, sortByKey等,宽依赖意味着shuffle操作,这是Spark划分stage的边界的依据,Spark中宽依赖支持两种Shuffle Manager,即HashShuffleManager和SortShuffleManager,前者是基于Hash的Shuffle机制,后者是基于排序的Shuffle机制。  




页: [1]
查看完整版本: 王家林每日大数据语录Spark篇0015(2015.11.5于南宁)