Spark的宽窄依赖,以及Spark如何划分stage,每个stage又根据什么决定task个数?

2020-07-30 10:01发布

2条回答
D滴滴
2020-07-30 10:08

Stage:根据RDD之间的依赖关系的不同将Job划分成不同的Stage,遇到一个宽依赖则划分一个Stage。

Task:Stage是一个TaskSet,将Stage根据分区数划分成一个个的Task。


一周热门 更多>