2019-02-25
閱讀量:
785
spark中如何劃分stage?
spark中如何劃分stage?
答: Spark任務(wù)會根據(jù)RDD之間的依賴關(guān)系,形成一個DAG有向無環(huán)圖,DAG會提交給DAGScheduler,DAGScheduler會把DAG劃分相互依賴的多個stage,劃分stage的依據(jù)就是RDD之間的寬窄依賴。遇到寬依賴就劃分stage,每個stage包含一個或多個task任務(wù)。然后將這些task以taskSet的形式提交給TaskScheduler運行。
stage是由一組并行的task組成。






評論(0)


暫無數(shù)據(jù)
推薦帖子
0條評論
1條評論
0條評論