99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話:13121318867

登錄
2019-02-23 閱讀量: 915
spark standalone 客戶端提交方式

Standalone-client模式是spark作業(yè)的一種提交方式

提交命令

./spark-submit --master  spark://node01:7077 --class org.apache.spark.examples.SparkPi  ../lib/spark-examples-1.6.
0-hadoop2.6.0.jar 100
./spark-submit --master spark://node01:7077 --deploy-mode client --class org.apache.spark.examples.SparkPi ../li
b/spark-examples-1.6.0-hadoop2.6.0.jar 100

執(zhí)行流程

  • 1.client模式提交任務后,會在客戶端啟動Driver進程。
  • 2.Driver會向Master申請啟動Application啟動的資源。
  • 3.資源申請成功,Driver端將task發(fā)送到worker端執(zhí)行。
  • 4.worker將task執(zhí)行結(jié)果返回到Driver端。

1.client模式適用于測試調(diào)試程序。Driver進程是在客戶端啟動的,這里的客戶端就是指提交應用程序的當前節(jié)點。在Driver端可以看到task執(zhí)行的情況。生產(chǎn)環(huán)境下不能使用client模式,是因為:假設(shè)要提交100個application到集群運行,Driver每次都會在client端啟動,那么就會導致客戶端100次網(wǎng)卡流量暴增的問題。(因為要監(jiān)控task的運行情況,會占用很多端口,如上圖的結(jié)果圖)客戶端網(wǎng)卡通信,都被task監(jiān)控信息占用。

2.Client端作用
Driver負責應用程序資源的申請
任務的分發(fā)。
結(jié)果的回收。
監(jiān)控task執(zhí)行情況。

0.0000
1
關(guān)注作者
收藏
評論(0)

發(fā)表評論

暫無數(shù)據(jù)
推薦帖子