2020-07-11
閱讀量:
1137
Tensorflow介紹(五)
在worker之間交換數據
現在我們知道Tensorflow將其所有操作分配到由worker管理的不同設備上。更常見的是,worker之間交換張量形式的數據,例如在e =(c)*(d)的圖表中,一旦計算出c,就需要將其進一步傳遞給e,因此Tensor在節(jié)點間前向流動。 該流動如圖所示:
此處張量從設備A傳遞到設備B。這在分布式系統(tǒng)中引起了一些性能延遲。延遲取決于一個重要屬性:張量大小。設備B處于空閑模式,直到它接收到設備A的輸入。






評論(0)


暫無數據
推薦帖子
0條評論
1條評論
0條評論