2021-01-25
閱讀量:
556
如何理解scrapy里的下載器(Downloader)?
1、下載器,是所有組件中負(fù)擔(dān)最大的,它用于高速地下載網(wǎng)絡(luò)上的資源。Scrapy的下載器代碼不會太復(fù)雜,但效率高,主要的原因是Scrapy下載器是建立在twisted這個(gè)高效的異步模型上的(其實(shí)整個(gè)框架都在建立在這個(gè)模型上的)。
2、下載器的主要作用是對于爬蟲的請求進(jìn)行響應(yīng),把用戶需要數(shù)據(jù)從服務(wù)器下載下來,然后傳到爬蟲或者管道做進(jìn)一步處理






評論(0)


暫無數(shù)據(jù)
CDA考試動態(tài)
CDA報(bào)考指南
推薦帖子
0條評論
0條評論
0條評論
0條評論