2021-01-25
閱讀量:
540
如何理解scrapy里的調(diào)度器(Scheduler)?
1、調(diào)度器,說(shuō)白了把它假設(shè)成為一個(gè)URL(抓取網(wǎng)頁(yè)的網(wǎng)址或者說(shuō)是鏈接)的優(yōu)先隊(duì)列,由它來(lái)決定下一個(gè)要抓取的網(wǎng)址是 什么,同時(shí)去除重復(fù)的網(wǎng)址(不做無(wú)用功)。用戶可以自己的需求定制調(diào)度器。
2、用戶可能向服務(wù)器發(fā)送的請(qǐng)求不是一個(gè),而是多個(gè),多個(gè)請(qǐng)求如何排序,優(yōu)先執(zhí)行哪個(gè)請(qǐng)求,這些都是有Scheduler決定。






評(píng)論(0)


暫無(wú)數(shù)據(jù)
CDA考試動(dòng)態(tài)
CDA報(bào)考指南
推薦帖子
0條評(píng)論
0條評(píng)論
0條評(píng)論
0條評(píng)論