2021-01-25
閱讀量:
578
如何理解scrapy里的調(diào)度器(Scheduler)?
1、調(diào)度器,說白了把它假設(shè)成為一個URL(抓取網(wǎng)頁的網(wǎng)址或者說是鏈接)的優(yōu)先隊列,由它來決定下一個要抓取的網(wǎng)址是 什么,同時去除重復(fù)的網(wǎng)址(不做無用功)。用戶可以自己的需求定制調(diào)度器。
2、用戶可能向服務(wù)器發(fā)送的請求不是一個,而是多個,多個請求如何排序,優(yōu)先執(zhí)行哪個請求,這些都是有Scheduler決定。






評論(0)


暫無數(shù)據(jù)
推薦帖子
0條評論
0條評論
0條評論
0條評論