2021-01-28
閱讀量:
506
反爬如何降低請求頻率?
降低請求頻率的做法,不僅僅是為了避開網(wǎng)站的偵測,更重要的是體現(xiàn)出了一個(gè)爬蟲專家基本的素質(zhì)。我們應(yīng)該對能夠獲取免費(fèi)數(shù)據(jù)心懷感恩,而不是惡意攻擊網(wǎng)站,致其帶來很大的帶寬壓力,甚至癱瘓。畢竟還是有許多網(wǎng)站,對爬蟲還是比較寬容的。
對于Scrapy框架來說,設(shè)置請求的頻率(即下載延遲時(shí)間)非常簡單。在配置文件settings.py中設(shè)置DOWNLOAD_DELAY即可,以下代碼設(shè)置下載延遲時(shí)間為3秒,即兩次請求間隔3秒。
DOWNLOAD_DELAY = 3#設(shè)置下載延遲時(shí)間為3秒






評論(0)


暫無數(shù)據(jù)
CDA考試動態(tài)
CDA報(bào)考指南
推薦帖子
0條評論
0條評論
0條評論
0條評論