2021-01-28
閱讀量:
476
反爬如何降低請(qǐng)求頻率?
降低請(qǐng)求頻率的做法,不僅僅是為了避開網(wǎng)站的偵測(cè),更重要的是體現(xiàn)出了一個(gè)爬蟲專家基本的素質(zhì)。我們應(yīng)該對(duì)能夠獲取免費(fèi)數(shù)據(jù)心懷感恩,而不是惡意攻擊網(wǎng)站,致其帶來很大的帶寬壓力,甚至癱瘓。畢竟還是有許多網(wǎng)站,對(duì)爬蟲還是比較寬容的。
對(duì)于Scrapy框架來說,設(shè)置請(qǐng)求的頻率(即下載延遲時(shí)間)非常簡(jiǎn)單。在配置文件settings.py中設(shè)置DOWNLOAD_DELAY即可,以下代碼設(shè)置下載延遲時(shí)間為3秒,即兩次請(qǐng)求間隔3秒。
DOWNLOAD_DELAY = 3#設(shè)置下載延遲時(shí)間為3秒






評(píng)論(0)


暫無數(shù)據(jù)
CDA考試動(dòng)態(tài)
CDA報(bào)考指南
推薦帖子
0條評(píng)論
0條評(píng)論
0條評(píng)論
0條評(píng)論