2021-01-28
閱讀量:
471
反爬如何偽裝成隨機(jī)瀏覽器?
之前我們都是通過(guò)User-Agent將爬蟲(chóng)偽裝成固定瀏覽器,但是對(duì)于警覺(jué)性高的網(wǎng)站,會(huì)偵測(cè)到這一反常現(xiàn)象,即持續(xù)訪問(wèn)網(wǎng)站的是同一種瀏覽器。因此,每次請(qǐng)求時(shí),可以隨機(jī)偽裝成不同類型的瀏覽器。Scrapy中的中間件UserAgentMiddleware就是專門用于設(shè)置User-Agent的。






評(píng)論(0)


暫無(wú)數(shù)據(jù)
CDA考試動(dòng)態(tài)
CDA報(bào)考指南
推薦帖子
0條評(píng)論
0條評(píng)論
0條評(píng)論
0條評(píng)論