文章來(lái)源： 早起Python微信公眾號(hào)

作者：陳熹

前言

在我們寫爬蟲的過(guò)程中，目標(biāo)網(wǎng)站常見的干擾手段就是設(shè)置驗(yàn)證碼等，本就將基于Selenium實(shí)戰(zhàn)講解如何處理彈窗和驗(yàn)證碼，爬取的目標(biāo)網(wǎng)站為某儀器預(yù)約平臺(tái)

可以看到登錄所需的驗(yàn)證碼構(gòu)成比較簡(jiǎn)單，是彩色的標(biāo)準(zhǔn)數(shù)字配合簡(jiǎn)單的背景干擾

因此這里的驗(yàn)證碼識(shí)別不需要借助人工智能的手段，可直接利用二值法對(duì)圖片處理后交給谷歌的識(shí)別引擎tesseract-OCR即可獲得圖中的數(shù)字。

注：selenium 和 tesseract 的配置讀者可自行搜索，本文不做介紹)

python實(shí)戰(zhàn)

首先導(dǎo)入所需模塊

import re
# 圖片處理
from PIL import Image
# 文字識(shí)別
import pytesseract
# 瀏覽器自動(dòng)化
from selenium import webdriver
import time

解決彈出框問(wèn)題

先嘗試打開示例網(wǎng)站

url = 'http://lims.gzzoc.com/client'
driver = webdriver.Chrome()
driver.get(url)
time.sleep(30)

有趣的地方出現(xiàn)了，網(wǎng)站顯示了一個(gè)我們前面沒有看到的彈窗，簡(jiǎn)單說(shuō)一下彈窗的知識(shí)點(diǎn)，初學(xué)者可以將彈出框簡(jiǎn)單分為alert和非alert

alert式彈出框

alert(message)方法用于顯示帶有一條指定消息和一個(gè) OK 按鈕的警告框

confirm(message)方法用于顯示一個(gè)帶有指定消息和 OK 及取消按鈕的對(duì)話框

prompt(text,defaultText)方法用于顯示可提示用戶進(jìn)行輸入的對(duì)話框

看一下這個(gè)彈出框的js是怎么寫的：

看起來(lái)似乎是alert式彈出框，那么直接用driver.switch_to.alert嗎？先不急

非傳統(tǒng)alert式彈出框的處理

彈出框位于div層，跟平常定位方法一樣

彈出框是嵌套的iframe層，需要切換iframe

彈出框位于嵌套的handle，需要切換窗口

所以我們對(duì)這個(gè)彈出框進(jìn)行元素審查

所以問(wèn)題實(shí)際上很簡(jiǎn)單，直接定位按鈕并點(diǎn)擊即可

url = 'http://lims.gzzoc.com/client'

driver = webdriver.Chrome()
driver.get(url)
time.sleep(1)
driver.maximize_window() # 最大化窗口
driver.find_element_by_xpath("http://div[@class='jconfirm-buttons']/button").click()

獲取圖片位置并截圖

二值法處理驗(yàn)證碼的簡(jiǎn)單思路如下：

切割截取驗(yàn)證碼所在的圖片

轉(zhuǎn)為灰度后二值法將有效信息轉(zhuǎn)為黑，背景和干擾轉(zhuǎn)為白色

處理后的圖片交給文字識(shí)別引擎

輸入返回的結(jié)果并提交

切割截取驗(yàn)證碼的圖片進(jìn)一步思考解決策略：首先獲取網(wǎng)頁(yè)上圖片的css屬性，根據(jù)size和location算出圖片的坐標(biāo)；然后截屏；最后用這個(gè)坐標(biāo)進(jìn)一步去處理截屏即可(由于驗(yàn)證碼js的特殊性，不能簡(jiǎn)單獲取img的href后下載圖片后讀取識(shí)別，會(huì)導(dǎo)致前后不匹配)

img = driver.find_element_by_xpath('//img[@id="valiCode"]')
time.sleep(1)
location = img.location
size = img.size
# left = location['x']
# top = location['y']
# right = left + size['width']
# bottom = top + size['height']
left = 2 * location['x']
top = 2 * location['y']
right = left + 2 * size['width'] - 10
bottom = top + 2 * size['height'] - 10
driver.save_screenshot('valicode.png')
page_snap_obj = Image.open('valicode.png')
image_obj = page_snap_obj.crop((left, top, right, bottom))
image_obj.show()

正常情況下直接使用注釋的四行代碼即可，但不同的電腦不同的瀏覽器，縮放倍率存在差異，因此如果截取出的圖存在偏差這需要考慮乘上倍率系數(shù)。最后可以再加減數(shù)值進(jìn)行微調(diào)

可以看到圖片這成功截取出來(lái)了！

驗(yàn)證碼圖片的進(jìn)一步處理

這個(gè)閾值需要具體用Photoshop或者其他工具嘗試，即找到一個(gè)像素閾值能夠?qū)⒒叶葓D片中真實(shí)數(shù)據(jù)和背景干擾分開，本例經(jīng)測(cè)試閾值為205

img = image_obj.convert("L")  # 轉(zhuǎn)灰度圖
pixdata = img.load()
w, h = img.size
threshold = 205
# 遍歷所有像素，大于閾值的為黑色
for y in range(h):
    for x in range(w):
        if pixdata[x, y] < threshold:
            pixdata[x, y] = 0
        else:
            pixdata[x, y] = 255

根據(jù)像素二值結(jié)果重新生成圖片

data = img.getdata()
w, h = img.size
black_point = 0
for x in range(1, w - 1):
    for y in range(1, h - 1):
        mid_pixel = data[w * y + x]
        if mid_pixel < 50:
            top_pixel = data[w * (y - 1) + x]
            left_pixel = data[w * y + (x - 1)]
            down_pixel = data[w * (y + 1) + x]
            right_pixel = data[w * y + (x + 1)]
            if top_pixel < 10:
                black_point += 1
            if left_pixel < 10:
                black_point += 1
            if down_pixel < 10:
                black_point += 1
            if right_pixel < 10:
                black_point += 1
            if black_point < 1:
                img.putpixel((x, y), 255)
            black_point = 0
img.show()

圖像處理前后對(duì)比如下

文字識(shí)別

將處理后的圖片就給谷歌的文字識(shí)別引擎就能完成識(shí)別

result = pytesseract.image_to_string(img)
# 可能存在異常符號(hào)，用正則提取其中的數(shù)字
regex = '\d+'
result = ''.join(re.findall(regex, result))
print(result)

識(shí)別結(jié)果如下

提交賬號(hào)密碼、驗(yàn)證碼等信息

在處理完驗(yàn)證碼之后，現(xiàn)在我們就可以向網(wǎng)站提交賬號(hào)密碼、驗(yàn)證碼等登陸所需信息

driver.find_element_by_name('code').send_keys(result)
driver.find_element_by_name('userName').send_keys('xxx')
driver.find_element_by_name('password').send_keys('xxx')
# 最后點(diǎn)擊確定
driver.find_element_by_xpath("http://div[@class='form-group login-input'][3]").click()

需要注意的是，二值法識(shí)別驗(yàn)證碼成功率不是100%，因此需要考慮到驗(yàn)證碼識(shí)別錯(cuò)誤，需要單擊圖片更換驗(yàn)證碼重新識(shí)別，可以將上述代碼拆解成多個(gè)函數(shù)后，用如下循環(huán)框架試錯(cuò)

while True:
    try:
        ...
        break
    except:
        driver.find_element_by_id('valiCode').click()

為了方便理解，代碼的書寫沒有以函數(shù)形式呈現(xiàn)，歡迎讀者自行嘗試修改！

小結(jié)

成功登錄后就可以獲得個(gè)人的cookies，接下來(lái)可以繼續(xù)用selenium進(jìn)行瀏覽器自動(dòng)化或者把cookies傳給requests，后面就能爬取需要的信息做分析或者實(shí)現(xiàn)一些自動(dòng)化功能，但由于涉及到的爬蟲知識(shí)點(diǎn)比較多，我們會(huì)在后續(xù)的爬蟲專題文章中進(jìn)行分享！