
作者:莫凡
來源:大數(shù)據(jù)DT(ID:hzdashuju)
導讀:12306為什么要設置那么復雜的驗證碼機制呢?就是因為OCR。
今天聊OCR。
OCR是人工智能、機器學習特別是深度學習,在圖像識別方向最為重要的應用之一。OCR全稱Optical Chararcter Recogition,中文翻譯為光學字符識別,通常簡寫為OCR。
如果之前沒有接觸過OCR,光看名字上又光學又識別的,容易產(chǎn)生“聽起好像很高端很復雜”的距離感,但實際上,計算機科學的每一項技術都是為了機器具備多一項技能,而OCR要機器具備的,是一項對于我們人來說屬于最最基本的技能——“看圖識字”。
我們可能對這個能力習以為常了,以至于不會覺得這算是一項能力,但仔細想一想就知道,看圖識字雖然最最基本,不過同樣也最最基礎,很多工作都需要首先具備看圖識字這項技能才能開展。同樣的道理,OCR現(xiàn)在也已經(jīng)是我們日常生活中應用最為廣泛的智能技術之一。
如果一時沒想起來,不妨從咱們中國人都很熟悉的春運說起。12306大家應該都知道,是訂火車票的官方網(wǎng)站,2015年12306出了一個轟動全國的“大新聞”,12306改變“驗證碼機制”了。買火車票之前,用戶先得要做幾道頗為棘手的智力題,譬如要求在幾張圖片中找出某位名人,據(jù)說有些用戶因為知識面比較窄最后選擇放棄了購買火車票。
這事大家都知道,不過有沒有想過一個最基本的問題:12306為什么要改變驗證碼機制呢?
就是因為OCR。
▲網(wǎng)友惡搞的12306驗證碼
驗證碼之所以叫驗證“碼”,是因為最開始驗證碼大都是一串保存在圖片里的四位數(shù)字。驗證碼的作用自然是區(qū)別真人和機器,聽起來很厲害,其實原理異常簡單:機器擅長處理結構化數(shù)據(jù),而對于圖像、文本和音頻這些生活中很常見但屬于非結構化的數(shù)據(jù),對機器來說,用傳統(tǒng)的算法處理難度非常大。
為什么呢?不妨想象一個最最傳統(tǒng)的驗證碼,白底黑字,上面一共四個阿拉伯數(shù)字,我們人自然看一眼就知道是哪四個數(shù)字。但是在機器看起來,這張圖片是由一個挨一個的像素數(shù)值構成的數(shù)據(jù)矩陣,這就產(chǎn)生一個問題,我們人看起來是“空白”的地方,在機器看起來同樣也存在著數(shù)字,并沒有什么不同,自然無法區(qū)分到底上面寫了什么。
OCR的研究人員當然也沒有偷懶,努力嘗試了很多辦法,有一種思路是提取圖片特征,也研究出兩種傳統(tǒng)的提取方法,分別是基于結構形態(tài)的特征提取,和基于幾何分布的特征提取,也取得一些成果。
但總的來說,要求機器準確識別圖片中的數(shù)字仍然很困難,只要圖片中存在一點點雜質干擾,識別的正確率就大幅度下降,這就是為什么后來驗證碼都會選擇采用一些隨機線條,對于OCR來說,這都是低成本高收益的防破解手段。但對人來說卻輕而易舉,只需要看一眼就能識別。
正是因為人和機器在處理非結構化數(shù)據(jù)存在能力鴻溝,在驗證碼這里,就是人和機器在識別圖片中字符上的能力存在顯著差異,因此,只要簡單使用驗證碼,就能相當準確地辨別正在輸入的究竟是人還是機器。
那為什么12306在2015年就非得換了很好用的驗證碼機制呢?是因為就在2012年,發(fā)生了一件轟動整個研究界的事件,這個事件影響深遠,推動OCR技術發(fā)生飛躍,從此機器也能很輕易就準確識別圖片上的數(shù)字了。
OCR并不是新出現(xiàn)的概念,起步非常早。根據(jù)《深度實踐OCR:基于深度學習的文字識別》一書介紹,早在1929年,德國科學家就已經(jīng)提出了OCR的想法,后續(xù)又有一些科學家加入進行這方面研究,不過,直到計算機出現(xiàn)以后,想法才慢慢落地。
相比之下,中國對OCR的研究起步稍晚,起步于70年代,算起來也有近50年的歷史了。
但是,雖然早就開始了對OCR的研究,科學家們也從各個方面貢獻了很多頗有益處的奇思妙想,為后續(xù)研究奠定了堅實基礎,但總的來說,OCR技術的應用發(fā)展遲緩,直到前些年仍然處于學術研究的領域。不過,每一項科研領域的僵局都最終會被一項劃時代的技術打破,打破OCR領域僵局的就是鼎鼎大名的深度學習技術。
2012年發(fā)生了什么事呢?發(fā)生了這么一件事,基于深度學習的卷積網(wǎng)絡模型AlexNet,在ImageNet圖像分類比賽中拔得頭籌。拔得頭籌這事本身不算什么,畢竟只要有比賽就一定會有人拔得頭籌,問題是在以往的比賽,不同模型之間的差距很小,第一名都是“險勝”,第二名都是“惜敗”。
而到了2012年,AlexNet不但贏了第一名,而且在識別準確率方面超過第二名10%,相當于百米短跑我第一名沖線,而且我不但沖線了,我還在終點吃了頓飯,然后第二名才剛剛跑完全程。這種碾壓式的勝利讓業(yè)界對這場賽事的評論紛紛變成了B站的彈幕,概括來說就一句話:大人,時代變了。
當然了,前面這段講得很戲劇化,也有很多人喜歡用“石破天驚”之類的詞來形容,但應該說,深度學習并不是什么憑空出現(xiàn)的新技術,它是由機器學習下面的神經(jīng)網(wǎng)絡模型發(fā)展而來的。
人工智能、機器學習和深度學習三者之間千絲萬縷的關系,我們在前面的文章已經(jīng)進行了細致的介紹,不再贅述,但深度學習的崛起,確實給OCR的應用注入了全新的活力。
深度學習很快火遍全球,有意思的是,很多面向初學者的深度學習教程不約而同選擇了將使用深度學習模型識別MNIST手寫數(shù)據(jù)集作為深度學習領域的“Hello World”,從前極為困難的驗證碼識別,在深度學習時代居然變成了初學者的第一堂功課,這是深度學習與OCR結合最為成功的案例。從此,OCR展翅飛出象牙塔,飛入尋常百姓家。
不過,我還是想特別說明一下,OCR是一項通用性非常強的技術,OCR與深度學習的結合逼得12306改驗證碼機制,這只是OCR技術的能力展示,OCR活躍的天地遠比驗證碼廣闊得多,我們的機器距離我們的生活差的最后一公里,可能就有賴OCR來打通。
你可能會問,機器和生活還差最后一公里,我怎么沒感覺到,這是什么意思?
回想一下,我們現(xiàn)在的生活其實是有兩套并行記錄體系,就拿最常見的去銀行辦理業(yè)務來說吧,我們先得用筆手工填寫一份紙質的表格,上面包含了各項信息,這是一套記錄體系。然后我們給銀行柜臺的工作人員提交表格,工作人員會讓我們先等一會,等什么呢,就是等工作人員通過電腦終端把信息轉錄到另一套記錄體系。
現(xiàn)代銀行基本都依靠各類信息系統(tǒng)進行管理,但這些信息系統(tǒng)是不能直接讀取紙質表格的信息,那怎么辦呢,只好通過人來轉錄,這個轉錄的過程免不了需要消耗人的時間和精力,增加了辦理業(yè)務的成本,甚至成為限制提升業(yè)務辦理效率的瓶頸之一。
兩套并行記錄體系對我們的影響當然遠不止于銀行,從更為宏觀的視角來看,消耗了人類社會大量的人力物力,以及對于人來說更為寶貴的時間。
你可能又要說了,這些都是窗口業(yè)務,和日常生活關系并不緊密。其實不然,舉一個我們很熟悉例子,二維碼。
就拿春晚的觀眾互動來說吧,過去主持人是說想要和春晚互動的觀眾朋友,可以把信息發(fā)到屏幕下方公布的號碼。那么,觀眾如果真要互動,就必須得把在屏幕上看到的這串長長的數(shù)字逐個逐個敲進手機,光是想就覺得麻煩,再加上有時候看錯或者敲錯,感覺就更費勁了。
現(xiàn)在有了二維碼,主持人說想要和春晚互動的觀眾朋友,掃描屏幕下方的二維碼就可以了,操作起來就簡單太多了。所以,現(xiàn)在滿大街都是二維碼,就是因為二維碼更為便捷。
不過,二維碼只能解決兩套記錄體系并行問題的很小一部分,其它手段譬如內置芯片也只能治標不治本,畢竟我們人類社會幾千年來都以紙作為信息的記錄介質,已經(jīng)產(chǎn)生了太多不可能符合機器讀取要求的信息,要從根本上解決兩套記錄體系并行的問題,還是需要機器具備和人一樣的“看圖識字”的能力,也就是最終還得依靠OCR。
那么,現(xiàn)在的OCR技術發(fā)展到什么水平,又解決了什么實際問題了呢?
我認為,一項應用技術最重要的不是聽起來有多前沿多高端,而是能解決什么實實在在的問題。我們說OCR突飛猛進,是因為OCR和深度學習結合以后,只需要簡單拍照,就可以直接從圖片中提取相應的文字,在很多應用場景已經(jīng)有點“掃碼即可”的意思了。
很多紙質的表格,譬如前面說的銀行各類業(yè)務的表格,現(xiàn)在只需要簡單地拍照就可以一下完成信息錄入。以前我們拿到紙質名片,還需要手工敲字記錄,現(xiàn)在很多APP都提供一項功能,只要對名片進行拍照,就能自動提取上面的文字。
同時,OCR帶來的不僅僅是簡化錄入,很多傳統(tǒng)的軟件功能,也因為OCR技術的發(fā)展,而帶來了全新的使用體驗。就說我印象最深的翻譯軟件,翻譯軟件當然不是什么新產(chǎn)品,大家應該都用過。
但一直以來使用翻譯軟件都有一個限制,那就是不管軟件本身的翻譯能力有多強,你得先錄入原文然后才能看到譯文,這有一個什么問題呢?有一些外語的原文我不知道怎么通過英文鍵盤輸入,譬如日文、德文、法文,相信不是專門學這些語言的朋友都有和我同樣的困擾。
現(xiàn)在有了OCR就方便多了,只需要直接拍照就能提取文字,不但解決了輸入問題,效率還要高得多,有些翻譯軟件干脆就在原圖上P上譯文,更加直接明了,讓我對翻軟件有一種耳目一新的感覺。
除了翻譯軟件,OCR給我們熟悉的產(chǎn)品帶來的改變還有很多,畢竟只要可以從圖片中準確提取文字,就有太多的地方等待著我們發(fā)揮廣闊的想象力。譬如說,通過OCR技術,即使是掃描生成的PDF也支持文本搜索了。
如果覺得這個例子太小,那就說搜索引擎,現(xiàn)在的搜索引擎還笨得很,輸入文字只能搜到文字,輸入圖片只能搜到圖片,文字和圖片是涇渭分明,如果你想用文字搜帶有這段文字的圖片呢?對不起不行。
不過使用了OCR,以后也可以以文搜圖了。譬如你翻老照片時找到一張你光著屁股坐在一塊寫著一段文字的石頭上,你想知道這張照片在哪拍的??墒乾F(xiàn)在你去搜這段文字,很可能要么就什么都找不到,要么就找到一大堆無關的內容。
未來如果搜索引擎支持搜索圖中文字的功能,你就能馬上找到帶有這段文字的其它照片,沒準其中就有你想要找的內容。
OCR就介紹到這里,相信大家對于OCR是什么,能做什么,未來會有怎樣的發(fā)展已經(jīng)有了初步的了解??墒?,OCR技術的原理是什么,傳統(tǒng)的做法是什么,現(xiàn)在和深度學習又是怎樣結合在一起?
我推薦大家閱讀前面提過的這本專門介紹這些問題的書,《深度實踐OCR:基于深度學習的文字識別》。這本書對OCR的介紹很全面,先從OCR的發(fā)展歷程和經(jīng)典的技術原理說起,然后介紹了深度學習的主要技術,最后再仔細介紹OCR和深度學術如何結合,而且還對如何通過代碼實現(xiàn)進行了詳細說明。看完這本書,對OCR的全貌、原理和應用,應該就能有比較清晰的了解。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結構數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結構數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結構數(shù)據(jù)特征價值的專業(yè)核心 表結構數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結構化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數(shù)據(jù)分析與統(tǒng)計學領域,假設檢驗是驗證研究假設、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結構數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結構數(shù)據(jù)(以 “行 - 列” 存儲的結構化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結構數(shù)據(jù)價值的核心操盤手 表格結構數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數(shù)據(jù)把關的實戰(zhàn)指南 在業(yè)務系統(tǒng)落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10