
整理:深度學(xué)習(xí) vs 機(jī)器學(xué)習(xí) vs 模式識(shí)別_數(shù)據(jù)分析師
本文來(lái)自CMU的博士,MIT的博士后,vision.ai的聯(lián)合創(chuàng)始人Tomasz Malisiewicz的個(gè)人博客文章,閱讀本文,你可以更好的理解計(jì)算機(jī)視覺(jué)是怎么一回事,同時(shí)對(duì)機(jī)器學(xué)習(xí)是如何隨著時(shí)間緩慢發(fā)展的也有個(gè)直觀的認(rèn)識(shí)。
以下為正文:
本文我們來(lái)關(guān)注下三個(gè)非常相關(guān)的概念(深度學(xué)習(xí)、機(jī)器學(xué)習(xí)和模式識(shí)別),以及他們與2015年最熱門(mén)的科技主題(機(jī)器人和人工智能)的聯(lián)系。
圖1 人工智能并非將人放入一臺(tái)計(jì)算機(jī)中
環(huán)繞四周,你會(huì)發(fā)現(xiàn)不缺乏一些初創(chuàng)的高科技公司招聘機(jī)器學(xué)習(xí)專(zhuān)家的崗位。而其中只有一小部分需要深度學(xué)習(xí)專(zhuān)家。我敢打賭,大多數(shù)初創(chuàng)公司都可以從最基本的數(shù)據(jù)分析中獲益。那如何才能發(fā)現(xiàn)未來(lái)的數(shù)據(jù)科學(xué)家?你需要學(xué)習(xí)他們的思考方式。
模式識(shí)別(Pattern recognition)、機(jī)器學(xué)習(xí)(machine learning)和深度學(xué)習(xí)(deep learning)代表三種不同的思想流派。模式識(shí)別是最古老的(作為一個(gè)術(shù)語(yǔ)而言,可以說(shuō)是很過(guò)時(shí)的)。機(jī)器學(xué)習(xí)是最基礎(chǔ)的(當(dāng)下初創(chuàng)公司和研究實(shí)驗(yàn)室的熱點(diǎn)領(lǐng)域之一)。而深度學(xué)習(xí)是非常嶄新和有影響力的前沿領(lǐng)域,我們甚至不會(huì)去思考后深度學(xué)習(xí)時(shí)代。我們可以看下圖所示的谷歌趨勢(shì)圖??梢钥吹剑?/span>
1)機(jī)器學(xué)習(xí)就像是一個(gè)真正的冠軍一樣持續(xù)昂首而上;
2)模式識(shí)別一開(kāi)始主要是作為機(jī)器學(xué)習(xí)的代名詞;
3)模式識(shí)別正在慢慢沒(méi)落和消亡;
4)深度學(xué)習(xí)是個(gè)嶄新的和快速攀升的領(lǐng)域。
2004年至今三個(gè)概念的谷歌搜索指數(shù)
1. 模式識(shí)別:智能程序的誕生
模式識(shí)別是70年代和80年代非常流行的一個(gè)術(shù)語(yǔ)。它強(qiáng)調(diào)的是如何讓一個(gè)計(jì)算機(jī)程序去做一些看起來(lái)很“智能”的事情,例如識(shí)別“3”這個(gè)數(shù)字。而且在融入了很多的智慧和直覺(jué)后,人們也的確構(gòu)建了這樣的一個(gè)程序。例如,區(qū)分“3”和“B”或者“3”和“8”。早在以前,大家也不會(huì)去關(guān)心你是怎么實(shí)現(xiàn)的,只要這個(gè)機(jī)器不是由人躲在盒子里面?zhèn)窝b的就好(圖2)。不過(guò),如果你的算法對(duì)圖像應(yīng)用了一些像濾波器、邊緣檢測(cè)和形態(tài)學(xué)處理等等高大上的技術(shù)后,模式識(shí)別社區(qū)肯定就會(huì)對(duì)它感興趣。光學(xué)字符識(shí)別就是從這個(gè)社區(qū)誕生的。因此,把模式識(shí)別稱(chēng)為70年代,80年代和90年代初的“智能”信號(hào)處理是合適的。決策樹(shù)、啟發(fā)式和二次判別分析等全部誕生于這個(gè)時(shí)代。而且,在這個(gè)時(shí)代,模式識(shí)別也成為了計(jì)算機(jī)科學(xué)領(lǐng)域的小伙伴搞的東西,而不是電子工程。從這個(gè)時(shí)代誕生的模式識(shí)別領(lǐng)域最著名的書(shū)之一是由Duda & Hart執(zhí)筆的“模式識(shí)別(Pattern Classification)”。對(duì)基礎(chǔ)的研究者來(lái)說(shuō),仍然是一本不錯(cuò)的入門(mén)教材。不過(guò)對(duì)于里面的一些詞匯就不要太糾結(jié)了,因?yàn)檫@本書(shū)已經(jīng)有一定的年代了,詞匯會(huì)有點(diǎn)過(guò)時(shí)。
圖2 一個(gè)字符“3”的圖像被劃分為16個(gè)子塊。
自定義規(guī)則、自定義決策,以及自定義“智能”程序在這個(gè)任務(wù)上,曾經(jīng)都風(fēng)靡一時(shí)
小測(cè)試:計(jì)算機(jī)視覺(jué)領(lǐng)域最著名的會(huì)議叫CVPR,這個(gè)PR就是模式識(shí)別。你能猜出第一屆CVPR會(huì)議是哪年召開(kāi)的嗎?
2. 機(jī)器學(xué)習(xí):從樣本中學(xué)習(xí)的智能程序
在90年代初,人們開(kāi)始意識(shí)到一種可以更有效地構(gòu)建模式識(shí)別算法的方法,那就是用數(shù)據(jù)(可以通過(guò)廉價(jià)勞動(dòng)力采集獲得)去替換專(zhuān)家(具有很多圖像方面知識(shí)的人)。因此,我們搜集大量的人臉和非人臉圖像,再選擇一個(gè)算法,然后沖著咖啡、曬著太陽(yáng),等著計(jì)算機(jī)完成對(duì)這些圖像的學(xué)習(xí)。這就是機(jī)器學(xué)習(xí)的思想?!?a href='/map/jiqixuexi/' style='color:#000;font-size:inherit;'>機(jī)器學(xué)習(xí)”強(qiáng)調(diào)的是,在給計(jì)算機(jī)程序(或者機(jī)器)輸入一些數(shù)據(jù)后,它必須做一些事情,那就是學(xué)習(xí)這些數(shù)據(jù),而這個(gè)學(xué)習(xí)的步驟是明確的。相信我,就算計(jì)算機(jī)完成學(xué)習(xí)要耗上一天的時(shí)間,也會(huì)比你邀請(qǐng)你的研究伙伴來(lái)到你家然后專(zhuān)門(mén)手工得為這個(gè)任務(wù)設(shè)計(jì)一些分類(lèi)規(guī)則要好。
圖3 典型的機(jī)器學(xué)習(xí)流程
在21世紀(jì)中期,機(jī)器學(xué)習(xí)成為了計(jì)算機(jī)科學(xué)領(lǐng)域一個(gè)重要的研究課題,計(jì)算機(jī)科學(xué)家們開(kāi)始將這些想法應(yīng)用到更大范圍的問(wèn)題上,不再限于識(shí)別字符、識(shí)別貓和狗或者識(shí)別圖像中的某個(gè)目標(biāo)等等這些問(wèn)題。研究人員開(kāi)始將機(jī)器學(xué)習(xí)應(yīng)用到機(jī)器人(強(qiáng)化學(xué)習(xí),操控,行動(dòng)規(guī)劃,抓?。⒒驍?shù)據(jù)的分析和金融市場(chǎng)的預(yù)測(cè)中。另外,機(jī)器學(xué)習(xí)與圖論的聯(lián)姻也成就了一個(gè)新的課題—圖模型。每一個(gè)機(jī)器人專(zhuān)家都“無(wú)奈地”成為了機(jī)器學(xué)習(xí)專(zhuān)家,同時(shí),機(jī)器學(xué)習(xí)也迅速成為了眾人渴望的必備技能之一。然而,“機(jī)器學(xué)習(xí)”這個(gè)概念對(duì)底層算法只字未提。我們已經(jīng)看到凸優(yōu)化、核方法、支持向量機(jī)和Boosting算法等都有各自輝煌的時(shí)期。再加上一些人工設(shè)計(jì)的特征,那在機(jī)器學(xué)習(xí)領(lǐng)域,我們就有了很多的方法,很多不同的思想流派,然而,對(duì)于一個(gè)新人來(lái)說(shuō),對(duì)特征和算法的選擇依然一頭霧水,沒(méi)有清晰的指導(dǎo)原則。但,值得慶幸的是,這一切即將改變……
3. 深度學(xué)習(xí):一統(tǒng)江湖的架構(gòu)
快進(jìn)到今天,我們看到的是一個(gè)奪人眼球的技術(shù)—深度學(xué)習(xí)。而在深度學(xué)習(xí)的模型中,受寵愛(ài)最多的就是被用在大規(guī)模圖像識(shí)別任務(wù)中的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Nets,CNN),簡(jiǎn)稱(chēng)ConvNets。
圖4 ConvNet框架
深度學(xué)習(xí)強(qiáng)調(diào)的是你使用的模型(例如深度卷積多層神經(jīng)網(wǎng)絡(luò)),模型中的參數(shù)通過(guò)從數(shù)據(jù)中學(xué)習(xí)獲得。然而,深度學(xué)習(xí)也帶來(lái)了一些其他需要考慮的問(wèn)題。因?yàn)槟忝鎸?duì)的是一個(gè)高維的模型(即龐大的網(wǎng)絡(luò)),所以你需要大量的數(shù)據(jù)(大數(shù)據(jù))和強(qiáng)大的運(yùn)算能力(圖形處理器,GPU)才能優(yōu)化這個(gè)模型。卷積被廣泛用于深度學(xué)習(xí)(尤其是計(jì)算機(jī)視覺(jué)應(yīng)用中),而且它的架構(gòu)往往都是非淺層的。
如果你要學(xué)習(xí)Deep Learning,那就得先復(fù)習(xí)下一些線性代數(shù)的基本知識(shí),當(dāng)然了,也得有編程基礎(chǔ)。我強(qiáng)烈推薦Andrej Karpathy的博文:“ 神經(jīng)網(wǎng)絡(luò)的黑客指南 ”。另外,作為學(xué)習(xí)的開(kāi)端,可以選擇一個(gè)不用卷積操作的應(yīng)用問(wèn)題,然后自己實(shí)現(xiàn)基于CPU的反向傳播算法。
對(duì)于深度學(xué)習(xí),還存在很多沒(méi)有解決的問(wèn)題。既沒(méi)有完整的關(guān)于深度學(xué)習(xí)有效性的理論,也沒(méi)有任何一本能超越機(jī)器學(xué)習(xí)實(shí)戰(zhàn)經(jīng)驗(yàn)的指南或者書(shū)。另外,深度學(xué)習(xí)不是萬(wàn)能的,它有足夠的理由能日益流行,但始終無(wú)法接管整個(gè)世界。不過(guò),只要你不斷增加你的機(jī)器學(xué)習(xí)技能,你的飯碗無(wú)憂(yōu)。但也不要對(duì)深度框架過(guò)于崇拜,不要害怕對(duì)這些框架進(jìn)行裁剪和調(diào)整,以得到和你的學(xué)習(xí)算法能協(xié)同工作的軟件框架。未來(lái)的Linux內(nèi)核也許會(huì)在Caffe(一個(gè)非常流行的深度學(xué)習(xí)框架)上運(yùn)行,然而,偉大的產(chǎn)品總是需要偉大的愿景、領(lǐng)域的專(zhuān)業(yè)知識(shí)、市場(chǎng)的開(kāi)發(fā),和最重要的:人類(lèi)的創(chuàng)造力。
1)大數(shù)據(jù)(Big-data):大數(shù)據(jù)是個(gè)豐富的概念,例如包含大量數(shù)據(jù)的存儲(chǔ),數(shù)據(jù)中隱含信息的挖掘等。對(duì)企業(yè)經(jīng)營(yíng)來(lái)說(shuō),大數(shù)據(jù)往往可以給出一些決策的建議。對(duì)機(jī)器學(xué)習(xí)算法而言,它與大數(shù)據(jù)的結(jié)合在早幾年已經(jīng)出現(xiàn)。研究人員甚至任何一個(gè)日常開(kāi)發(fā)人員都可以接觸到云計(jì)算、GPU、DevOps和PaaS等等這些服務(wù)。
2)人工智能(Artificial Intelligence):人工智能應(yīng)該是一個(gè)最老的術(shù)語(yǔ)了,同時(shí)也是最含糊的。它在過(guò)去50年里經(jīng)歷了幾度興衰。當(dāng)你遇到一個(gè)說(shuō)自己是做人工智能的人,你可以有兩種選擇:要么擺個(gè)嘲笑的表情,要么抽出一張紙,記錄下他所說(shuō)的一切。
數(shù)據(jù)分析咨詢(xún)請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶(hù) ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱(chēng) BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢(xún)到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢(xún)結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢(xún)結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專(zhuān)注于從單 ...
2025-07-09year_month數(shù)據(jù)類(lèi)型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類(lèi)型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門(mén)控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書(shū)考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專(zhuān)業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開(kāi)啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03