
數(shù)據(jù)科學(xué)家:站在大數(shù)據(jù)金字塔尖的人
現(xiàn)在的互聯(lián)網(wǎng)行業(yè),越來越多的企業(yè)對數(shù)據(jù)科學(xué)家求賢若渴。
雖然數(shù)據(jù)科學(xué)家的需求一直在快速增長,但事實是在業(yè)內(nèi)還沒有對數(shù)據(jù)科學(xué)家的準(zhǔn)確定義。有人開玩笑說,「數(shù)據(jù)科學(xué)家就是住在硅谷的數(shù)據(jù)分析師」,甚至有人畫了這樣的漫畫:
沒錯,找到一位優(yōu)秀的數(shù)據(jù)科學(xué)家和找到一個理解數(shù)據(jù)科學(xué)家是做什么的人一樣難。
要理解數(shù)據(jù)科學(xué)家是做什么,首先要理解人盡皆知卻總被誤讀的大數(shù)據(jù):大數(shù)據(jù)不是大量的數(shù)據(jù),而是復(fù)雜的數(shù)據(jù)。
《大數(shù)據(jù)時代》聯(lián)席作者Kenneth Cukier在Ted上的熱門演講: 《Big data is better data》,告訴你大數(shù)據(jù)驅(qū)動技術(shù)和設(shè)計的未來,以及大數(shù)據(jù)的「好」與「壞」。
這些解決復(fù)雜數(shù)據(jù)帶來的問題的人,就是數(shù)據(jù)科學(xué)家。
數(shù)據(jù)科學(xué)家在工作中是怎樣解決問題的呢?
分享兩個共享經(jīng)濟(jì)的典范:Airbnb和Uber——在運用大數(shù)據(jù)方面的經(jīng)驗。
1、Airbnb
在Airbnb,工程師要解決這樣一個問題:如何讓用戶了解一個自己從來沒去過的地方?如何知道哪個地方最適合自己的旅行?
Airbnb擁有海量的獨有數(shù)據(jù),包括旅游地、用戶評論、房源描述、社區(qū)信息等,Airbnb還有一支隊伍去各地和當(dāng)?shù)厝私涣?,搜集所有的相關(guān)歷史數(shù)據(jù)。Airbnb的數(shù)據(jù)科學(xué)家是這樣運用數(shù)據(jù)的:
Airbnb accommodations (red) and traditional accommodations (blue) in San Francisco
當(dāng)用戶在搜尋一個住宿的地方時,Airbnb的「location relevance model」會通過Airbnb社區(qū)告訴未來的客人哪里是更好的住宿地。
當(dāng)用戶在尋找想體驗的新地方時,「Airbnb Neighborhoods」會將當(dāng)?shù)氐膬?nèi)容編輯親手整理的必備資料和專業(yè)的照片呈獻(xiàn)給用戶。
Airbnb的「discovery team」通過自然語言處理和機(jī)器學(xué)習(xí)來為用戶搜索關(guān)鍵詞提供更準(zhǔn)確的推薦。
Airbnb甚至造了一個叫做「AT-AT」的復(fù)雜工具,幫助用戶更深入地了解某個地點,包括地理信息無法描述的文化或宗教上的區(qū)分。
2、Uber
縮短開著空車去接下一位乘客的時間和乘客等待的時間是Uber的車主和乘客的共同需求,他們希望這些時間越短越好。為此,Uber的數(shù)據(jù)科學(xué)家建立了「Location-based demand models」。
Uber heatmap in San Francisco
每天實時更新的熱點地圖(Heatmaps)可以有效幫助車主縮短空載時間,同時幫乘客減少等待時長。下一步,這張圖甚至可以預(yù)測,這樣車主會知道提前去哪里等待可以載到更多的乘客。
數(shù)據(jù)科學(xué)家的由來和定義
雖然數(shù)據(jù)科學(xué)三十年前就誕生了,但是數(shù)據(jù)科學(xué)家卻是幾年前剛出現(xiàn)的一個新詞。在《數(shù)據(jù)之美》一書中,我們可以看到Facebook的數(shù)據(jù)科學(xué)家的起源:
在Facebook,我們發(fā)現(xiàn)傳統(tǒng)的頭銜如商業(yè)分析師、統(tǒng)計學(xué)家、工程師和研究科學(xué)家都不能確切地定義我們團(tuán)隊的角色。該角色的工作是變化多樣的:在任意給定的一天,團(tuán)隊的一個成員可以用Python實現(xiàn)一個多階段的處理管道流、設(shè)計假設(shè)檢驗、用工具R在數(shù)據(jù)樣本上執(zhí)行回歸測試、在Hadoop上為數(shù)據(jù)密集型產(chǎn)品或服務(wù)設(shè)計和實現(xiàn)算法,或者把我們分析的結(jié)果以清晰簡潔的方式展示給企業(yè)的其他成員。為了掌握完成這多方面任務(wù)需要的技術(shù),我們創(chuàng)造了「數(shù)據(jù)科學(xué)家」這種角色。
所以,用一句話總結(jié)「數(shù)據(jù)科學(xué)家」的定義:
運用統(tǒng)計分析、機(jī)器學(xué)習(xí)、分布式處理等技術(shù),從大量數(shù)據(jù)中提取出對業(yè)務(wù)有意義的信息,以易懂的形式傳達(dá)給決策者,并創(chuàng)造出新的數(shù)據(jù)運用服務(wù)的人才。
數(shù)據(jù)科學(xué)家有哪幾種類別
為了更好地闡釋數(shù)據(jù)科學(xué)家,我們將它分為三類:
理論數(shù)據(jù)科學(xué)家致力于數(shù)據(jù)科學(xué)的理論研究,為其他的數(shù)據(jù)科學(xué)家創(chuàng)造框架和工具。本質(zhì)上是將統(tǒng)計數(shù)據(jù)、數(shù)據(jù)存儲和計算機(jī)科學(xué)在理論層面應(yīng)用于大數(shù)據(jù)的學(xué)者
應(yīng)用數(shù)據(jù)科學(xué)家對于如何運用大數(shù)據(jù)有更好的理解??茖W(xué)需要嚴(yán)謹(jǐn),我認(rèn)為數(shù)據(jù)應(yīng)用植根于學(xué)術(shù)嚴(yán)謹(jǐn),但是在應(yīng)用層面工作。應(yīng)用數(shù)據(jù)科學(xué)家的工作是先進(jìn)行架設(shè),再用大數(shù)據(jù)進(jìn)行驗證。每個人都會受惠于他們的研究發(fā)現(xiàn)和工具。
行業(yè)數(shù)據(jù)科學(xué)家用應(yīng)用數(shù)據(jù)科學(xué)地解決某個具體的市場問題、行業(yè)、生意,實現(xiàn)利益最大化的單一目的。行業(yè)數(shù)據(jù)科學(xué)家得擅長溝通,能夠讓他們的發(fā)現(xiàn)應(yīng)用于商業(yè)。將工商、經(jīng)濟(jì)和會計方面的經(jīng)驗應(yīng)用在商業(yè)領(lǐng)域是他的價值所在。與商業(yè)分析師和商業(yè)顧問的角色有點相似。
要成為一名數(shù)據(jù)科學(xué)家,需要掌握哪些核心技能?
作為一名數(shù)據(jù)科學(xué)家,一般需要編程和數(shù)據(jù)庫、數(shù)學(xué)&統(tǒng)計、交流和可視化、領(lǐng)導(dǎo)力和軟技能:四個方面的技能。
1、編程和數(shù)據(jù)庫
一般來說,數(shù)據(jù)科學(xué)家大多要求具備編程、計算機(jī)科學(xué)相關(guān)的專業(yè)背景,掌握對處理大數(shù)據(jù)所必需的Hadoop、Mahout等大規(guī)模并行處理技術(shù)與機(jī)器學(xué)習(xí)相關(guān)的技能。一般能利用python熟練的獲取數(shù)據(jù),整理數(shù)據(jù),并會使用matplotlib展現(xiàn)數(shù)據(jù)。
2、數(shù)學(xué)、統(tǒng)計和數(shù)據(jù)挖掘
除了數(shù)學(xué)、統(tǒng)計方面的素養(yǎng)之外,還需要具備使用SPSS、SAS等主流統(tǒng)計分析軟件的技能。其中,面向統(tǒng)計分析的開源編程語言及其運行環(huán)境「R」最近備受矚目。R的強(qiáng)項不僅在于其包含了豐富的統(tǒng)計分析庫,而且具備將結(jié)果進(jìn)行可視化的高品質(zhì)圖表生成功能,并可以通過簡單的命令來運行。此外,它還具備稱為CRAN(The Comprehensive R Archive Network)的包擴(kuò)展機(jī)制,通過導(dǎo)入擴(kuò)展包就可以使用標(biāo)準(zhǔn)狀態(tài)下所不支持的函數(shù)和數(shù)據(jù)集。
信息的質(zhì)量很大程度上依賴于其表達(dá)方式。對數(shù)字羅列所組成的數(shù)據(jù)中所包含的意義進(jìn)行分析,開發(fā)Web原型,使用外部API將圖表、地圖、Dashboard等其他服務(wù)統(tǒng)一起來,從而使分析結(jié)果可視化,這是對于數(shù)據(jù)科學(xué)家來說十分重要的技能之一。
4、領(lǐng)導(dǎo)力和軟技能
數(shù)據(jù)科學(xué)家不僅要具有黑客的頭腦,對數(shù)據(jù)有好奇心,還要對商業(yè)有熱情,是有影響力、有創(chuàng)造力,能解決問題的人。
總之,數(shù)據(jù)科學(xué)家之所以被稱為「科學(xué)家」,而區(qū)別于「數(shù)據(jù)工程師」和「數(shù)據(jù)分析師」,其根本在于對數(shù)據(jù)有極端敏銳的直覺和本質(zhì)的認(rèn)知,對問題和業(yè)務(wù)有深入的洞察和理解,因而能夠解決復(fù)雜數(shù)據(jù)帶來的問題。
總結(jié)
在過去,對于「信息技術(shù)」,我們通常只關(guān)注「T」- 技術(shù)、硬件,因為這是切實可見的東西?,F(xiàn)在,我們需要把目光放在「I」- 信息上,它不是那么切實可見,但某種程度上卻更加重要。
在人類永無止境的探索過程中,我們可以從我們能收集的信息中,來了解這個世界,以及人類在這個世界中所處的地位。
這就是為什么大數(shù)據(jù)如此重要。
這也是數(shù)據(jù)科學(xué)家工作的意義。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03