
如何區(qū)分理解數(shù)據(jù)科學(xué)家與機(jī)器學(xué)習(xí)工程師
導(dǎo)讀:
真正讓“數(shù)據(jù)科學(xué)”發(fā)揮出了強(qiáng)大威力的,是在人們意識到,數(shù)據(jù)不僅止于精算統(tǒng)計(jì)、商業(yè)智能和數(shù)據(jù)倉庫的時候。將數(shù)據(jù)人和其他部門(軟件開發(fā)、營銷、管理、人力資源)隔離開來的筒倉被打破后,數(shù)據(jù)科學(xué)才真正彰顯出了自己的獨(dú)特之處。這門學(xué)科的中心思想,便是數(shù)據(jù)適用于萬事萬物。
在任何應(yīng)用中,嚴(yán)格屬于“機(jī)器學(xué)習(xí)”的部分其實(shí)都不算大:總需要有人去維護(hù)服務(wù)器設(shè)施,監(jiān)控?cái)?shù)據(jù)收集管道,確保計(jì)算資源充足什么的。
據(jù)我們所知,尚未出現(xiàn)過專門針對機(jī)器學(xué)習(xí)系統(tǒng)的嚴(yán)重攻擊。但機(jī)器學(xué)習(xí)系統(tǒng)將成日漸成為誘人的攻擊目標(biāo)。機(jī)器學(xué)習(xí)會帶來怎樣的新型漏洞?有沒有可能在訓(xùn)練系統(tǒng)用的數(shù)據(jù)中“下毒”,或者強(qiáng)迫系統(tǒng)在錯誤的時候接受重新訓(xùn)練?由于機(jī)器學(xué)習(xí)系統(tǒng)會自我訓(xùn)練,我們需要想到,全新漏洞類型的出現(xiàn)必不可免。
原文翻譯:
十年來,我們一直在談?wù)摂?shù)據(jù)科學(xué)和數(shù)據(jù)科學(xué)家。雖然在怎么才叫“數(shù)據(jù)科學(xué)家”的問題上始終存在著爭議,但如今已有很多大學(xué)、網(wǎng)校和訓(xùn)練營都在提供數(shù)據(jù)科學(xué)課程:碩士學(xué)位、資格證書等等,凡是你能想到的都有。當(dāng)我們只有統(tǒng)計(jì)學(xué)的時候,這個世界顯得更加簡單,但簡單并不總是科學(xué)的。而除了世界對數(shù)據(jù)科學(xué)家的需求程度以外,數(shù)據(jù)科學(xué)課程如此多種多樣,其實(shí)也說明不了什么。
隨著數(shù)據(jù)科學(xué)領(lǐng)域的發(fā)展,出現(xiàn)了很多難以區(qū)分的專業(yè)。公司用“數(shù)據(jù)科學(xué)家”和“數(shù)據(jù)科學(xué)團(tuán)隊(duì)”來描述各種各樣的角色,包括:
進(jìn)行專門分析與報(bào)告(包括商業(yè)智能和商業(yè)分析)的人
負(fù)責(zé)統(tǒng)計(jì)分析和建模(很多情況下會涉及到正式的實(shí)驗(yàn)和測試)的人
越來越多地使用筆記本電腦來開發(fā)原型的機(jī)器學(xué)習(xí)建模師
這當(dāng)中并沒有提及DJ·帕提爾(DJ Patil)和杰夫·哈默巴赫(Jeff Hammerbacher)在發(fā)明“數(shù)據(jù)科學(xué)家”這個稱謂時所想到的人——依據(jù)數(shù)據(jù)打造產(chǎn)品的人。
他們所想的這種數(shù)據(jù)科學(xué)家倒是跟機(jī)器學(xué)習(xí)建模師最為接近,只不過他們的工作是打造產(chǎn)品——一切以產(chǎn)品為中心,而不是秉持著研究人員的身份。他們的工作通常涉及到數(shù)據(jù)產(chǎn)品的很大一部分。無論具體的職務(wù)為何,數(shù)據(jù)科學(xué)家的角色絕非單純的統(tǒng)計(jì)學(xué)家。他們往往擁有理科博士學(xué)位,在處理大量數(shù)據(jù)方面擁有豐富的實(shí)踐經(jīng)驗(yàn)。他們基本上都是優(yōu)秀的程序員,絕非只是精通R或其他某種統(tǒng)計(jì)軟件包。他們懂得數(shù)據(jù)獲取、數(shù)據(jù)清洗、原型開發(fā)、原型投產(chǎn)、產(chǎn)品設(shè)計(jì)、搭建和管理數(shù)據(jù)設(shè)施等等。在實(shí)踐中,他們是典型的硅谷“獨(dú)角獸”:稀有,非常難招到。
重點(diǎn)并不是我們設(shè)立了邊界明確的專業(yè)。在一個欣欣向榮的領(lǐng)域里,總會存在著十分廣袤的灰色地帶。真正讓“數(shù)據(jù)科學(xué)”發(fā)揮出了強(qiáng)大威力的,是在人們意識到,數(shù)據(jù)不僅止于精算統(tǒng)計(jì)、商業(yè)智能和數(shù)據(jù)倉庫的時候。將數(shù)據(jù)人和其他部門(軟件開發(fā)、營銷、管理、人力資源)隔離開來的筒倉被打破后,數(shù)據(jù)科學(xué)才真正彰顯出了自己的獨(dú)特之處。這門學(xué)科的中心思想,便是數(shù)據(jù)適用于萬事萬物。數(shù)據(jù)科學(xué)家的使命就是收集和利用所有的數(shù)據(jù)。所有部門都會牽涉其中。
當(dāng)我們找不著獨(dú)角獸的時候,就把他們的能力分解成不同的專業(yè),而數(shù)據(jù)科學(xué)在開始盛行起來后,也遭遇了這一出。突然之間,我們就有了數(shù)據(jù)工程師。數(shù)據(jù)工程師并非以數(shù)學(xué)家或統(tǒng)計(jì)學(xué)家為主要身份,但他們都懂?dāng)?shù)學(xué)和統(tǒng)計(jì)學(xué);他們的主要身份也不是軟件開發(fā)人員,但他們也懂軟件。數(shù)據(jù)工程師負(fù)責(zé)數(shù)據(jù)堆棧的操作和維護(hù)。他們能讓筆記本電腦上運(yùn)行的原型在生產(chǎn)中可靠運(yùn)行。他們負(fù)責(zé)弄清楚如何搭建和維護(hù)Hadoop或Spark集群,還有整個生態(tài)系統(tǒng)中的很多其他工具:數(shù)據(jù)庫(比如Hbase、Cassandra),流數(shù)據(jù)平臺(Kafka、SparkStreaming、Apache Flink),還有更多的活動部件[princeray1] 。他們知道如何在云端操作,充分利用Amazon Web Services、MicrosoftAzure和Google Compute Engine的性能。
如今,我們已經(jīng)進(jìn)入了“數(shù)據(jù)科學(xué)”的第二個十年,機(jī)器學(xué)習(xí)已大行其道,于是“數(shù)據(jù)工程師”的定義也變得更加明確。2015年,谷歌發(fā)表了一篇后來得到廣泛引用的論文,里面凸顯了一項(xiàng)事實(shí):除了分析模型以外,現(xiàn)實(shí)世界中的機(jī)器學(xué)習(xí)系統(tǒng)還有很多其他構(gòu)成要素。企業(yè)開始注重打造數(shù)據(jù)產(chǎn)品,并將他們一直以來所采用的技術(shù)運(yùn)用到生產(chǎn)中。在任何應(yīng)用中,嚴(yán)格屬于“機(jī)器學(xué)習(xí)”的部分其實(shí)都不算大:總需要有人去維護(hù)服務(wù)器設(shè)施,監(jiān)控?cái)?shù)據(jù)收集管道,確保計(jì)算資源充足什么的。于是,開始有越來越多的企業(yè)建立機(jī)器學(xué)習(xí)工程師隊(duì)伍。這其實(shí)算不上一個新的專業(yè)領(lǐng)域,隨著機(jī)器學(xué)習(xí)(尤其是深度學(xué)習(xí))在數(shù)據(jù)科學(xué)圈子里變得炙手可熱,數(shù)據(jù)工程師必然會有進(jìn)一步的發(fā)展空間。但是機(jī)器學(xué)習(xí)工程師和數(shù)據(jù)工程師之間的區(qū)別到底是什么呢?
從某種程度上來說,機(jī)器學(xué)習(xí)工程師所做的正是一直以來軟件工程師(和優(yōu)秀數(shù)據(jù)工程師)的工作。以下是機(jī)器學(xué)習(xí)工程師的幾個重要特征:
·他們擁有比常見的數(shù)據(jù)科學(xué)家更厲害的軟件工程技能。機(jī)器學(xué)習(xí)工程師能夠和維護(hù)產(chǎn)品系統(tǒng)的工程師協(xié)同工作(有時就在同一個團(tuán)隊(duì))。他們懂得軟件開發(fā)方法、敏捷實(shí)踐和現(xiàn)代軟件開發(fā)人員使用的全套工具,從Eclipse和IntelliJ這樣的集成開發(fā)環(huán)境,到持續(xù)部署流水線的各個環(huán)節(jié),他們樣樣精通。
由于他們的焦點(diǎn)放在能讓數(shù)據(jù)產(chǎn)品順利投產(chǎn)上,他們會進(jìn)行全面思考,甚至將日志記錄、AB測試設(shè)施等環(huán)節(jié)也一并考慮進(jìn)來。
他們對在生產(chǎn)活動中監(jiān)控?cái)?shù)據(jù)產(chǎn)品所特有的問題有著最新的認(rèn)識。監(jiān)控應(yīng)用程序的辦法有很多,但機(jī)器學(xué)習(xí)讓這個任務(wù)的要求上升到了一個新的層面。數(shù)據(jù)管道和模型都有可能過時,需要重新訓(xùn)練,也可能遭到對手采用并不適用于傳統(tǒng)網(wǎng)絡(luò)應(yīng)用的方式大肆攻擊。機(jī)器學(xué)習(xí)系統(tǒng)會不會因?yàn)樘峁┹斎氲臄?shù)據(jù)管道被黑而失真?會,所以機(jī)器學(xué)習(xí)工程師必須知道可如何探測到這些攻擊。
深度學(xué)習(xí)的興起催生出一種與其相關(guān)但更加專門化的崗位——深度學(xué)習(xí)工程師。我們還看到了“數(shù)據(jù)運(yùn)維團(tuán)隊(duì)”的出現(xiàn),但在如何定義這類團(tuán)隊(duì)的問題上,(截至目前)人們似乎仍未達(dá)成共識。
機(jī)器學(xué)習(xí)工程師的工作涉及到軟件架構(gòu)和設(shè)計(jì)。他們懂得AB測試這樣的實(shí)務(wù)操作,但更重要的是,他們不只是“懂得”AB測試——他們還知道如何進(jìn)行生產(chǎn)系統(tǒng)的AB測試。他們也懂得日志、安全這一類的問題,而且知道如何讓日志數(shù)據(jù)在數(shù)據(jù)工程師那里派上用場。所有這一切沒有什么新鮮東西:這只是崗位的深化,而不是改變。
機(jī)器學(xué)習(xí)和“數(shù)據(jù)科學(xué)”又有什么不同?顯然,數(shù)據(jù)科學(xué)的涵蓋面更廣,但深度學(xué)習(xí)的工作方式卻存在著一些格外不同的地方。人們總是容易把數(shù)據(jù)科學(xué)家想象成挖掘數(shù)據(jù)的人——研究不同的方法和模型,從中找出一個切實(shí)可行的。圖基(Tukey)的探索性數(shù)據(jù)分析等經(jīng)典方法為很多數(shù)據(jù)科學(xué)家迄今為止的工作定下了基調(diào):挖掘分析大量數(shù)據(jù),找到其中隱藏的價值。
深度學(xué)習(xí)顯著改變了這種模式。你不再親自處理數(shù)據(jù)。你知道你想要什么樣的結(jié)果,但你讓軟件去發(fā)現(xiàn)它。你想要打造一臺能夠打敗圍棋冠軍、正確標(biāo)記照片或者實(shí)現(xiàn)語言翻譯的機(jī)器。在機(jī)器學(xué)習(xí)的范疇中,這些目標(biāo)不會通過細(xì)致的挖掘來達(dá)成。在很多情況下,要挖掘的數(shù)據(jù)量實(shí)在太大,維度也太多。(圍棋的維度有多少?語言的維度呢?)機(jī)器學(xué)習(xí)能做到的,就是自己建立模型——自己進(jìn)行數(shù)據(jù)挖掘和調(diào)整。
于是,數(shù)據(jù)科學(xué)家并沒有做多少挖掘的工作。他們的目標(biāo)并非找到數(shù)據(jù)的意義。他們認(rèn)為價值本來就在那里。他們真正的目標(biāo)是打造能夠分析數(shù)據(jù)和生成結(jié)果的機(jī)器——創(chuàng)建出一張可以被調(diào)教到能使用輸入數(shù)據(jù)生成可靠結(jié)果的神經(jīng)網(wǎng)絡(luò)。統(tǒng)計(jì)學(xué)不再那么重要。事實(shí)上,機(jī)器學(xué)習(xí)的大神器是“大眾化”,讓機(jī)器學(xué)習(xí)系統(tǒng)可由主題專家而不是人工智能博士打造。我們想讓圍棋選手打造出下一代的AlphaGo,而不是研究人員。我們想讓說西班牙語的人打造出能把其他語言自動翻譯成西班牙語的引擎。
這種變化也對機(jī)器學(xué)習(xí)工程師產(chǎn)生了相應(yīng)的影響。在機(jī)器學(xué)習(xí)的范疇里,模型不是靜態(tài)的。隨著時間的推移,模型可能會逐漸失效。必須有人來監(jiān)控系統(tǒng),在必要時對其重新訓(xùn)練。這項(xiàng)工作對于當(dāng)初打造該系統(tǒng)的開發(fā)人員來說,可能很是無趣,但當(dāng)中的技術(shù)性卻很強(qiáng)。而且,這也需要對監(jiān)控工具有充分了解,因?yàn)檫@些監(jiān)控工具在設(shè)計(jì)時并不會考慮到數(shù)據(jù)應(yīng)用的問題。
所有的軟件開發(fā)人員和IT從業(yè)人員都應(yīng)該對安全性這個問題有所了解。據(jù)我們所知,尚未出現(xiàn)過專門針對機(jī)器學(xué)習(xí)系統(tǒng)的嚴(yán)重攻擊。但機(jī)器學(xué)習(xí)系統(tǒng)將成日漸成為誘人的攻擊目標(biāo)。機(jī)器學(xué)習(xí)會帶來怎樣的新型漏洞?有沒有可能在訓(xùn)練系統(tǒng)用的數(shù)據(jù)中“下毒”,或者強(qiáng)迫系統(tǒng)在錯誤的時候接受重新訓(xùn)練?由于機(jī)器學(xué)習(xí)系統(tǒng)會自我訓(xùn)練,我們需要想到,全新漏洞類型的出現(xiàn)必不可免。
隨著工具的改進(jìn),我們將看到更多的數(shù)據(jù)科學(xué)家有能力轉(zhuǎn)型到生產(chǎn)系統(tǒng)領(lǐng)域。云環(huán)境和軟件即服務(wù)(SaaS)讓數(shù)據(jù)科學(xué)家能夠更簡單地部署數(shù)據(jù)科學(xué)原型,將其投入生產(chǎn),而諸如Clipper、Ground(美國加州大學(xué)伯克利分校RISE實(shí)驗(yàn)室的新項(xiàng)目)這樣的開源工具也正開始涌現(xiàn)。但我們?nèi)詫⑿枰獢?shù)據(jù)工程師和機(jī)器學(xué)習(xí)工程師——那些通曉數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)知識,知道如何在生產(chǎn)中部署和運(yùn)行系統(tǒng),能夠?yàn)?a href='/map/jiqixuexi/' style='color:#000;font-size:inherit;'>機(jī)器學(xué)習(xí)產(chǎn)品提供支持的工程師。他們才是最終極的“人性因素”。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03