
如何區(qū)分理解數(shù)據(jù)科學(xué)家與機(jī)器學(xué)習(xí)工程師
導(dǎo)讀:
真正讓“數(shù)據(jù)科學(xué)”發(fā)揮出了強(qiáng)大威力的,是在人們意識(shí)到,數(shù)據(jù)不僅止于精算統(tǒng)計(jì)、商業(yè)智能和數(shù)據(jù)倉(cāng)庫(kù)的時(shí)候。將數(shù)據(jù)人和其他部門(軟件開發(fā)、營(yíng)銷、管理、人力資源)隔離開來的筒倉(cāng)被打破后,數(shù)據(jù)科學(xué)才真正彰顯出了自己的獨(dú)特之處。這門學(xué)科的中心思想,便是數(shù)據(jù)適用于萬(wàn)事萬(wàn)物。
在任何應(yīng)用中,嚴(yán)格屬于“機(jī)器學(xué)習(xí)”的部分其實(shí)都不算大:總需要有人去維護(hù)服務(wù)器設(shè)施,監(jiān)控?cái)?shù)據(jù)收集管道,確保計(jì)算資源充足什么的。
據(jù)我們所知,尚未出現(xiàn)過專門針對(duì)機(jī)器學(xué)習(xí)系統(tǒng)的嚴(yán)重攻擊。但機(jī)器學(xué)習(xí)系統(tǒng)將成日漸成為誘人的攻擊目標(biāo)。機(jī)器學(xué)習(xí)會(huì)帶來怎樣的新型漏洞?有沒有可能在訓(xùn)練系統(tǒng)用的數(shù)據(jù)中“下毒”,或者強(qiáng)迫系統(tǒng)在錯(cuò)誤的時(shí)候接受重新訓(xùn)練?由于機(jī)器學(xué)習(xí)系統(tǒng)會(huì)自我訓(xùn)練,我們需要想到,全新漏洞類型的出現(xiàn)必不可免。
原文翻譯:
十年來,我們一直在談?wù)摂?shù)據(jù)科學(xué)和數(shù)據(jù)科學(xué)家。雖然在怎么才叫“數(shù)據(jù)科學(xué)家”的問題上始終存在著爭(zhēng)議,但如今已有很多大學(xué)、網(wǎng)校和訓(xùn)練營(yíng)都在提供數(shù)據(jù)科學(xué)課程:碩士學(xué)位、資格證書等等,凡是你能想到的都有。當(dāng)我們只有統(tǒng)計(jì)學(xué)的時(shí)候,這個(gè)世界顯得更加簡(jiǎn)單,但簡(jiǎn)單并不總是科學(xué)的。而除了世界對(duì)數(shù)據(jù)科學(xué)家的需求程度以外,數(shù)據(jù)科學(xué)課程如此多種多樣,其實(shí)也說明不了什么。
隨著數(shù)據(jù)科學(xué)領(lǐng)域的發(fā)展,出現(xiàn)了很多難以區(qū)分的專業(yè)。公司用“數(shù)據(jù)科學(xué)家”和“數(shù)據(jù)科學(xué)團(tuán)隊(duì)”來描述各種各樣的角色,包括:
進(jìn)行專門分析與報(bào)告(包括商業(yè)智能和商業(yè)分析)的人
負(fù)責(zé)統(tǒng)計(jì)分析和建模(很多情況下會(huì)涉及到正式的實(shí)驗(yàn)和測(cè)試)的人
越來越多地使用筆記本電腦來開發(fā)原型的機(jī)器學(xué)習(xí)建模師
這當(dāng)中并沒有提及DJ·帕提爾(DJ Patil)和杰夫·哈默巴赫(Jeff Hammerbacher)在發(fā)明“數(shù)據(jù)科學(xué)家”這個(gè)稱謂時(shí)所想到的人——依據(jù)數(shù)據(jù)打造產(chǎn)品的人。
他們所想的這種數(shù)據(jù)科學(xué)家倒是跟機(jī)器學(xué)習(xí)建模師最為接近,只不過他們的工作是打造產(chǎn)品——一切以產(chǎn)品為中心,而不是秉持著研究人員的身份。他們的工作通常涉及到數(shù)據(jù)產(chǎn)品的很大一部分。無(wú)論具體的職務(wù)為何,數(shù)據(jù)科學(xué)家的角色絕非單純的統(tǒng)計(jì)學(xué)家。他們往往擁有理科博士學(xué)位,在處理大量數(shù)據(jù)方面擁有豐富的實(shí)踐經(jīng)驗(yàn)。他們基本上都是優(yōu)秀的程序員,絕非只是精通R或其他某種統(tǒng)計(jì)軟件包。他們懂得數(shù)據(jù)獲取、數(shù)據(jù)清洗、原型開發(fā)、原型投產(chǎn)、產(chǎn)品設(shè)計(jì)、搭建和管理數(shù)據(jù)設(shè)施等等。在實(shí)踐中,他們是典型的硅谷“獨(dú)角獸”:稀有,非常難招到。
重點(diǎn)并不是我們?cè)O(shè)立了邊界明確的專業(yè)。在一個(gè)欣欣向榮的領(lǐng)域里,總會(huì)存在著十分廣袤的灰色地帶。真正讓“數(shù)據(jù)科學(xué)”發(fā)揮出了強(qiáng)大威力的,是在人們意識(shí)到,數(shù)據(jù)不僅止于精算統(tǒng)計(jì)、商業(yè)智能和數(shù)據(jù)倉(cāng)庫(kù)的時(shí)候。將數(shù)據(jù)人和其他部門(軟件開發(fā)、營(yíng)銷、管理、人力資源)隔離開來的筒倉(cāng)被打破后,數(shù)據(jù)科學(xué)才真正彰顯出了自己的獨(dú)特之處。這門學(xué)科的中心思想,便是數(shù)據(jù)適用于萬(wàn)事萬(wàn)物。數(shù)據(jù)科學(xué)家的使命就是收集和利用所有的數(shù)據(jù)。所有部門都會(huì)牽涉其中。
當(dāng)我們找不著獨(dú)角獸的時(shí)候,就把他們的能力分解成不同的專業(yè),而數(shù)據(jù)科學(xué)在開始盛行起來后,也遭遇了這一出。突然之間,我們就有了數(shù)據(jù)工程師。數(shù)據(jù)工程師并非以數(shù)學(xué)家或統(tǒng)計(jì)學(xué)家為主要身份,但他們都懂?dāng)?shù)學(xué)和統(tǒng)計(jì)學(xué);他們的主要身份也不是軟件開發(fā)人員,但他們也懂軟件。數(shù)據(jù)工程師負(fù)責(zé)數(shù)據(jù)堆棧的操作和維護(hù)。他們能讓筆記本電腦上運(yùn)行的原型在生產(chǎn)中可靠運(yùn)行。他們負(fù)責(zé)弄清楚如何搭建和維護(hù)Hadoop或Spark集群,還有整個(gè)生態(tài)系統(tǒng)中的很多其他工具:數(shù)據(jù)庫(kù)(比如Hbase、Cassandra),流數(shù)據(jù)平臺(tái)(Kafka、SparkStreaming、Apache Flink),還有更多的活動(dòng)部件[princeray1] 。他們知道如何在云端操作,充分利用Amazon Web Services、MicrosoftAzure和Google Compute Engine的性能。
如今,我們已經(jīng)進(jìn)入了“數(shù)據(jù)科學(xué)”的第二個(gè)十年,機(jī)器學(xué)習(xí)已大行其道,于是“數(shù)據(jù)工程師”的定義也變得更加明確。2015年,谷歌發(fā)表了一篇后來得到廣泛引用的論文,里面凸顯了一項(xiàng)事實(shí):除了分析模型以外,現(xiàn)實(shí)世界中的機(jī)器學(xué)習(xí)系統(tǒng)還有很多其他構(gòu)成要素。企業(yè)開始注重打造數(shù)據(jù)產(chǎn)品,并將他們一直以來所采用的技術(shù)運(yùn)用到生產(chǎn)中。在任何應(yīng)用中,嚴(yán)格屬于“機(jī)器學(xué)習(xí)”的部分其實(shí)都不算大:總需要有人去維護(hù)服務(wù)器設(shè)施,監(jiān)控?cái)?shù)據(jù)收集管道,確保計(jì)算資源充足什么的。于是,開始有越來越多的企業(yè)建立機(jī)器學(xué)習(xí)工程師隊(duì)伍。這其實(shí)算不上一個(gè)新的專業(yè)領(lǐng)域,隨著機(jī)器學(xué)習(xí)(尤其是深度學(xué)習(xí))在數(shù)據(jù)科學(xué)圈子里變得炙手可熱,數(shù)據(jù)工程師必然會(huì)有進(jìn)一步的發(fā)展空間。但是機(jī)器學(xué)習(xí)工程師和數(shù)據(jù)工程師之間的區(qū)別到底是什么呢?
從某種程度上來說,機(jī)器學(xué)習(xí)工程師所做的正是一直以來軟件工程師(和優(yōu)秀數(shù)據(jù)工程師)的工作。以下是機(jī)器學(xué)習(xí)工程師的幾個(gè)重要特征:
·他們擁有比常見的數(shù)據(jù)科學(xué)家更厲害的軟件工程技能。機(jī)器學(xué)習(xí)工程師能夠和維護(hù)產(chǎn)品系統(tǒng)的工程師協(xié)同工作(有時(shí)就在同一個(gè)團(tuán)隊(duì))。他們懂得軟件開發(fā)方法、敏捷實(shí)踐和現(xiàn)代軟件開發(fā)人員使用的全套工具,從Eclipse和IntelliJ這樣的集成開發(fā)環(huán)境,到持續(xù)部署流水線的各個(gè)環(huán)節(jié),他們樣樣精通。
由于他們的焦點(diǎn)放在能讓數(shù)據(jù)產(chǎn)品順利投產(chǎn)上,他們會(huì)進(jìn)行全面思考,甚至將日志記錄、AB測(cè)試設(shè)施等環(huán)節(jié)也一并考慮進(jìn)來。
他們對(duì)在生產(chǎn)活動(dòng)中監(jiān)控?cái)?shù)據(jù)產(chǎn)品所特有的問題有著最新的認(rèn)識(shí)。監(jiān)控應(yīng)用程序的辦法有很多,但機(jī)器學(xué)習(xí)讓這個(gè)任務(wù)的要求上升到了一個(gè)新的層面。數(shù)據(jù)管道和模型都有可能過時(shí),需要重新訓(xùn)練,也可能遭到對(duì)手采用并不適用于傳統(tǒng)網(wǎng)絡(luò)應(yīng)用的方式大肆攻擊。機(jī)器學(xué)習(xí)系統(tǒng)會(huì)不會(huì)因?yàn)樘峁┹斎氲臄?shù)據(jù)管道被黑而失真?會(huì),所以機(jī)器學(xué)習(xí)工程師必須知道可如何探測(cè)到這些攻擊。
深度學(xué)習(xí)的興起催生出一種與其相關(guān)但更加專門化的崗位——深度學(xué)習(xí)工程師。我們還看到了“數(shù)據(jù)運(yùn)維團(tuán)隊(duì)”的出現(xiàn),但在如何定義這類團(tuán)隊(duì)的問題上,(截至目前)人們似乎仍未達(dá)成共識(shí)。
機(jī)器學(xué)習(xí)工程師的工作涉及到軟件架構(gòu)和設(shè)計(jì)。他們懂得AB測(cè)試這樣的實(shí)務(wù)操作,但更重要的是,他們不只是“懂得”AB測(cè)試——他們還知道如何進(jìn)行生產(chǎn)系統(tǒng)的AB測(cè)試。他們也懂得日志、安全這一類的問題,而且知道如何讓日志數(shù)據(jù)在數(shù)據(jù)工程師那里派上用場(chǎng)。所有這一切沒有什么新鮮東西:這只是崗位的深化,而不是改變。
機(jī)器學(xué)習(xí)和“數(shù)據(jù)科學(xué)”又有什么不同?顯然,數(shù)據(jù)科學(xué)的涵蓋面更廣,但深度學(xué)習(xí)的工作方式卻存在著一些格外不同的地方。人們總是容易把數(shù)據(jù)科學(xué)家想象成挖掘數(shù)據(jù)的人——研究不同的方法和模型,從中找出一個(gè)切實(shí)可行的。圖基(Tukey)的探索性數(shù)據(jù)分析等經(jīng)典方法為很多數(shù)據(jù)科學(xué)家迄今為止的工作定下了基調(diào):挖掘分析大量數(shù)據(jù),找到其中隱藏的價(jià)值。
深度學(xué)習(xí)顯著改變了這種模式。你不再親自處理數(shù)據(jù)。你知道你想要什么樣的結(jié)果,但你讓軟件去發(fā)現(xiàn)它。你想要打造一臺(tái)能夠打敗圍棋冠軍、正確標(biāo)記照片或者實(shí)現(xiàn)語(yǔ)言翻譯的機(jī)器。在機(jī)器學(xué)習(xí)的范疇中,這些目標(biāo)不會(huì)通過細(xì)致的挖掘來達(dá)成。在很多情況下,要挖掘的數(shù)據(jù)量實(shí)在太大,維度也太多。(圍棋的維度有多少?語(yǔ)言的維度呢?)機(jī)器學(xué)習(xí)能做到的,就是自己建立模型——自己進(jìn)行數(shù)據(jù)挖掘和調(diào)整。
于是,數(shù)據(jù)科學(xué)家并沒有做多少挖掘的工作。他們的目標(biāo)并非找到數(shù)據(jù)的意義。他們認(rèn)為價(jià)值本來就在那里。他們真正的目標(biāo)是打造能夠分析數(shù)據(jù)和生成結(jié)果的機(jī)器——?jiǎng)?chuàng)建出一張可以被調(diào)教到能使用輸入數(shù)據(jù)生成可靠結(jié)果的神經(jīng)網(wǎng)絡(luò)。統(tǒng)計(jì)學(xué)不再那么重要。事實(shí)上,機(jī)器學(xué)習(xí)的大神器是“大眾化”,讓機(jī)器學(xué)習(xí)系統(tǒng)可由主題專家而不是人工智能博士打造。我們想讓圍棋選手打造出下一代的AlphaGo,而不是研究人員。我們想讓說西班牙語(yǔ)的人打造出能把其他語(yǔ)言自動(dòng)翻譯成西班牙語(yǔ)的引擎。
這種變化也對(duì)機(jī)器學(xué)習(xí)工程師產(chǎn)生了相應(yīng)的影響。在機(jī)器學(xué)習(xí)的范疇里,模型不是靜態(tài)的。隨著時(shí)間的推移,模型可能會(huì)逐漸失效。必須有人來監(jiān)控系統(tǒng),在必要時(shí)對(duì)其重新訓(xùn)練。這項(xiàng)工作對(duì)于當(dāng)初打造該系統(tǒng)的開發(fā)人員來說,可能很是無(wú)趣,但當(dāng)中的技術(shù)性卻很強(qiáng)。而且,這也需要對(duì)監(jiān)控工具有充分了解,因?yàn)檫@些監(jiān)控工具在設(shè)計(jì)時(shí)并不會(huì)考慮到數(shù)據(jù)應(yīng)用的問題。
所有的軟件開發(fā)人員和IT從業(yè)人員都應(yīng)該對(duì)安全性這個(gè)問題有所了解。據(jù)我們所知,尚未出現(xiàn)過專門針對(duì)機(jī)器學(xué)習(xí)系統(tǒng)的嚴(yán)重攻擊。但機(jī)器學(xué)習(xí)系統(tǒng)將成日漸成為誘人的攻擊目標(biāo)。機(jī)器學(xué)習(xí)會(huì)帶來怎樣的新型漏洞?有沒有可能在訓(xùn)練系統(tǒng)用的數(shù)據(jù)中“下毒”,或者強(qiáng)迫系統(tǒng)在錯(cuò)誤的時(shí)候接受重新訓(xùn)練?由于機(jī)器學(xué)習(xí)系統(tǒng)會(huì)自我訓(xùn)練,我們需要想到,全新漏洞類型的出現(xiàn)必不可免。
隨著工具的改進(jìn),我們將看到更多的數(shù)據(jù)科學(xué)家有能力轉(zhuǎn)型到生產(chǎn)系統(tǒng)領(lǐng)域。云環(huán)境和軟件即服務(wù)(SaaS)讓數(shù)據(jù)科學(xué)家能夠更簡(jiǎn)單地部署數(shù)據(jù)科學(xué)原型,將其投入生產(chǎn),而諸如Clipper、Ground(美國(guó)加州大學(xué)伯克利分校RISE實(shí)驗(yàn)室的新項(xiàng)目)這樣的開源工具也正開始涌現(xiàn)。但我們?nèi)詫⑿枰獢?shù)據(jù)工程師和機(jī)器學(xué)習(xí)工程師——那些通曉數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)知識(shí),知道如何在生產(chǎn)中部署和運(yùn)行系統(tǒng),能夠?yàn)?a href='/map/jiqixuexi/' style='color:#000;font-size:inherit;'>機(jī)器學(xué)習(xí)產(chǎn)品提供支持的工程師。他們才是最終極的“人性因素”。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類分析作為 “無(wú)監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10