
作為一個(gè)在數(shù)據(jù)科學(xué)領(lǐng)域工作了十多年的人,看到人們預(yù)言該領(lǐng)域?qū)⒃?0年內(nèi)如何滅絕是令人沮喪的。給出的典型原因是emergingAutoMLtools將如何消除從業(yè)者開發(fā)自己算法的需求。
我發(fā)現(xiàn)這樣的觀點(diǎn)特別令人沮喪,因?yàn)樗柚沽顺鯇W(xué)者足夠認(rèn)真地對(duì)待數(shù)據(jù)科學(xué),從而在它方面出類拔萃。坦率地說,對(duì)于一個(gè)需求只會(huì)進(jìn)一步增加的領(lǐng)域,看到這樣的預(yù)言是對(duì)數(shù)據(jù)科學(xué)界的傷害!
為什么任何一個(gè)理智的人會(huì)投入有限的時(shí)間和精力去學(xué)習(xí)即將滅絕的東西?
給你點(diǎn)東西。如果有一個(gè)領(lǐng)域你最有可能真正退休,那就是數(shù)據(jù)科學(xué)。我將給出數(shù)據(jù)科學(xué)不會(huì)很快滅絕的四個(gè)關(guān)鍵原因。然后我也會(huì)給你我的建議,以確保你在10年后保持在數(shù)據(jù)科學(xué)的正確一邊。
數(shù)據(jù)科學(xué)不會(huì)滅絕,但如果你不跟上它的步伐,你的技能可能會(huì)滅絕。我們潛水吧。
讓我們從科學(xué)開始。我不必讓你相信科學(xué)已經(jīng)存在了幾個(gè)世紀(jì)。科學(xué)的本質(zhì)是從數(shù)據(jù)中學(xué)習(xí)。我們觀察世界上的事物(收集數(shù)據(jù)),然后我們創(chuàng)建一個(gè)模型(傳統(tǒng)上稱為理論),可以總結(jié)和解釋這些觀察。我們創(chuàng)建這些模型來幫助我們解決問題。
數(shù)據(jù)科學(xué)的本質(zhì)也正是如此。收集數(shù)據(jù),通過創(chuàng)建模型從中學(xué)習(xí),然后使用那些模型解決問題。多年來,不同的學(xué)科已經(jīng)開發(fā)和完善了幾個(gè)工具來實(shí)現(xiàn)這一點(diǎn)。根據(jù)該領(lǐng)域的重點(diǎn),使用不同的名稱來描述這組工具和過程。術(shù)語是Data Science。
然而,以前的時(shí)代與現(xiàn)在的不同之處在于數(shù)據(jù)量和我們可用的計(jì)算能力。當(dāng)我們只有幾個(gè)數(shù)據(jù)點(diǎn)和幾個(gè)維度時(shí),手工將它們放在紙上并擬合一條直線(回歸)或識(shí)別模式是可能的。現(xiàn)在,我們可以廉價(jià)地從多個(gè)來源(多個(gè)特性)收集大量數(shù)據(jù)。當(dāng)你有大量的數(shù)據(jù)點(diǎn)和維度時(shí),擬合一條直線(或集群)是不可能的,也是不可行的。
如果收集數(shù)據(jù)并開發(fā)模型來解釋它的做法已經(jīng)存在了幾個(gè)世紀(jì),為什么你認(rèn)為它會(huì)在未來10年內(nèi)滅絕?
如果有什么不同的話,我們將收集更多種類的數(shù)據(jù),我們將需要?jiǎng)?chuàng)造性地將它們結(jié)合起來解決問題的新方法。
在“自動(dòng)機(jī)器學(xué)習(xí)”的保護(hù)傘下的幾種工具正在獲得吸引力,其中一些可能會(huì)導(dǎo)致數(shù)據(jù)科學(xué)的民主化。但是,大多數(shù)這樣的工具將有助于加快對(duì)cleaned數(shù)據(jù)輸入的不同算法的測試和實(shí)現(xiàn)。
但是向模型中獲取干凈數(shù)據(jù)的能力一點(diǎn)也不簡單。
事實(shí)上,一些與數(shù)據(jù)科學(xué)相關(guān)的調(diào)查已經(jīng)指出,任何數(shù)據(jù)科學(xué)家在收集和清理數(shù)據(jù)上花費(fèi)的時(shí)間都是不成比例的。例如,Anaconda的年度調(diào)查(數(shù)據(jù)科學(xué)家使用的領(lǐng)先分布之一)指出,數(shù)據(jù)科學(xué)家將66%的時(shí)間用于數(shù)據(jù)加載、清理和可視化,只有23%的時(shí)間用于模型訓(xùn)練、選擇和評(píng)分。我在這個(gè)領(lǐng)域工作了十多年的個(gè)人經(jīng)歷也是類似的。
學(xué)習(xí)算法如何在底層工作并理解它們的細(xì)微差別一點(diǎn)也不簡單,許多在線課程花時(shí)間解釋這些都是正確的。然而,這種對(duì)算法的關(guān)注只會(huì)造成一種錯(cuò)誤的錯(cuò)覺,好像數(shù)據(jù)科學(xué)就是關(guān)于模型的。許多有經(jīng)驗(yàn)的實(shí)踐者開始看到以數(shù)據(jù)清理為代價(jià)對(duì)模型的過度強(qiáng)調(diào)。Andrew Ng(該領(lǐng)域的領(lǐng)先專家)一直鼓勵(lì)數(shù)據(jù)科學(xué)界轉(zhuǎn)向以數(shù)據(jù)為中心的方法,而不是我們大多數(shù)人目前在數(shù)據(jù)科學(xué)項(xiàng)目中采用的以模型為中心的方法。在他的《收入通訊》中,他說:
這是一個(gè)常見的笑話,80%的機(jī)器學(xué)習(xí)實(shí)際上是數(shù)據(jù)清理,好像這是一個(gè)較小的任務(wù)。我的觀點(diǎn)是,如果我們80%的工作是數(shù)據(jù)準(zhǔn)備,那么確保數(shù)據(jù)質(zhì)量就是機(jī)器學(xué)習(xí)團(tuán)隊(duì)的重要工作。
像Kaggle這樣的網(wǎng)站進(jìn)一步加劇了這種情況,在這些網(wǎng)站上,參與者可以獲得干凈的數(shù)據(jù),任務(wù)僅限于開發(fā)不同的模型,目的是最大化預(yù)先確定的性能指標(biāo)。(Kaggle真棒!)
一個(gè)真實(shí)的項(xiàng)目處理幾個(gè)問題,而這些問題并不是從仔細(xì)清理的數(shù)據(jù)或定義的問題開始的。在大多數(shù)項(xiàng)目中,我們先驗(yàn)地不一定知道哪些特性是相關(guān)的,收集數(shù)據(jù)的頻率如何,以及需要回答的正確問題是什么。歡迎來到現(xiàn)實(shí)世界!
新的自動(dòng)化工具的出現(xiàn)將繼續(xù)使不同模型的實(shí)現(xiàn)變得容易和可訪問。然而,它無法對(duì)現(xiàn)實(shí)世界項(xiàng)目中更具挑戰(zhàn)性的問題進(jìn)行分類。許多這樣的問題依賴于上下文,自動(dòng)化的時(shí)機(jī)還不成熟。
也許是受到關(guān)于數(shù)據(jù)科學(xué)的炒作的驅(qū)使,我遇到過這樣的情況,人們接近我,告訴我他們有數(shù)據(jù),并希望我應(yīng)用“數(shù)據(jù)科學(xué)”來解決他們的問題(這可能也不一定是明確定義的)。我敢打賭,許多不是數(shù)據(jù)科學(xué)家的人認(rèn)為它是某種魔力(一個(gè)可以在一邊輸入數(shù)據(jù),另一端獲得輸出的工具)。
恰恰相反,真正的項(xiàng)目有需要平衡的權(quán)衡。這需要一種迭代方法,首先部署初始模型,然后在收集更多數(shù)據(jù)以進(jìn)一步改進(jìn)時(shí)監(jiān)視性能。
任何部署的模型只有在按預(yù)期使用時(shí)才有用。這是不能保證的。需要有一個(gè)熟練的人員元素,可以繼續(xù)監(jiān)視和診斷已部署模型的使用,并提出適當(dāng)?shù)慕鉀Q方案來改進(jìn)它。然而,監(jiān)測部分不一定要自動(dòng)化,甚至不一定要定量。可能會(huì)發(fā)生你無法預(yù)料的非常意外和奇怪的事情。
不久前,倫敦大都會(huì)警察局測試了一個(gè)實(shí)時(shí)面部識(shí)別系統(tǒng)。該系統(tǒng)有攝像頭,可以掃描購物中心和公共廣場上的人,提取各種面部特征,然后將這些特征與觀察名單中的嫌疑人進(jìn)行比較。然后,該系統(tǒng)將顯示任何匹配,供官員審查并決定是否需要阻止任何嫌疑人(在某些情況下,逮捕)。關(guān)于該系統(tǒng)運(yùn)作的一項(xiàng)獨(dú)立聲明提出了重大關(guān)切,并強(qiáng)調(diào)了幾個(gè)限制。在經(jīng)過6次審判確定的42名嫌疑人中,只有8名(僅19%)證明是正確的匹配。
有許多數(shù)據(jù)科學(xué)算法被歪曲的例子,使它們不夠充分,需要進(jìn)一步發(fā)展。就目前的情況來看,我們甚至還沒有處于模型被廣泛部署和使用的階段。因此,我們甚至沒有足夠的模型漂移或出錯(cuò)的用例來進(jìn)一步自動(dòng)化此類工具。到目前為止,我們所擁有的最好的方法是在模型部署時(shí)識(shí)別問題(例如,銀行、醫(yī)療保健、警務(wù))。
這是最先進(jìn)的。我們開發(fā)和部署模型,但結(jié)果證明它們是不夠的,不適合目的。我們正處在一個(gè)階段,我們只看到使用不合適的模型的早期后果。有沒有自動(dòng)化的解決方案來處理這個(gè)問題?一個(gè)都沒有!
即使是手動(dòng),我們也在受到挑戰(zhàn)!
這是我最喜歡的一點(diǎn)。一段時(shí)間以來,平凡的、重復(fù)的、非認(rèn)知要求的任務(wù)一直處于自動(dòng)化的風(fēng)險(xiǎn)之中。然而,這種干擾只會(huì)導(dǎo)致更多需要人類創(chuàng)造力和解決問題的工作。我們的記憶很糟糕,但我們,人類,在識(shí)別模式以解決問題時(shí),卻異常出色。
“你的頭腦是用來有想法的,而不是拿著它們?!贝笮l(wèi)·艾倫
數(shù)據(jù)科學(xué)是科學(xué)是有原因的。而是解決問題。我們面臨的問題,需要?jiǎng)?chuàng)造性的、巧妙的解決方案。我們正是在這一點(diǎn)上大放異彩,這是一種非常令人向往的技能。數(shù)據(jù)科學(xué)的用例只會(huì)增加。這僅僅是因?yàn)槲覀冋谑占嗟臄?shù)據(jù),我們有更多的計(jì)算能力在小芯片上實(shí)現(xiàn)復(fù)雜的數(shù)學(xué)運(yùn)算。
讓我向您展示實(shí)現(xiàn)當(dāng)今最著名的機(jī)器學(xué)習(xí)算法是多么的微不足道。
假設(shè)您已經(jīng)仔細(xì)清理了輸入變量(x)和輸出變量(y),準(zhǔn)備進(jìn)入模型。使用ingscikit-learn(Python中一個(gè)著名的開源機(jī)器學(xué)習(xí)庫),我們可以用以下兩行代碼實(shí)現(xiàn)決策樹:
from sklearn import tree tree.DecisionTreeClassifier.fit(X,Y)
我們可以用以下兩行代碼實(shí)現(xiàn)支持向量機(jī):
from sklearn import svm svm.SVC.fit(X,y)
你看到圖案了嗎?我們所需要做的就是改變函數(shù)名,然后你就有了模型。真正的數(shù)據(jù)科學(xué)家不會(huì)坐著從頭開始重新實(shí)現(xiàn)這些算法。他們最終將使用行業(yè)中成熟的庫,如Scikit-learn。
但你真的認(rèn)為大多數(shù)數(shù)據(jù)科學(xué)家都在這樣做,并因這項(xiàng)技能而被雇傭嗎?改變模型中的一個(gè)單詞,然后運(yùn)行,然后報(bào)告結(jié)果?不!
然而,作為一名數(shù)據(jù)科學(xué)家,如果這是你關(guān)注的全部,那么對(duì)這種技能的需求很快就會(huì)消失。
實(shí)現(xiàn)一個(gè)模型是大多數(shù)人可以做的事情,如果他們知道工具,而且很容易讓人接受培訓(xùn)。硬的部分是:
上面提到的技能是通過在現(xiàn)實(shí)世界中工作而獲得的,具有挑戰(zhàn)性的項(xiàng)目。它們需要時(shí)間,學(xué)習(xí)過程需要認(rèn)知能力。然而,隨著我們收集更多的數(shù)據(jù),面對(duì)獨(dú)特的行業(yè)挑戰(zhàn),面臨更多的競爭(而不是更少!),這些技能將變得越來越重要。
我上面列出的技能屬于解決問題和創(chuàng)造力的永恒領(lǐng)域。這些技能將繼續(xù)備受追捧,因?yàn)樗鼈儾荒茏詣?dòng)化。
無論如何,你應(yīng)該有一個(gè)你學(xué)習(xí)的工具,變得熟練,并理解來龍去脈,因?yàn)槟愕玫搅烁嗟慕?jīng)驗(yàn)。但是,要確保你能利用那些讓你在挑戰(zhàn)性項(xiàng)目中工作的機(jī)會(huì),在這些項(xiàng)目中你可以鍛煉你的創(chuàng)造性和解決問題的技能。
不要擔(dān)心數(shù)據(jù)科學(xué)很快就會(huì)滅絕。這樣的擔(dān)心只會(huì)分散你享受旅程的注意力,你會(huì)帶著半心半意的信念接近這個(gè)領(lǐng)域。如果你相信這樣的末日預(yù)言,你將無法利用有希望的機(jī)會(huì),讓你的技能停滯不前。事實(shí)上,你的需求將會(huì)消失!
“無論你認(rèn)為你能,還是你認(rèn)為你不能,你都是對(duì)的?!焙嗬じL?
但是,如果您繼續(xù)從事具有挑戰(zhàn)性的數(shù)據(jù)科學(xué)項(xiàng)目(從數(shù)據(jù)收集到模型部署),10年后您將處于該領(lǐng)域的正確一邊,您的需求只會(huì)增加!
選擇權(quán)在你。對(duì)此,作者提出了建議
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10CDA 數(shù)據(jù)分析師:商業(yè)數(shù)據(jù)分析實(shí)踐的落地者與價(jià)值創(chuàng)造者 商業(yè)數(shù)據(jù)分析的價(jià)值,最終要在 “實(shí)踐” 中體現(xiàn) —— 脫離業(yè)務(wù)場景的分 ...
2025-09-10機(jī)器學(xué)習(xí)解決實(shí)際問題的核心關(guān)鍵:從業(yè)務(wù)到落地的全流程解析 在人工智能技術(shù)落地的浪潮中,機(jī)器學(xué)習(xí)作為核心工具,已廣泛應(yīng)用于 ...
2025-09-09SPSS 編碼狀態(tài)區(qū)域中 Unicode 的功能與價(jià)值解析 在 SPSS(Statistical Product and Service Solutions,統(tǒng)計(jì)產(chǎn)品與服務(wù)解決方案 ...
2025-09-09