
基于技能的改善數(shù)據(jù)科學(xué)實(shí)踐的方法
在當(dāng)今的大數(shù)據(jù)時代,利用數(shù)據(jù)科學(xué)理論進(jìn)行數(shù)據(jù)分析起著越來越重要的作用。探討不同數(shù)據(jù)技巧類型和熟練程度對相關(guān)項(xiàng)目有著怎樣的影響也開始具有重要意義。近日,AnalyticsWeek的首席研究員、Bussiness Over Broadway的總裁Bob Hayes博士就公開了研究數(shù)據(jù)分析項(xiàng)目成功所必需技能的相關(guān)結(jié)果。Bob所提出的基于技能的數(shù)據(jù)科學(xué)驅(qū)動力矩陣方法,可以指出最能改善數(shù)據(jù)科學(xué)實(shí)踐的若干技能。
首先,Bob在AnalyticsWeek的研究包含了很多向數(shù)據(jù)專家提出的,有關(guān)技能、工作角色和教育水平等有關(guān)的問題調(diào)查。該調(diào)查過程針對5個技能領(lǐng)域(包括商業(yè)、技術(shù)、編程、數(shù)學(xué)和建模以及統(tǒng)計(jì))的25個數(shù)據(jù)技能進(jìn)行,將其熟練程度劃分為了6個等級:完全不知道(0分)、略知(20分)、新手(40)、熟練(60分)、非常熟練(80分)和專家(100分)。這些不同的等級就代表了數(shù)據(jù)專家給予幫助或需要接受幫助的能力水平。其中,“熟練”表示剛好可以成功完成相關(guān)任務(wù),為某個數(shù)據(jù)技能所能接受的最小等級?!笆炀殹币韵碌牡燃壉硎就瓿扇蝿?wù)還需要幫助,等級越低需要的幫助越多;而“熟練”以上的等級則表示給予別人幫助的能力,等級越高給予的幫助可以更多。
Bob列出了4中不同工作角色對于25種不同數(shù)據(jù)技能的熟練程度。從上圖可以看出,不同領(lǐng)域的專家對其領(lǐng)域內(nèi)技能的掌握更加熟練。然而,即使是數(shù)據(jù)專家對于某些技能的掌握程度也達(dá)不到“熟練”的程度。例如,上圖中淺黃色和淺紅色區(qū)域都在60分以下。這些技能包括非結(jié)構(gòu)化數(shù)據(jù)、NLP、機(jī)器學(xué)習(xí)、大數(shù)據(jù)和分布式數(shù)據(jù)、云管理、前端編程、優(yōu)化、概率圖模型以及算法和貝葉斯統(tǒng)計(jì)。而且,針對以下9種技能,只有一種類型的專家能夠達(dá)到熟練程度——產(chǎn)品設(shè)計(jì)、商業(yè)開發(fā)、預(yù)算編制、數(shù)據(jù)庫管理、后端編程、數(shù)據(jù)管理、數(shù)學(xué)、統(tǒng)計(jì)/統(tǒng)計(jì)建模以及科學(xué)/科學(xué)方法。
并非所有的數(shù)據(jù)技能都同等重要
接下來,Bob繼續(xù)探討了不同數(shù)據(jù)技能的重要性。為此,AnalyticsWeek的研究調(diào)查了不同數(shù)據(jù)專家對其分析項(xiàng)目結(jié)果的滿意程度(也表示項(xiàng)目的成功程度):從0分到10分,其中0分表示極度不滿意,10分表示極度滿意。
對于每一種數(shù)據(jù)技能,Bob都將數(shù)據(jù)專家的熟練程度和項(xiàng)目的滿意度進(jìn)行了關(guān)聯(lián)。下表就列出了4種工作角色的技能關(guān)聯(lián)情況。表中關(guān)聯(lián)度越高的技能就表示該技能對項(xiàng)目成功的重要性越高。而表中上半部分的技能相比于下半部分的技能對于項(xiàng)目結(jié)果更加重要。從表中可以看出,商業(yè)管理者和研究者的數(shù)據(jù)技能和項(xiàng)目結(jié)果的滿意度關(guān)聯(lián)度最高(平均r=0.30),而開發(fā)人員和創(chuàng)新人員的關(guān)聯(lián)度只有0.18。此外,四種工作角色中不同數(shù)據(jù)技能之間的平均關(guān)聯(lián)度只有0.01,表明對于一種數(shù)據(jù)專家是必須的數(shù)據(jù)技能對于其他數(shù)據(jù)專家未必是必須的。
基于熟練程度和關(guān)聯(lián)度的結(jié)果,Bob繪出了數(shù)據(jù)科學(xué)驅(qū)動力矩陣(Data Science Driver Matrix,DSDM)的示意圖。其中,x軸代表所有數(shù)據(jù)技能的熟練程度,y軸代表技能與項(xiàng)目結(jié)果的關(guān)聯(lián)度,而原點(diǎn)則分別對于熟練程度的60分和關(guān)聯(lián)度的0.30。
在DSDM中,每一種數(shù)據(jù)技能都會落在其中的一個象限中。由此,這種技能所代表的含義也就不同。
Bob針對商業(yè)管理者、研究者、開發(fā)人員和創(chuàng)新人員4中角色分別創(chuàng)建了DSDM,并主要關(guān)注落在第一象限的技能。
商業(yè)管理者對于商業(yè)管理者而言,第一象限中的技能包括統(tǒng)計(jì)學(xué)/統(tǒng)計(jì)建模、數(shù)據(jù)挖掘、科學(xué)/科學(xué)方法、大數(shù)據(jù)和分布式數(shù)據(jù)、機(jī)器學(xué)習(xí)、貝葉斯統(tǒng)計(jì)、優(yōu)化、非結(jié)構(gòu)化數(shù)據(jù)、結(jié)構(gòu)化數(shù)據(jù)以及算法。而沒有任何技能落在第二象限。
開發(fā)人員對于開發(fā)人員,只有系統(tǒng)管理和數(shù)據(jù)挖掘兩種技能落在第一象限。絕大部分技能都落在第四象限。
創(chuàng)新人員對于創(chuàng)新人員,共有數(shù)學(xué)、數(shù)據(jù)挖掘、商業(yè)開發(fā)、概率圖模型和優(yōu)化等五種技能落在第一象限。而絕大部分技能都落在第四象限。
研究者對于研究者,共有算法、大數(shù)據(jù)和分布式數(shù)據(jù)、數(shù)據(jù)管理、產(chǎn)品設(shè)計(jì)、機(jī)器學(xué)習(xí)和貝葉斯統(tǒng)計(jì)等五種技能落在第一象限。而落在第二象限的技能卻很少。
從以上的研究中,Bob得到以下結(jié)論:
除此之外,Bob還提出團(tuán)隊(duì)合作對于項(xiàng)目成功也有著非凡的意義。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對數(shù)據(jù)的需求已從 “存儲” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11