
大道至簡的數(shù)據(jù)分析方法論
學(xué)習數(shù)據(jù)分析師對大多數(shù)人而言是一件痛苦的事情,尤其看著厚厚的專業(yè)書籍、各種難以理解又缺乏解釋說明的術(shù)語定義,會讓這種痛苦加劇。但是有些書或文章能將復(fù)雜的理論用非常通俗、口語化的方式講述出來,讓讀者不費勁,一下就能明白。這些內(nèi)容實在是讀書人的一種福音。說到底,互聯(lián)網(wǎng)思維中的用戶思維談了這么久,教育、培訓(xùn)類內(nèi)容的創(chuàng)作者們也應(yīng)該好好改變一下,站在讀者的角度說話了。
本文談的是數(shù)據(jù)分析方法。根據(jù)筆者對眾多企業(yè)的接觸和了解,雖然現(xiàn)在大部分企業(yè)都對數(shù)據(jù)越來越重視,但目前仍有相當多的企業(yè)和從業(yè)者還沒有摸清數(shù)據(jù)分析的門道,不知道自己的數(shù)據(jù)該怎么分析,希望得專業(yè)人員的到幫助。
筆者以前學(xué)習數(shù)據(jù)分析方法時也很痛苦,看了不少書,內(nèi)容很多,但難以記全,更難以運用,后來加入永洪科技給眾多企業(yè)做數(shù)據(jù)分析系統(tǒng),通過大量的項目實踐,才慢慢能談得上入門。
好的方法論應(yīng)該是易學(xué)易用的?,F(xiàn)在,本文就努力嘗試用最簡單易懂的文筆,讓初學(xué)數(shù)據(jù)分析的人看完就能理解并掌握數(shù)據(jù)分析方法中最核心、最常用的要點,至少能滿足90%的日常需求。做到這一點,必須將博大精深的數(shù)據(jù)分析方法提煉成人們能記得住的3點,而不是30點,再濃縮到一篇文章的篇幅,而不是一本書的厚度。
1、數(shù)據(jù)分兩種,維度和度量,分析就是維度和度量的組合
下面是一個最簡單的消費者購物的數(shù)據(jù)例子。
先不管這個數(shù)據(jù)表是存在excel里還是數(shù)據(jù)庫里,只關(guān)注數(shù)據(jù)本身。表里涉及到的數(shù)據(jù)項(或者叫字段)有“訂單ID”、“用戶ID”、“地區(qū)”、“年齡”、“訂單金額”、“訂單商品”、“訂單時間”。
這些數(shù)據(jù)項有什么差異呢?總體而言,數(shù)據(jù)分兩種,一種叫維度,一種叫度量(或者叫指標)。上面這個例子里,“訂單金額”是度量,其余數(shù)據(jù)項都是維度。
可以看出,度量是具體的計算用的量化數(shù)值,而維度是描述事物的各種屬性信息。我們在做數(shù)據(jù)分析時,歸根結(jié)底就是在不停的做各種維度和度量的組合,比如北京地區(qū)的訂單金額總和,21到30歲用戶的訂單金額平均數(shù);或者單獨對維度和度量進行數(shù)學(xué)公式計算,比如所有的訂單金額總和,用戶數(shù)(用戶ID的不重復(fù)計數(shù))等等。
從數(shù)據(jù)類型上看,度量都是數(shù)值,但是數(shù)值不一定是度量,比如訂單ID,雖然是數(shù)值,但是不是度量而是維度,而時間、文本類的數(shù)據(jù)都是維度。
有一點需要格外注意,維度和度量是可以轉(zhuǎn)換的。比如要看“年齡”的平均數(shù),這里的“年齡”就是度量,要看19歲用戶的訂單情況,這里的“年齡”就是維度。對于一個數(shù)據(jù)項而言,到底它是維度還是度量,是根據(jù)用戶的需求而定的,很像量子效應(yīng),狀態(tài)只有需求確定后才會隨之確定。
另外,維度可以衍生出新的維度和度量,比如用“地區(qū)”維度衍生出一個大區(qū)維度,“北京”、“天津”都對應(yīng)“華北大區(qū)”,或者用“年齡”維度衍生出一個年齡范圍維度,20到29歲=“青年人”,30到39歲=“中年人”,40到49歲=“資深中年人”。再比如上述的平均年齡,就是用“年齡”維度衍生出一個度量。
度量也可以衍生出新的維度和度量,比如用“訂單金額”度量衍生出一個金額范圍維度,100元以下對應(yīng)“小額訂單”,500元以上對應(yīng)“大額訂單”等等。再比如用“收入”度量和“成本”度量相減,可以得到一個“利潤”度量。
2、做判斷用對比
下面提出一個問題:企業(yè)A今年收入8000萬,是高還是低?大家看著這個問題,應(yīng)該會感到無從判斷,因為沒有參照物,即沒有對比。因此,拿到一個數(shù)據(jù),要判斷是好是壞是高是低,必須要進行對比。
首先,企業(yè)A可以跟自己比。如果前年收入2000萬,去年收入4000萬,那今年8000萬算很好了。去年收入1個億,今年8000萬就是糟糕了。這叫縱向?qū)Ρ取?/span>
其次,企業(yè)A也可以跟其他人比。同行的幾家競爭對手企業(yè)今年都收入幾個億,那企業(yè)A的8000萬就不理想。這叫橫向?qū)Ρ取?/span>
第三,企業(yè)A還可以對比不同的維度和度量。比如競爭對手都做全國市場,企業(yè)A只做山東市場。企業(yè)A在山東市場的收入比競爭對手在山東市場的收入高,那么就本地區(qū)而言,企業(yè)A做的更好,而放眼全國,企業(yè)A做的就有局限。比如如果競爭對手都做了十幾年,而企業(yè)A剛做四五年,那企業(yè)A就算做的不錯,但如果成立的時間相仿的競爭對手已經(jīng)過億了,那企業(yè)A就算做的不夠好。這叫綜合對比。
孩子考試考了95分,家長很高興,因為知道滿分是100分,有參照物。最近一次考試考了80分,家長會發(fā)火,因為過去的95分成了新參照物。后來一問,發(fā)現(xiàn)這次卷子出難了,孩子已經(jīng)是班級第一了,就又轉(zhuǎn)怒為喜,這里其他孩子就成了參(xi)照(sheng)物(pin)。
對比的參照物不同,得到的判斷結(jié)論也就不同。為了避免結(jié)論片面、不客觀,應(yīng)該盡量多用綜合對比。
3、找原因用細分
今年利潤下降了,老板很生氣,下令查找原因,緝拿“嫌犯”。原因怎么找呢?注意是找原因,不是找理由。很多人往往不知道如何查找原因,最后給出的都是理由。
先看一個示例的原因結(jié)論是什么——“因為四季度華南區(qū)域洗衣機的銷量下降了,導(dǎo)致了今年利潤的下降”。讓我們分析一下這個原因有什么特點。
我們會發(fā)現(xiàn),這個原因是由時間、區(qū)域、產(chǎn)品這三個維度和銷量這一個度量組成的,于是我們可以知道,對于問題原因的查找定位,本質(zhì)上就是在回答哪些維度下的哪些度量的下降或上升,導(dǎo)致了問題的發(fā)生。
這就是在做細分。
我們可以按維度細分,有多少維度,就可以有多少種細分的方向。比如看是去年所有月份都下降了,還是只有某幾個月下降。如果是后者,那么就可以縮小查找的數(shù)據(jù)范圍。聚焦到這幾個月后,可以再看是哪些區(qū)域下降了,進一步細分。
入手的維度的先后順序影響不大,問題原因涉及的維度也無法預(yù)知,因此可以從任意一個維度作為入口開始進行細分。
如果出問題的指標有相關(guān)的先導(dǎo)指標,則要想進一步挖掘問題原因,細分后還要看不同的度量,比如上述的原因結(jié)論示例是“因為四季度華南區(qū)域洗衣機的銷量下降了,導(dǎo)致了今年利潤的下降”,問題是“利潤”而原因是“銷量”,因為利潤是通過別的度量計算衍生出來的。
細分無止境,細到什么地步才夠呢?答案是,到可操作的區(qū)間才夠。
比如就細分到“四季度利潤下降,其它季度沒有下降”,還是沒有解決問題的辦法,必須細到哪個時間段哪個區(qū)域哪條產(chǎn)品線,直到細到某一個最終責任人,才具有可操作性。需要注意的是,在真實情況中,問題往往不一定只有一個原因,而是多個原因綜合起來形成的。
我司永洪科技主推的一站式大數(shù)據(jù)分析平臺軟件,為什么提供“縮放”和“筆刷”兩種交互操作,就是為了滿足“對比”和“細分”兩種場景。
舉一個例子,如下圖,左圖是各產(chǎn)品的收入毛利對比,右圖是各品類利潤趨勢,現(xiàn)在用戶想聚焦到“花茶”品類下的三種產(chǎn)品上,看看它們的利潤如何。
有人可能會問,這個效果很類似篩選,為什么不在旁邊放一些篩選器來實現(xiàn)呢?篩選器可以有,但現(xiàn)實情況中,當我們在一個圖表上發(fā)現(xiàn)問題,不一定就能很容易地找到與其對應(yīng)的篩選條件,尤其是散點圖。因此,直接在圖表上選擇會非常方便高效。
再舉一個例子,下圖是產(chǎn)品利潤趨勢分析,用戶發(fā)現(xiàn)從2009年7月開始,利潤有連續(xù)4個月的下滑(如紅框所示),用戶想知道為什么。
與“縮放”不同,“筆刷”方便用戶將局部數(shù)據(jù)和整體數(shù)據(jù)進行對比。因為在上面這個例子中,單純看哪些產(chǎn)品這4個月銷售收入的絕對值低,并不能說明什么,有些產(chǎn)品本來賣的就少,一定要看哪些產(chǎn)品在這4個月相對表現(xiàn)不好。
先判斷數(shù)據(jù)好不好,再分析原因是什么,數(shù)據(jù)分析的環(huán)節(jié)鏈條基本就算完整了。
什么時候去碰機器學(xué)習、數(shù)據(jù)挖掘這樣高大上的東東。一句話,先把上述的數(shù)據(jù)發(fā)分析方法做到游刃有余,再搞那些高大上的。不要迷信復(fù)雜的算法,很多企業(yè)內(nèi)部數(shù)據(jù)分析的大拿,往往都是深度理解業(yè)務(wù),用的都是普通的計算方法,就能完成很精彩實用的分析過程。
機器學(xué)習,數(shù)據(jù)挖掘等什么時候會用到?簡單而言,數(shù)據(jù)項多到人眼看不過來的時候會用到。如果總共就十來個數(shù)據(jù)項,每個拿出來單獨出張圖看一眼就看出端倪了,其實就不太需要用挖掘算法。如果總共幾百個數(shù)據(jù)項,想看某一個數(shù)據(jù)項是受哪幾個數(shù)據(jù)項影響最大,人眼看不過來,用挖掘算法就比較合適cda數(shù)據(jù)分析師培訓(xùn)
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10