
數(shù)據(jù)挖掘與統(tǒng)計(jì)分析的區(qū)別
多元統(tǒng)計(jì)老師說:“數(shù)據(jù)挖掘是以統(tǒng)計(jì)分析為基礎(chǔ)的,多數(shù)在采用統(tǒng)計(jì)分析的方法”。我有不同的觀點(diǎn),就寫點(diǎn)東西出來,大家可以自己評述。
我們過去曾給予數(shù)據(jù)挖掘方法智能的生命力,把它看作商務(wù)智能重要的發(fā)展方向。但統(tǒng)計(jì)學(xué)作為一個學(xué)科是否應(yīng)該關(guān)心它的發(fā)展。我們是否應(yīng)該將它看成統(tǒng)計(jì)的一部分?那意味作什么?最起碼它表明我們應(yīng)該:在我們的雜志上發(fā)表這類文章;在我們的本科課程中講授一些這方面的內(nèi)容,在我們的研究生中講授一些相關(guān)的研究課題。我們的博士生專業(yè)課就有《多元統(tǒng)計(jì)》一課;給那些這方面較優(yōu)秀的人提供一些獎勵(工作,職稱,獎品)。
答案并不明顯,在統(tǒng)計(jì)學(xué)的歷史上就忽略了許多在其它數(shù)據(jù)處理相關(guān)領(lǐng)域發(fā)展的新方法。如下是一些相關(guān)領(lǐng)域的例子。其中帶*的是那些在統(tǒng)計(jì)科學(xué)中萌芽,但隨后絕大部分又被統(tǒng)計(jì)學(xué)忽略的方法領(lǐng)域。
1 模式識別*–CS/工程
2 數(shù)據(jù)庫管理–CS/圖書館科學(xué)
3 神經(jīng)網(wǎng)絡(luò)*–心理學(xué)/CS/工程
4 機(jī)器學(xué)習(xí)*-CS/AI
5 圖形模型*(Beyes 網(wǎng))-CS/AI
6 遺傳工程–CS/工程
7 化學(xué)統(tǒng)計(jì)學(xué)*–化學(xué)
8 數(shù)據(jù)可視化**–CS/科學(xué)計(jì)算
可以肯定地說,個別的統(tǒng)計(jì)學(xué)家已經(jīng)致力于這些領(lǐng)域,但公平地說他們并未被我們的統(tǒng)計(jì)學(xué)學(xué)術(shù)圈接納,主流的學(xué)術(shù)圈并未接納這些,至少我沒有聽到哪個統(tǒng)計(jì)學(xué)教師鉆研神經(jīng)網(wǎng)絡(luò)。
既然象上面的一些從數(shù)據(jù)獲取知識的課題和統(tǒng)計(jì)學(xué)的關(guān)系如此冷淡,我們不禁要問:`什么不是統(tǒng)計(jì)學(xué)`。如果和數(shù)據(jù)聯(lián)系并不是一個課題成為統(tǒng)計(jì)學(xué)一部分的充分理由,那么什么才是充分的呢?到目前為止,統(tǒng)計(jì)學(xué)的定義好象依賴于一些工具,也就是我們在當(dāng)前的研究生課程中講授的那些東西。如下是一些例子:
.概率理論
.實(shí)分析
.測度論
.漸近理論
.決策理論
.馬耳可夫鏈
.遍歷理論
統(tǒng)計(jì)領(lǐng)域好象被定義成一族能提出如上或相關(guān)工具的問題。當(dāng)然這些工具過去和將來都會很有用。就象Brad Efron(Brad Efron, Department of Statistics Sequoia Hall 390 Serra Mall Stanford University Stanford)提醒我們一樣:“統(tǒng)計(jì)是最成功的信息科學(xué)。那些忽略了統(tǒng)計(jì)的人將受到懲罰,他們將在實(shí)際中自己重新發(fā)現(xiàn)該統(tǒng)計(jì)方法?!?/span>
有人認(rèn)為在當(dāng)前數(shù)據(jù)(及其相關(guān)應(yīng)用)以指數(shù)方式增長,而統(tǒng)計(jì)學(xué)家的數(shù)量顯然趕不上這種增長的情況下,我們統(tǒng)計(jì)學(xué)應(yīng)該將精力集中于信息科學(xué)中我們作得最好的部分,也就是基于數(shù)學(xué)的概率推斷。這是一種高度保守的觀點(diǎn),當(dāng)然它也有可能是最好的一種戰(zhàn)略。然而,如果我們接受這一種觀點(diǎn),我們統(tǒng)計(jì)學(xué)家在‘信息革命’浪潮中的作用肯定會逐漸消失殆盡(在這個舞臺上的演員越來越少)。當(dāng)然這種戰(zhàn)略的一個很好的優(yōu)點(diǎn)是它對我們創(chuàng)新的要求很少,我們只需要墨守成規(guī)就可以了。
另一種觀點(diǎn),早在1962年就由John Tukey[Tukey (1962)]提出來了,他認(rèn)為統(tǒng)計(jì)應(yīng)該關(guān)注數(shù)據(jù)分析。這個領(lǐng)域應(yīng)該依據(jù)問題而不是工具定義,也就是那些和數(shù)據(jù)有關(guān)的問題。如果這種觀點(diǎn)成為一種主流觀點(diǎn),那就要求對我們的實(shí)踐和學(xué)術(shù)課題作較大的改變。
首先(最重要的),我們應(yīng)該跟上計(jì)算的步伐。哪里有數(shù)據(jù),哪里就有計(jì)算。 一旦我們將計(jì)算方法看成是一個基本的統(tǒng)計(jì)工具(而不是一種方便地實(shí)現(xiàn)我們現(xiàn)成工具的方法),那么當(dāng)前許多和數(shù)據(jù)密切相關(guān)的領(lǐng)域?qū)⒉粡?fù)存在。他們將成為我們領(lǐng)域的一部分。
認(rèn)真對待計(jì)算工具而不是簡單地使用統(tǒng)計(jì)包–雖然這一點(diǎn)也很重要。如果計(jì)算成為我們的一個基本的研究工具,毫無疑問,我們的學(xué)生應(yīng)該學(xué)習(xí)相關(guān)的計(jì)算科學(xué)知識。這將包括數(shù)值線性代數(shù),數(shù)值和組合優(yōu)化,數(shù)據(jù)結(jié)構(gòu),算法設(shè)計(jì),機(jī)械體系,程序設(shè)計(jì)方法,數(shù)據(jù)庫管理,并行體系,和程序設(shè)計(jì)等等。我們也將擴(kuò)展我們的課程計(jì)劃,它應(yīng)該包括當(dāng)前的計(jì)算機(jī) 定向數(shù)據(jù)分析方法,它們大部分是在統(tǒng)計(jì)學(xué)科之外發(fā)展起來的。
如果我們想和其它的數(shù)據(jù)相關(guān)領(lǐng)域爭奪學(xué)術(shù)和商業(yè)的市場空間,我們的某些基本模式將不得不改變,我們將不得不調(diào)節(jié)對數(shù)學(xué)的幻想。數(shù)學(xué)(象計(jì)算)只是統(tǒng)計(jì)的一個工具,雖然非常重要,但并不是唯一能證實(shí)統(tǒng)計(jì)方法有效性的工具。數(shù)學(xué)不等價(jià)于理論,反之亦然。理論本來是創(chuàng)造理解力和數(shù)學(xué),雖然這很重要,但并不是作此的唯一方法。比如,在疾病的基因理論中數(shù)學(xué)內(nèi)容很少,但它卻使人們更好地理解許多醫(yī)學(xué)現(xiàn)象。我們將承認(rèn)經(jīng)驗(yàn)確認(rèn)方式,雖然有一定局限性,但的確是一種確認(rèn)方式。
我們可能也不得不改變我們的文化。每一個參與其它數(shù)據(jù)相關(guān)領(lǐng)域的統(tǒng)計(jì)學(xué)家都被他們和統(tǒng)計(jì)學(xué)的‘文化差距’所震撼。在其它的一些領(lǐng)域,‘想法’比數(shù)學(xué)技術(shù)(基礎(chǔ))更重要。一個有啟發(fā)的‘想法’就被認(rèn)為是有價(jià)值的,若有更詳細(xì)的確認(rèn)(理論的或經(jīng)驗(yàn)的)人們才去討論它的最終價(jià)值。思維方式是‘如果沒有證明是有罪的,那就是清白的’這和我們領(lǐng)域的思路是不一致的。過去如果一個新方法不是用數(shù)學(xué)證明是有效的,我們常常詆毀它,即使不這樣,我們也不會接受它。這種思路在數(shù)據(jù)集比較小和信息噪聲比較高時(shí)是合理的。特別地,我們應(yīng)該改變我們詆毀那些表現(xiàn)很好(通常在其它領(lǐng)域),但卻沒被我們理解的方法的習(xí)慣。
個人感覺,也許,現(xiàn)在的統(tǒng)計(jì)學(xué)正處在一個十字路口,我們可以決定是接受還是拒絕改變。如上所說,兩種觀點(diǎn)都極富說服力。雖然觀點(diǎn)豐富,但誰也不能肯定哪一種戰(zhàn)略能保持我們領(lǐng)域的健康發(fā)展和生命力。大多數(shù)統(tǒng)計(jì)學(xué)家好象認(rèn)為統(tǒng)計(jì)學(xué)對信息科學(xué)的影響越來越小。它們也不太同意為此作些什么。站主導(dǎo)的觀點(diǎn)認(rèn)為我們有市場問題,我們在別的領(lǐng)域的顧客和同事不了解我們的價(jià)值和重要性。這也是我們的主要專業(yè)組織,美國統(tǒng)計(jì)協(xié)會的看法。在戰(zhàn)略計(jì)劃委員(A mstat News-Feb.1997)會所作的五年計(jì)劃報(bào)告中有一節(jié)‘增強(qiáng)我們學(xué)科的聲望和健康’,報(bào)告中提及“以下的內(nèi)容意思是:統(tǒng)計(jì)學(xué)面臨危機(jī),市場的,人才的危機(jī)?!苯y(tǒng)計(jì)學(xué)可以在數(shù)據(jù)挖掘科學(xué)中發(fā)揮作用,統(tǒng)計(jì)學(xué)應(yīng)該和數(shù)據(jù)挖掘合作,而不是將它甩給計(jì)算機(jī)科學(xué)家。
有一部分統(tǒng)計(jì)專家認(rèn)為計(jì)算機(jī)和他們爭搶了市場,這個是表面現(xiàn)象。以我們的課程為例,老師講得很認(rèn)真,但很多人都沒有統(tǒng)計(jì)基礎(chǔ),這嚴(yán)重影響了學(xué)生對分析過程和結(jié)果的理解。SPSS、SAS等分析軟件已很優(yōu)秀,但運(yùn)行出來的結(jié)果仍需進(jìn)行解釋,統(tǒng)計(jì)專家的價(jià)值也在于此。數(shù)據(jù)挖掘的可視化比統(tǒng)計(jì)分析工具更成功,在目前BI風(fēng)起云涌的大背景下,企業(yè)數(shù)據(jù)倉庫發(fā)展到一定階段,數(shù)據(jù)挖掘的市場會越來越大,統(tǒng)計(jì)專家們的擔(dān)憂正變?yōu)楝F(xiàn)實(shí)。數(shù)據(jù)挖掘是面向最終用戶的,而統(tǒng)計(jì)分析的中間轉(zhuǎn)換環(huán)節(jié)提高了應(yīng)用成本。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對數(shù)據(jù)的需求已從 “存儲” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11