
數(shù)據(jù)挖掘與統(tǒng)計(jì)分析的區(qū)別
多元統(tǒng)計(jì)老師說:“數(shù)據(jù)挖掘是以統(tǒng)計(jì)分析為基礎(chǔ)的,多數(shù)在采用統(tǒng)計(jì)分析的方法”。我有不同的觀點(diǎn),就寫點(diǎn)東西出來,大家可以自己評(píng)述。
我們過去曾給予數(shù)據(jù)挖掘方法智能的生命力,把它看作商務(wù)智能重要的發(fā)展方向。但統(tǒng)計(jì)學(xué)作為一個(gè)學(xué)科是否應(yīng)該關(guān)心它的發(fā)展。我們是否應(yīng)該將它看成統(tǒng)計(jì)的一部分?那意味作什么?最起碼它表明我們應(yīng)該:在我們的雜志上發(fā)表這類文章;在我們的本科課程中講授一些這方面的內(nèi)容,在我們的研究生中講授一些相關(guān)的研究課題。我們的博士生專業(yè)課就有《多元統(tǒng)計(jì)》一課;給那些這方面較優(yōu)秀的人提供一些獎(jiǎng)勵(lì)(工作,職稱,獎(jiǎng)品)。
答案并不明顯,在統(tǒng)計(jì)學(xué)的歷史上就忽略了許多在其它數(shù)據(jù)處理相關(guān)領(lǐng)域發(fā)展的新方法。如下是一些相關(guān)領(lǐng)域的例子。其中帶*的是那些在統(tǒng)計(jì)科學(xué)中萌芽,但隨后絕大部分又被統(tǒng)計(jì)學(xué)忽略的方法領(lǐng)域。
1 模式識(shí)別*–CS/工程
2 數(shù)據(jù)庫管理–CS/圖書館科學(xué)
3 神經(jīng)網(wǎng)絡(luò)*–心理學(xué)/CS/工程
4 機(jī)器學(xué)習(xí)*-CS/AI
5 圖形模型*(Beyes 網(wǎng))-CS/AI
6 遺傳工程–CS/工程
7 化學(xué)統(tǒng)計(jì)學(xué)*–化學(xué)
8 數(shù)據(jù)可視化**–CS/科學(xué)計(jì)算
可以肯定地說,個(gè)別的統(tǒng)計(jì)學(xué)家已經(jīng)致力于這些領(lǐng)域,但公平地說他們并未被我們的統(tǒng)計(jì)學(xué)學(xué)術(shù)圈接納,主流的學(xué)術(shù)圈并未接納這些,至少我沒有聽到哪個(gè)統(tǒng)計(jì)學(xué)教師鉆研神經(jīng)網(wǎng)絡(luò)。
既然象上面的一些從數(shù)據(jù)獲取知識(shí)的課題和統(tǒng)計(jì)學(xué)的關(guān)系如此冷淡,我們不禁要問:`什么不是統(tǒng)計(jì)學(xué)`。如果和數(shù)據(jù)聯(lián)系并不是一個(gè)課題成為統(tǒng)計(jì)學(xué)一部分的充分理由,那么什么才是充分的呢?到目前為止,統(tǒng)計(jì)學(xué)的定義好象依賴于一些工具,也就是我們?cè)诋?dāng)前的研究生課程中講授的那些東西。如下是一些例子:
.概率理論
.實(shí)分析
.測(cè)度論
.漸近理論
.決策理論
.馬耳可夫鏈
.遍歷理論
統(tǒng)計(jì)領(lǐng)域好象被定義成一族能提出如上或相關(guān)工具的問題。當(dāng)然這些工具過去和將來都會(huì)很有用。就象Brad Efron(Brad Efron, Department of Statistics Sequoia Hall 390 Serra Mall Stanford University Stanford)提醒我們一樣:“統(tǒng)計(jì)是最成功的信息科學(xué)。那些忽略了統(tǒng)計(jì)的人將受到懲罰,他們將在實(shí)際中自己重新發(fā)現(xiàn)該統(tǒng)計(jì)方法?!?/span>
有人認(rèn)為在當(dāng)前數(shù)據(jù)(及其相關(guān)應(yīng)用)以指數(shù)方式增長(zhǎng),而統(tǒng)計(jì)學(xué)家的數(shù)量顯然趕不上這種增長(zhǎng)的情況下,我們統(tǒng)計(jì)學(xué)應(yīng)該將精力集中于信息科學(xué)中我們作得最好的部分,也就是基于數(shù)學(xué)的概率推斷。這是一種高度保守的觀點(diǎn),當(dāng)然它也有可能是最好的一種戰(zhàn)略。然而,如果我們接受這一種觀點(diǎn),我們統(tǒng)計(jì)學(xué)家在‘信息革命’浪潮中的作用肯定會(huì)逐漸消失殆盡(在這個(gè)舞臺(tái)上的演員越來越少)。當(dāng)然這種戰(zhàn)略的一個(gè)很好的優(yōu)點(diǎn)是它對(duì)我們創(chuàng)新的要求很少,我們只需要墨守成規(guī)就可以了。
另一種觀點(diǎn),早在1962年就由John Tukey[Tukey (1962)]提出來了,他認(rèn)為統(tǒng)計(jì)應(yīng)該關(guān)注數(shù)據(jù)分析。這個(gè)領(lǐng)域應(yīng)該依據(jù)問題而不是工具定義,也就是那些和數(shù)據(jù)有關(guān)的問題。如果這種觀點(diǎn)成為一種主流觀點(diǎn),那就要求對(duì)我們的實(shí)踐和學(xué)術(shù)課題作較大的改變。
首先(最重要的),我們應(yīng)該跟上計(jì)算的步伐。哪里有數(shù)據(jù),哪里就有計(jì)算。 一旦我們將計(jì)算方法看成是一個(gè)基本的統(tǒng)計(jì)工具(而不是一種方便地實(shí)現(xiàn)我們現(xiàn)成工具的方法),那么當(dāng)前許多和數(shù)據(jù)密切相關(guān)的領(lǐng)域?qū)⒉粡?fù)存在。他們將成為我們領(lǐng)域的一部分。
認(rèn)真對(duì)待計(jì)算工具而不是簡(jiǎn)單地使用統(tǒng)計(jì)包–雖然這一點(diǎn)也很重要。如果計(jì)算成為我們的一個(gè)基本的研究工具,毫無疑問,我們的學(xué)生應(yīng)該學(xué)習(xí)相關(guān)的計(jì)算科學(xué)知識(shí)。這將包括數(shù)值線性代數(shù),數(shù)值和組合優(yōu)化,數(shù)據(jù)結(jié)構(gòu),算法設(shè)計(jì),機(jī)械體系,程序設(shè)計(jì)方法,數(shù)據(jù)庫管理,并行體系,和程序設(shè)計(jì)等等。我們也將擴(kuò)展我們的課程計(jì)劃,它應(yīng)該包括當(dāng)前的計(jì)算機(jī) 定向數(shù)據(jù)分析方法,它們大部分是在統(tǒng)計(jì)學(xué)科之外發(fā)展起來的。
如果我們想和其它的數(shù)據(jù)相關(guān)領(lǐng)域爭(zhēng)奪學(xué)術(shù)和商業(yè)的市場(chǎng)空間,我們的某些基本模式將不得不改變,我們將不得不調(diào)節(jié)對(duì)數(shù)學(xué)的幻想。數(shù)學(xué)(象計(jì)算)只是統(tǒng)計(jì)的一個(gè)工具,雖然非常重要,但并不是唯一能證實(shí)統(tǒng)計(jì)方法有效性的工具。數(shù)學(xué)不等價(jià)于理論,反之亦然。理論本來是創(chuàng)造理解力和數(shù)學(xué),雖然這很重要,但并不是作此的唯一方法。比如,在疾病的基因理論中數(shù)學(xué)內(nèi)容很少,但它卻使人們更好地理解許多醫(yī)學(xué)現(xiàn)象。我們將承認(rèn)經(jīng)驗(yàn)確認(rèn)方式,雖然有一定局限性,但的確是一種確認(rèn)方式。
我們可能也不得不改變我們的文化。每一個(gè)參與其它數(shù)據(jù)相關(guān)領(lǐng)域的統(tǒng)計(jì)學(xué)家都被他們和統(tǒng)計(jì)學(xué)的‘文化差距’所震撼。在其它的一些領(lǐng)域,‘想法’比數(shù)學(xué)技術(shù)(基礎(chǔ))更重要。一個(gè)有啟發(fā)的‘想法’就被認(rèn)為是有價(jià)值的,若有更詳細(xì)的確認(rèn)(理論的或經(jīng)驗(yàn)的)人們才去討論它的最終價(jià)值。思維方式是‘如果沒有證明是有罪的,那就是清白的’這和我們領(lǐng)域的思路是不一致的。過去如果一個(gè)新方法不是用數(shù)學(xué)證明是有效的,我們常常詆毀它,即使不這樣,我們也不會(huì)接受它。這種思路在數(shù)據(jù)集比較小和信息噪聲比較高時(shí)是合理的。特別地,我們應(yīng)該改變我們?cè)g毀那些表現(xiàn)很好(通常在其它領(lǐng)域),但卻沒被我們理解的方法的習(xí)慣。
個(gè)人感覺,也許,現(xiàn)在的統(tǒng)計(jì)學(xué)正處在一個(gè)十字路口,我們可以決定是接受還是拒絕改變。如上所說,兩種觀點(diǎn)都極富說服力。雖然觀點(diǎn)豐富,但誰也不能肯定哪一種戰(zhàn)略能保持我們領(lǐng)域的健康發(fā)展和生命力。大多數(shù)統(tǒng)計(jì)學(xué)家好象認(rèn)為統(tǒng)計(jì)學(xué)對(duì)信息科學(xué)的影響越來越小。它們也不太同意為此作些什么。站主導(dǎo)的觀點(diǎn)認(rèn)為我們有市場(chǎng)問題,我們?cè)趧e的領(lǐng)域的顧客和同事不了解我們的價(jià)值和重要性。這也是我們的主要專業(yè)組織,美國統(tǒng)計(jì)協(xié)會(huì)的看法。在戰(zhàn)略計(jì)劃委員(A mstat News-Feb.1997)會(huì)所作的五年計(jì)劃報(bào)告中有一節(jié)‘增強(qiáng)我們學(xué)科的聲望和健康’,報(bào)告中提及“以下的內(nèi)容意思是:統(tǒng)計(jì)學(xué)面臨危機(jī),市場(chǎng)的,人才的危機(jī)?!苯y(tǒng)計(jì)學(xué)可以在數(shù)據(jù)挖掘科學(xué)中發(fā)揮作用,統(tǒng)計(jì)學(xué)應(yīng)該和數(shù)據(jù)挖掘合作,而不是將它甩給計(jì)算機(jī)科學(xué)家。
有一部分統(tǒng)計(jì)專家認(rèn)為計(jì)算機(jī)和他們爭(zhēng)搶了市場(chǎng),這個(gè)是表面現(xiàn)象。以我們的課程為例,老師講得很認(rèn)真,但很多人都沒有統(tǒng)計(jì)基礎(chǔ),這嚴(yán)重影響了學(xué)生對(duì)分析過程和結(jié)果的理解。SPSS、SAS等分析軟件已很優(yōu)秀,但運(yùn)行出來的結(jié)果仍需進(jìn)行解釋,統(tǒng)計(jì)專家的價(jià)值也在于此。數(shù)據(jù)挖掘的可視化比統(tǒng)計(jì)分析工具更成功,在目前BI風(fēng)起云涌的大背景下,企業(yè)數(shù)據(jù)倉庫發(fā)展到一定階段,數(shù)據(jù)挖掘的市場(chǎng)會(huì)越來越大,統(tǒng)計(jì)專家們的擔(dān)憂正變?yōu)楝F(xiàn)實(shí)。數(shù)據(jù)挖掘是面向最終用戶的,而統(tǒng)計(jì)分析的中間轉(zhuǎn)換環(huán)節(jié)提高了應(yīng)用成本。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03