淺談數(shù)據(jù)挖掘與數(shù)據(jù)倉庫

1數(shù)據(jù)挖掘
    1.1數(shù)據(jù)挖掘與傳統(tǒng)數(shù)據(jù)分析的區(qū)別
   數(shù)據(jù)挖掘與傳統(tǒng)的數(shù)據(jù)分析，如查詢、報(bào)表、聯(lián)機(jī)應(yīng)用分析的本質(zhì)區(qū)別是數(shù)據(jù)挖掘是在沒有明確假設(shè)的前提下去挖掘信息、發(fā)現(xiàn)知識(shí)。數(shù)據(jù)挖掘所得到的信息應(yīng)具有先前未知、有效和實(shí)用三個(gè)特征。即數(shù)據(jù)挖掘是要發(fā)現(xiàn)那些不能靠直覺發(fā)現(xiàn)的信息或知識(shí)，甚至是違背直覺的信息或知識(shí)，挖掘出的信息越出乎意料就可能越有價(jià)值。而傳統(tǒng)的數(shù)據(jù)分析趨勢為從大型數(shù)據(jù)庫抓取所需數(shù)據(jù)并使用專屬計(jì)算機(jī)分析軟件。因此數(shù)據(jù)挖掘與傳統(tǒng)分析方法有很大的不同。
    1.2數(shù)據(jù)挖掘的應(yīng)用價(jià)值
    （1）分類：首先從數(shù)據(jù)中選出已經(jīng)分好類的訓(xùn)練集，在該訓(xùn)練集上運(yùn)用數(shù)據(jù)挖掘分類的技術(shù)，建立分類模型，對(duì)于沒有分類的數(shù)據(jù)進(jìn)行分類。（2）估計(jì)：與分類類似，不同之處在于，分類描述的是離散型變量的輸出，而估值處理連續(xù)值的輸出；分類是確定數(shù)目的，估計(jì)是不確定的。（3）聚類：是對(duì)記錄分組。聚類和分類的區(qū)別是聚集不依賴于預(yù)先定義好的類，不需要訓(xùn)練集。中國移動(dòng)采用先進(jìn)的數(shù)據(jù)挖掘工具馬克威分析系統(tǒng)，對(duì)用戶wap上網(wǎng)的行為進(jìn)行聚類分析，通過客戶分群，進(jìn)行精確營銷。（4）關(guān)聯(lián)規(guī)則和序列模式的發(fā)現(xiàn)：關(guān)聯(lián)是某種事物發(fā)生時(shí)其他事物會(huì)發(fā)生的這樣一種聯(lián)系。例如：每天購買啤酒的人也有可能購買香煙，比重有多大，可以通過關(guān)聯(lián)的支持度和可信度來描述。與關(guān)聯(lián)不同，序列是一種縱向的聯(lián)系。例如：今天銀行調(diào)整利率，明天股市的變化。（5）預(yù)測：通過分類或估值得出模型，該模型用于對(duì)未知變量的預(yù)言。（6）偏差的檢測：對(duì)分析對(duì)象的少數(shù)的、極端的特例的描述，揭示內(nèi)在的原因。除此之外，在客戶分析，運(yùn)籌和企業(yè)資源的優(yōu)化，異常檢測，企業(yè)分析模型的管理的方面都有廣泛使用價(jià)值。
   2數(shù)據(jù)倉庫
    2.1數(shù)據(jù)倉庫的特征
    （1）面向主題（Subject Oriented）的數(shù)據(jù)集合。數(shù)據(jù)倉庫圍繞一些主題如顧客、供應(yīng)商、產(chǎn)品和銷售來組織。數(shù)據(jù)倉庫關(guān)注決策者的數(shù)據(jù)建模與分析，而不是組織機(jī)構(gòu)的日常操作和事務(wù)處理。（2）集成（Integrated）的數(shù)據(jù)集合。數(shù)據(jù)倉庫中的數(shù)據(jù)是在對(duì)原有分散的數(shù)據(jù)庫數(shù)據(jù)抽取、清理的基礎(chǔ)上經(jīng)過系統(tǒng)加工、匯總和整理得到的，必須消除源數(shù)據(jù)中的不一致性，以保證數(shù)據(jù)倉庫內(nèi)的信息是關(guān)于整個(gè)企業(yè)的一致的全局信息。（3）時(shí)變（Time Variant）的數(shù)據(jù)集合。數(shù)據(jù)存儲(chǔ)從歷史的角度提供信息。數(shù)據(jù)倉庫中的數(shù)據(jù)通常包含歷史信息，通過這些信息，可以對(duì)企業(yè)的發(fā)展歷程和未來趨勢做出定量分析和預(yù)測。（4）非易失（Nonvolatile）的數(shù)據(jù)集合。數(shù)據(jù)倉庫的數(shù)據(jù)主要供企業(yè)決策分析之用，所涉及的數(shù)據(jù)操作主要是數(shù)據(jù)查詢，修改和刪除操作很少，通常只需要定期的加載、刷新。數(shù)據(jù)倉庫里的數(shù)據(jù)通常只需要兩種操作：初始化載入和數(shù)據(jù)訪問，因此其數(shù)據(jù)相對(duì)穩(wěn)定，極少或根本不更新。[page]    2.2數(shù)據(jù)倉庫的類型
   數(shù)據(jù)倉庫的類型根據(jù)數(shù)據(jù)倉庫所管理的數(shù)據(jù)類型和它們所解決的企業(yè)問題范圍，一般可將數(shù)據(jù)倉庫分為下列3種類型：企業(yè)數(shù)據(jù)倉庫（EDW）、操作型數(shù)據(jù)庫（ODS）和數(shù)據(jù)集市（Data Marts）。①企業(yè)數(shù)據(jù)倉庫為通用數(shù)據(jù)倉庫，它既含有大量詳細(xì)的數(shù)據(jù)，也含有大量累贅的或聚集的數(shù)據(jù)，這些數(shù)據(jù)具有不易改變性和面向歷史性。此種數(shù)據(jù)倉庫被用來進(jìn)行涵蓋多種企業(yè)領(lǐng)域上的戰(zhàn)略或戰(zhàn)術(shù)上的決策。②操作型數(shù)據(jù)庫既可以被用來針對(duì)工作數(shù)據(jù)做決策支持，又可用做將數(shù)據(jù)加載到數(shù)據(jù)倉庫時(shí)的過渡區(qū)域。與EDW相比，ODS是面向主題和面向綜合的，易變的，僅含有目前的、詳細(xì)的數(shù)據(jù)，不含有累計(jì)的、歷史性的數(shù)據(jù)。③數(shù)據(jù)集市是為了特定的應(yīng)用目的或應(yīng)用范圍，而從數(shù)據(jù)倉庫中獨(dú)立出來的一部分?jǐn)?shù)據(jù)，也可稱為部門數(shù)據(jù)或主題數(shù)據(jù)。幾組數(shù)據(jù)集市可以組成一個(gè)EDW。
    2.3數(shù)據(jù)倉庫與傳統(tǒng)數(shù)據(jù)庫的比較
    二者的聯(lián)系既有聯(lián)系又有區(qū)別。數(shù)據(jù)倉庫的出現(xiàn)，并不是要取代數(shù)據(jù)庫。目前，大部分數(shù)據(jù)倉庫還是用關(guān)系數(shù)據(jù)庫管理系統(tǒng)來管理的?？梢哉f，數(shù)據(jù)庫、數(shù)據(jù)倉庫相輔相成、各有千秋。二者的區(qū)別可以從以下幾個(gè)方面進(jìn)行比較：
    （1）出發(fā)點(diǎn)不同：數(shù)據(jù)庫是面向事務(wù)的設(shè)計(jì)；數(shù)據(jù)倉庫是面向主題設(shè)計(jì)的。（2）存儲(chǔ)的數(shù)據(jù)不同：數(shù)據(jù)庫一般存儲(chǔ)在線交易數(shù)據(jù)；數(shù)據(jù)倉庫存儲(chǔ)的一般是歷史數(shù)據(jù)。（3）設(shè)計(jì)規(guī)則不同：數(shù)據(jù)庫設(shè)計(jì)是盡量避免冗余，一般采用符合范式的規(guī)則來設(shè)計(jì)；數(shù)據(jù)倉庫在設(shè)計(jì)是有意引入冗余，采用反范式的方式來設(shè)計(jì)。（4）提供的功能不同：數(shù)據(jù)庫是為捕獲數(shù)據(jù)而設(shè)計(jì)，數(shù)據(jù)倉庫是為分析數(shù)據(jù)而設(shè)計(jì)。（5）基本元素不同：數(shù)據(jù)庫的基本元素是事實(shí)表，數(shù)據(jù)倉庫的基本元素是維度表。（6）容量不同：數(shù)據(jù)庫在基本容量上要比數(shù)據(jù)倉庫小的多。（7）服務(wù)對(duì)象不同：數(shù)據(jù)庫是為了高效的事務(wù)處理而設(shè)計(jì)的，服務(wù)對(duì)象為企業(yè)業(yè)務(wù)處理方面的工作人員；數(shù)據(jù)倉庫是為了分析數(shù)據(jù)進(jìn)行決策而設(shè)計(jì)的，服務(wù)對(duì)象為企業(yè)高層決策人員。
   3數(shù)據(jù)倉庫與數(shù)據(jù)挖掘的關(guān)系
    當(dāng)然為了數(shù)據(jù)挖掘你也不必非得建立一個(gè)數(shù)據(jù)倉庫，數(shù)據(jù)倉庫不是必需的。建立一個(gè)巨大的數(shù)據(jù)倉庫，把各個(gè)不同源的數(shù)據(jù)統(tǒng)一在一起，解決所有的數(shù)據(jù)沖突問題，然后把所有的數(shù)據(jù)導(dǎo)到一個(gè)數(shù)據(jù)倉庫內(nèi)，是一項(xiàng)巨大的工程，可能要用幾年的時(shí)間花上百萬的錢才能完成。只是為了數(shù)據(jù)挖掘，你可以把一個(gè)或幾個(gè)事務(wù)數(shù)據(jù)庫導(dǎo)到一個(gè)只讀的數(shù)據(jù)庫中，就把它當(dāng)作數(shù)據(jù)集市，然后在他上面進(jìn)行數(shù)據(jù)挖掘。