淺談數據挖掘與數據倉庫

1數據挖掘
    1.1數據挖掘與傳統數據分析的區(qū)別
   數據挖掘與傳統的數據分析，如查詢、報表、聯機應用分析的本質區(qū)別是數據挖掘是在沒有明確假設的前提下去挖掘信息、發(fā)現知識。數據挖掘所得到的信息應具有先前未知、有效和實用三個特征。即數據挖掘是要發(fā)現那些不能靠直覺發(fā)現的信息或知識，甚至是違背直覺的信息或知識，挖掘出的信息越出乎意料就可能越有價值。而傳統的數據分析趨勢為從大型數據庫抓取所需數據并使用專屬計算機分析軟件。因此數據挖掘與傳統分析方法有很大的不同。
    1.2數據挖掘的應用價值
    （1）分類：首先從數據中選出已經分好類的訓練集，在該訓練集上運用數據挖掘分類的技術，建立分類模型，對于沒有分類的數據進行分類。（2）估計：與分類類似，不同之處在于，分類描述的是離散型變量的輸出，而估值處理連續(xù)值的輸出；分類是確定數目的，估計是不確定的。（3）聚類：是對記錄分組。聚類和分類的區(qū)別是聚集不依賴于預先定義好的類，不需要訓練集。中國移動采用先進的數據挖掘工具馬克威分析系統，對用戶wap上網的行為進行聚類分析，通過客戶分群，進行精確營銷。（4）關聯規(guī)則和序列模式的發(fā)現：關聯是某種事物發(fā)生時其他事物會發(fā)生的這樣一種聯系。例如：每天購買啤酒的人也有可能購買香煙，比重有多大，可以通過關聯的支持度和可信度來描述。與關聯不同，序列是一種縱向的聯系。例如：今天銀行調整利率，明天股市的變化。（5）預測：通過分類或估值得出模型，該模型用于對未知變量的預言。（6）偏差的檢測：對分析對象的少數的、極端的特例的描述，揭示內在的原因。除此之外，在客戶分析，運籌和企業(yè)資源的優(yōu)化，異常檢測，企業(yè)分析模型的管理的方面都有廣泛使用價值。
   2數據倉庫
    2.1數據倉庫的特征
    （1）面向主題（Subject Oriented）的數據集合。數據倉庫圍繞一些主題如顧客、供應商、產品和銷售來組織。數據倉庫關注決策者的數據建模與分析，而不是組織機構的日常操作和事務處理。（2）集成（Integrated）的數據集合。數據倉庫中的數據是在對原有分散的數據庫數據抽取、清理的基礎上經過系統加工、匯總和整理得到的，必須消除源數據中的不一致性，以保證數據倉庫內的信息是關于整個企業(yè)的一致的全局信息。（3）時變（Time Variant）的數據集合。數據存儲從歷史的角度提供信息。數據倉庫中的數據通常包含歷史信息，通過這些信息，可以對企業(yè)的發(fā)展歷程和未來趨勢做出定量分析和預測。（4）非易失（Nonvolatile）的數據集合。數據倉庫的數據主要供企業(yè)決策分析之用，所涉及的數據操作主要是數據查詢，修改和刪除操作很少，通常只需要定期的加載、刷新。數據倉庫里的數據通常只需要兩種操作：初始化載入和數據訪問，因此其數據相對穩(wěn)定，極少或根本不更新。[page]    2.2數據倉庫的類型
   數據倉庫的類型根據數據倉庫所管理的數據類型和它們所解決的企業(yè)問題范圍，一般可將數據倉庫分為下列3種類型：企業(yè)數據倉庫（EDW）、操作型數據庫（ODS）和數據集市（Data Marts）。①企業(yè)數據倉庫為通用數據倉庫，它既含有大量詳細的數據，也含有大量累贅的或聚集的數據，這些數據具有不易改變性和面向歷史性。此種數據倉庫被用來進行涵蓋多種企業(yè)領域上的戰(zhàn)略或戰(zhàn)術上的決策。②操作型數據庫既可以被用來針對工作數據做決策支持，又可用做將數據加載到數據倉庫時的過渡區(qū)域。與EDW相比，ODS是面向主題和面向綜合的，易變的，僅含有目前的、詳細的數據，不含有累計的、歷史性的數據。③數據集市是為了特定的應用目的或應用范圍，而從數據倉庫中獨立出來的一部分數據，也可稱為部門數據或主題數據。幾組數據集市可以組成一個EDW。
    2.3數據倉庫與傳統數據庫的比較
    二者的聯系既有聯系又有區(qū)別。數據倉庫的出現，并不是要取代數據庫。目前，大部分數據倉庫還是用關系數據庫管理系統來管理的。可以說，數據庫、數據倉庫相輔相成、各有千秋。二者的區(qū)別可以從以下幾個方面進行比較：
    （1）出發(fā)點不同：數據庫是面向事務的設計；數據倉庫是面向主題設計的。（2）存儲的數據不同：數據庫一般存儲在線交易數據；數據倉庫存儲的一般是歷史數據。（3）設計規(guī)則不同：數據庫設計是盡量避免冗余，一般采用符合范式的規(guī)則來設計；數據倉庫在設計是有意引入冗余，采用反范式的方式來設計。（4）提供的功能不同：數據庫是為捕獲數據而設計，數據倉庫是為分析數據而設計。（5）基本元素不同：數據庫的基本元素是事實表，數據倉庫的基本元素是維度表。（6）容量不同：數據庫在基本容量上要比數據倉庫小的多。（7）服務對象不同：數據庫是為了高效的事務處理而設計的，服務對象為企業(yè)業(yè)務處理方面的工作人員；數據倉庫是為了分析數據進行決策而設計的，服務對象為企業(yè)高層決策人員。
   3數據倉庫與數據挖掘的關系
    當然為了數據挖掘你也不必非得建立一個數據倉庫，數據倉庫不是必需的。建立一個巨大的數據倉庫，把各個不同源的數據統一在一起，解決所有的數據沖突問題，然后把所有的數據導到一個數據倉庫內，是一項巨大的工程，可能要用幾年的時間花上百萬的錢才能完成。只是為了數據挖掘，你可以把一個或幾個事務數據庫導到一個只讀的數據庫中，就把它當作數據集市，然后在他上面進行數據挖掘。