數(shù)據(jù)挖掘與數(shù)據(jù)建模的九大定律(1)

數(shù)據(jù)挖掘是利用業(yè)務知識從數(shù)據(jù)中發(fā)現(xiàn)和解釋知識（或稱為模式）的過程，這種知識是以自然或者人工形式創(chuàng)造的新知識。 

當前的數(shù)據(jù)挖掘形式，是在20世紀90年代實踐領(lǐng)域誕生的，是在集成數(shù)據(jù)挖掘算法平臺發(fā)展的支撐下適合商業(yè)分析的一種形式。也許是因為數(shù)據(jù)挖掘源于實踐而非 理論，在其過程的理解上不太引人注意。20世紀90年代晚期發(fā)展的CRISP-DM，逐漸成為數(shù)據(jù)挖掘過程的一種標準化過程，被越來越多的數(shù)據(jù)挖掘實踐者 成功運用和遵循。 

雖然CRISP-DM能夠指導如何實施數(shù)據(jù)挖掘，但是它不能解釋數(shù)據(jù)挖掘是什么或者為什么適合這樣做。在本文中我將闡述我提出數(shù)據(jù)挖掘的九種準則或“定律”（其中大多數(shù)為實踐者所熟知）以及另外其它一些熟知的解釋。開始從理論上（不僅僅是描述上）來解釋數(shù)據(jù)挖掘過程。 

我的目的不是評論CRISP-DM，但CRISP-DM的許多概念對于理解數(shù)據(jù)挖掘是至關(guān)重要的，本文也將依賴于CRISP-DM的常見術(shù)語。CRISP-DM僅僅是論述這個過程的開始。 

第一，目標律：業(yè)務目標是所有數(shù)據(jù)解決方案的源頭。 

它定義了數(shù)據(jù)挖掘的主題：數(shù)據(jù)挖掘關(guān)注解決業(yè)務業(yè)問題和實現(xiàn)業(yè)務目標。數(shù)據(jù)挖掘主要不是一種技術(shù)，而是一個過程，業(yè)務目標是它的的核心。 沒有業(yè)務目標，沒有數(shù)據(jù)挖掘（不管這種表述是否清楚）。因此這個準則也可以說成：數(shù)據(jù)挖掘是業(yè)務過程。 

第二，知識律：業(yè)務知識是數(shù)據(jù)挖掘過程每一步的核心。 

這里定義了數(shù)據(jù)挖掘過程的一個關(guān)鍵特征。CRISP-DM的一種樸素的解讀是業(yè)務知識僅僅作用于數(shù)據(jù)挖掘過程開始的目標的定義與最后的結(jié)果的實施，這將錯過數(shù)據(jù)挖掘過程的一個關(guān)鍵屬性，即業(yè)務知識是每一步的核心。

為了方便理解，我使用CRISP-DM階段來說明： 

商業(yè)理解必須基于業(yè)務知識，所以數(shù)據(jù)挖掘目標必須是業(yè)務目標的映射（這種映射也基于數(shù)據(jù)知識和數(shù)據(jù)挖掘知識）； 

數(shù)據(jù)理解使用業(yè)務知識理解與業(yè)務問題相關(guān)的數(shù)據(jù)，以及它們是如何相關(guān)的； 

數(shù)據(jù)預處理就是利用業(yè)務知識來塑造數(shù)據(jù)，使得業(yè)務問題可以被提出和解答（更詳盡的第三條—準備律）； 

建模是使用數(shù)據(jù)挖掘算法創(chuàng)建預測模型，同時解釋模型和業(yè)務目標的特點，也就是說理解它們之間的業(yè)務相關(guān)性；

評估是模型對理解業(yè)務的影響； 

實施是將數(shù)據(jù)挖掘結(jié)果作用于業(yè)務過程；

 總之，沒有業(yè)務知識，數(shù)據(jù)挖掘過程的每一步都是無效的，也沒有“純粹的技術(shù)”步驟。 業(yè)務知識指導過程產(chǎn)生有益的結(jié)果，并使得那些有益的結(jié)果得到認可。數(shù)據(jù)挖掘是一個反復的過程，業(yè)務知識是它的核心，驅(qū)動著結(jié)果的持續(xù)改善。 

這背后的原因可以用“鴻溝的表現(xiàn)”（chasm of representation）來解釋（Alan Montgomery在20世紀90年代對數(shù)據(jù)挖掘提出的一個觀點）。Montgomery指出數(shù)據(jù)挖掘目標涉及到現(xiàn)實的業(yè)務，然而數(shù)據(jù)僅能表示現(xiàn)實的一 部分；數(shù)據(jù)和現(xiàn)實世界是有差距（或“鴻溝”）的。在數(shù)據(jù)挖掘過程中，業(yè)務知識來彌補這一差距，在數(shù)據(jù)中無論發(fā)現(xiàn)什么，只有使用業(yè)務知識解釋才能顯示其重要 性，數(shù)據(jù)中的任何遺漏必須通過業(yè)務知識彌補。只有業(yè)務知識才能彌補這種缺失，這是業(yè)務知識為什么是數(shù)據(jù)挖掘過程每一步驟的核心的原因。 

第三，準備律：數(shù)據(jù)預處理比數(shù)據(jù)挖掘其他任何一個過程都重要。 

這是數(shù)據(jù)挖掘著名的格言，數(shù)據(jù)挖掘項目中最費力的事是數(shù)據(jù)獲取和預處理。非正式估計，其占用項目的時間為50%-80%。最簡單的解釋可以概括為“數(shù)據(jù)是困 難的”，經(jīng)常采用自動化減輕這個“問題”的數(shù)據(jù)獲取、數(shù)據(jù)清理、數(shù)據(jù)轉(zhuǎn)換等數(shù)據(jù)預處理各部分的工作量。雖然自動化技術(shù)是有益的，支持者相信這項技術(shù)可以減 少數(shù)據(jù)預處理過程中的大量的工作量，但這也是誤解數(shù)據(jù)預處理在數(shù)據(jù)挖掘過程中是必須的原因。 

數(shù)據(jù)預處理的目的是把數(shù)據(jù)挖掘問題轉(zhuǎn)化為格式化的數(shù)據(jù)，使得分析技術(shù)（如數(shù)據(jù)挖掘算法）更容易利用它。數(shù)據(jù)任何形式的變化（包括清理、最大最小值轉(zhuǎn)換、增長 等）意味著問題空間的變化，因此這種分析必須是探索性的。 這是數(shù)據(jù)預處理重要的原因，并且在數(shù)據(jù)挖掘過程中占有如此大的工作量，這樣數(shù)據(jù)挖掘者可以從容 地操縱問題空間，使得容易找到適合分析他們的方法。 

有兩種方法“塑造”這個問題 空間。第一種方法是將數(shù)據(jù)轉(zhuǎn)化為可以分析的完全格式化的數(shù)據(jù)，比如，大多數(shù)數(shù)據(jù)挖掘算法需要單一表格形式的數(shù)據(jù)，一個記錄就是一個樣例。數(shù)據(jù)挖掘者都知道 什么樣的算法需要什么樣的數(shù)據(jù)形式，因此可以將數(shù)據(jù)轉(zhuǎn)化為一個合適的格式。第二種方法是使得數(shù)據(jù)能夠含有業(yè)務問題的更多的信息，例如，某些領(lǐng)域的一些數(shù)據(jù) 挖掘問題，數(shù)據(jù)挖掘者可以通過業(yè)務知識和數(shù)據(jù)知識知道這些。 通過這些領(lǐng)域的知識，數(shù)據(jù)挖掘者通過操縱問題空間可能更容易找到一個合適的技術(shù)解決方案。 

因此，通過業(yè)務知識、數(shù)據(jù)知識、數(shù)據(jù)挖掘知識從根本上使得數(shù)據(jù)預處理更加得心應手。 數(shù)據(jù)預處理的這些方面并不能通過簡單的自動化實現(xiàn)。 

這個定律也解釋了一個有疑義的現(xiàn)象，也就是雖然經(jīng)過數(shù)據(jù)獲取、清理、融合等方式創(chuàng)建一個數(shù)據(jù)倉庫，但是數(shù)據(jù)預處理仍然是必不可少的，仍然占有數(shù)據(jù)挖掘過程一 半以上的工作量。此外，就像CRISP-DM展示的那樣，即使經(jīng)過了主要的數(shù)據(jù)預處理階段，在創(chuàng)建一個有用的模型的反復過程中，進一步的數(shù)據(jù)預處理的必要的。 

第四，試驗律（NFL律：No Free Lunch）：對于數(shù)據(jù)挖掘者來說，天下沒有免費的午餐，一個正確的模型只有通過試驗（experiment）才能被發(fā)現(xiàn)。 

機器學習有一個原則：如果我們充分了解一個問題空間（problem space），我們可以選擇或設(shè)計一個找到最優(yōu)方案的最有效的算法。一個卓越算法的參數(shù)依賴于數(shù)據(jù)挖掘問題空間一組特定的屬性集，這些屬性可以通過分析發(fā) 現(xiàn)或者算法創(chuàng)建。但是，這種觀點來自于一個錯誤的思想，在數(shù)據(jù)挖掘過程中數(shù)據(jù)挖掘者將問題公式化，然后利用算法找到解決方法。事實上，數(shù)據(jù)挖掘者將問題公 式化和尋找解決方法是同時進行的—–算法僅僅是幫助數(shù)據(jù)挖掘者的一個工具。 

有五種因素說明試驗對于尋找數(shù)據(jù)挖掘解決方案是必要的：

 數(shù)據(jù)挖掘項目的業(yè)務目標定義了興趣范圍（定義域），數(shù)據(jù)挖掘目標反映了這一點； 

與業(yè)務目標相關(guān)的數(shù)據(jù)及其相應的數(shù)據(jù)挖掘目標是在這個定義域上的數(shù)據(jù)挖掘過程產(chǎn)生的； 

這些過程受規(guī)則限制，而這些過程產(chǎn)生的數(shù)據(jù)反映了這些規(guī)則； 

在這些過程中，數(shù)據(jù)挖掘的目的是通過模式發(fā)現(xiàn)技術(shù)（數(shù)據(jù)挖掘算法）和可以解釋這個算法結(jié)果的業(yè)務知識相結(jié)合的方法來揭示這個定義域上的規(guī)則； 

數(shù)據(jù)挖掘需要在這個域上生成相關(guān)數(shù)據(jù)，這些數(shù)據(jù)含有的模式不可避免地受到這些規(guī)則的限制。 

在這里強調(diào)一下最后一點，在數(shù)據(jù)挖掘中改變業(yè)務目標，CRISP-DM有所暗示，但經(jīng)常不易被覺察到。廣為所知的CRISP-DM過程不是下一個步驟僅接著上一個步驟的“瀑布”式的過程。事實上，在項目中的任何地方都可以進行任何CRISP-DM步驟，同樣商業(yè)理解也可以存在于任何一個步驟。業(yè)務目標不是簡 單地在開始就給定，它貫穿于整個過程。這也許可以解釋一些數(shù)據(jù)挖掘者在沒有清晰的業(yè)務目標的情況下開始項目，他們知道業(yè)務目標也是數(shù)據(jù)挖掘的一個結(jié)果，不是靜態(tài)地給定。

Wolpert的“沒有免費的午餐”理論已經(jīng)應用于機器學習領(lǐng)域，無偏的狀態(tài)好于（如一個具體的算法）任何其他可能的問題（數(shù)據(jù)集）出現(xiàn)的平均狀態(tài)。這是因為，如果我們考慮所有可能的問題，他們的解決方法是均勻分布的，以至于一個算法（或偏倚）對一個子集是有利的，而對另一個子集是不利的。這與數(shù)據(jù)挖掘者所知的具有驚人的相似性，沒有一個算法適合每一個問題。但是經(jīng) 過數(shù)據(jù)挖掘處理的問題或數(shù)據(jù)集絕不是隨機的，也不是所有可能問題的均勻分布，他們代表的是一個有偏差的樣本，那么為什么要應用NFL的結(jié)論？答案涉及到上 面提到的因素：問題空間初始是未知的，多重問題空間可能和每一個數(shù)據(jù)挖掘目標相關(guān)，問題空間可能被數(shù)據(jù)預處理所操縱，模型不能通過技術(shù)手段評估，業(yè)務問題本身可能會變化。由于這些原因，數(shù)據(jù)挖掘問題空間在數(shù)據(jù)挖掘過程中展開，并且在這個過程中是不斷變化的，以至于在有條件的約束下，用算法模擬一個隨機選擇的數(shù)據(jù)集是有效的。對于數(shù)據(jù)挖掘者來說：沒有免費的午餐。 

這大體上描述了數(shù)據(jù) 挖掘過程。但是，在有條件限制某些情況下，比如業(yè)務目標是穩(wěn)定的，數(shù)據(jù)和其預處理是穩(wěn)定的，一個可接受的算法或算法組合可以解決這個問題。在這些情況下， 一般的數(shù)據(jù)挖掘過程中的步驟將會減少。 但是，如果這種情況穩(wěn)定是持續(xù)的，數(shù)據(jù)挖掘者的午餐是免費的，或者至少相對便宜的。像這樣的穩(wěn)定性是臨時的，因為 對數(shù)據(jù)的業(yè)務理解（第二律）和對問題的理解（第九律）都會變化的。  

第五，模式律（大衛(wèi)律）：數(shù)據(jù)中總含有模式。 

這條規(guī)律最早由David Watkins提出。 我們可能預料到一些數(shù)據(jù)挖掘項目會失敗，因為解決業(yè)務問題的模式并不存在于數(shù)據(jù)中，但是這與數(shù)據(jù)挖掘者的實踐經(jīng)驗并不相關(guān)。

前文的闡述已經(jīng)提到，這是因為：在一個與業(yè)務相關(guān)的數(shù)據(jù)集中總會發(fā)現(xiàn)一些有趣的東西，以至于即使一些期望的模式不能被發(fā)現(xiàn)，但其他的一些有用的東西可能會被 發(fā)現(xiàn)（這與數(shù)據(jù)挖掘者的實踐經(jīng)驗是相關(guān)的）；除非業(yè)務專家期望的模式存在，否則數(shù)據(jù)挖掘項目不會進行，這不應感到奇怪，因為業(yè)務專家通常是對的。 

然而，Watkins提出一個更簡單更直接的觀點：“數(shù)據(jù)中總含有模式?！边@與數(shù)據(jù)挖掘者的經(jīng)驗比前面的闡述更一致。這個觀點后來經(jīng)過Watkins修正，基于客戶關(guān)系的數(shù)據(jù)挖掘項目，總是存在著這樣的模式即客戶未來的行為總是和先前的行為相關(guān)，顯然這些模式是有利可圖的（Watkins的客戶關(guān)系管理定律）。但是，數(shù)據(jù)挖掘者的經(jīng)驗不僅僅局限于客戶關(guān)系管理問題，任何數(shù)據(jù)挖掘問題都會存在模式（Watkins的通用律）。 

Watkins的通用律解釋如下： 

數(shù)據(jù)挖掘項目的業(yè)務目標定義了興趣范圍（定義域），數(shù)據(jù)挖掘目標反映了這一點； 

與業(yè)務目標相關(guān)的數(shù)據(jù)及其相應的數(shù)據(jù)挖掘目標是在這個定義域上的數(shù)據(jù)挖掘過程產(chǎn)生的； 

這些過程受規(guī)則限制，而這些過程產(chǎn)生的數(shù)據(jù)反映了這些規(guī)則； 

在這些過程中，數(shù)據(jù)挖掘的目的是通過模式發(fā)現(xiàn)技術(shù)（數(shù)據(jù)挖掘算法）和可以解釋這個算法結(jié)果的業(yè)務知識相結(jié)合的方法來揭示這個定義域上的規(guī)則； 

數(shù)據(jù)挖掘需要在這個域上生成相關(guān)數(shù)據(jù)，這些數(shù)據(jù)含有的模式不可避免地受到這些規(guī)則的限制。 

總結(jié)這一觀點：數(shù)據(jù)中總存在模式，因為在這過程中不可避免產(chǎn)生數(shù)據(jù)這樣的副產(chǎn)品。為了發(fā)掘模式，過程從（你已經(jīng)知道它）—–業(yè)務知識開始。 

利用業(yè)務知識發(fā)現(xiàn)模式也是一個反復的過程；這些模式也對業(yè)務知識有貢獻，同時業(yè)務知識是解釋模式的主要因素。在這種反復的過程中，數(shù)據(jù)挖掘算法簡單地連接了業(yè)務知識和隱藏的模式。

 如果這個解釋是正確的，那么大衛(wèi)律是完全通用的。除非沒有相關(guān)的數(shù)據(jù)的保證，否則在每個定義域的每一個數(shù)據(jù)挖掘問題總是存在模式的。