做好數(shù)據(jù)挖掘模型，有什么好的經(jīng)驗推薦？

數(shù)據(jù)挖掘是利用業(yè)務(wù)知識從數(shù)據(jù)中發(fā)現(xiàn)和解釋知識（或稱為模式）的過程，這種知識是以自然或者人工形式創(chuàng)造的新知識。
第一，目標律：業(yè)務(wù)目標是所有數(shù)據(jù)解決方案的源頭。

它定義了數(shù)據(jù)挖掘的主題：數(shù)據(jù)挖掘關(guān)注解決業(yè)務(wù)業(yè)問題和實現(xiàn)業(yè)務(wù)目標。數(shù)據(jù)挖掘主要不是一種技術(shù)，而是一個過程，業(yè)務(wù)目標是它的的核心。 沒有業(yè)務(wù)目標，沒有數(shù)據(jù)挖掘（不管這種表述是否清楚）。因此這個準則也可以說成：數(shù)據(jù)挖掘是業(yè)務(wù)過程。

第二，知識律：業(yè)務(wù)知識是數(shù)據(jù)挖掘過程每一步的核心。

這里定義了數(shù)據(jù)挖掘過程的一個關(guān)鍵特征。CRISP-DM的一種樸素的解讀是業(yè)務(wù)知識僅僅作用于數(shù)據(jù)挖掘過程開始的目標的定義與最后的結(jié)果的實施，這將錯過數(shù)據(jù)挖掘過程的一個關(guān)鍵屬性，即業(yè)務(wù)知識是每一步的核心。

第三，準備律：數(shù)據(jù)預(yù)處理比數(shù)據(jù)挖掘其他任何一個過程都重要。

這是數(shù)據(jù)挖掘著名的格言，數(shù)據(jù)挖掘項目中最費力的事是數(shù)據(jù)獲取和預(yù)處理。非正式估計，其占用項目的時間為50%-80%。最簡單的解釋可以概括為“數(shù)據(jù)是困難的”，經(jīng)常采用自動化減輕這個“問題”的數(shù)據(jù)獲取、數(shù)據(jù)清理、數(shù)據(jù)轉(zhuǎn)換等數(shù)據(jù)預(yù)處理各部分的工作量。雖然自動化技術(shù)是有益的，支持者相信這項技術(shù)可以減少數(shù)據(jù)預(yù)處理過程中的大量的工作量，但這也是誤解數(shù)據(jù)預(yù)處理在數(shù)據(jù)挖掘過程中是必須的原因。

數(shù)據(jù)預(yù)處理的目的是把數(shù)據(jù)挖掘問題轉(zhuǎn)化為格式化的數(shù)據(jù)，使得分析技術(shù)（如數(shù)據(jù)挖掘算法）更容易利用它。數(shù)據(jù)任何形式的變化（包括清理、最大最小值轉(zhuǎn)換、增長等）意味著問題空間的變化，因此這種分析必須是探索性的。 這是數(shù)據(jù)預(yù)處理重要的原因，并且在數(shù)據(jù)挖掘過程中占有如此大的工作量，這樣數(shù)據(jù)挖掘者可以從容地操縱問題空間，使得容易找到適合分析他們的方法。

有兩種方法“塑造”這個問題 空間。第一種方法是將數(shù)據(jù)轉(zhuǎn)化為可以分析的完全格式化的數(shù)據(jù)，比如，大多數(shù)數(shù)據(jù)挖掘算法需要單一表格形式的數(shù)據(jù)，一個記錄就是一個樣例。數(shù)據(jù)挖掘者都知道什么樣的算法需要什么樣的數(shù)據(jù)形式，因此可以將數(shù)據(jù)轉(zhuǎn)化為一個合適的格式。第二種方法是使得數(shù)據(jù)能夠含有業(yè)務(wù)問題的更多的信息，例如，某些領(lǐng)域的一些數(shù)據(jù)挖掘問題，數(shù)據(jù)挖掘者可以通過業(yè)務(wù)知識和數(shù)據(jù)知識知道這些。 通過這些領(lǐng)域的知識，數(shù)據(jù)挖掘者通過操縱問題空間可能更容易找到一個合適的技術(shù)解決方案。

因此，通過業(yè)務(wù)知識、數(shù)據(jù)知識、數(shù)據(jù)挖掘知識從根本上使得數(shù)據(jù)預(yù)處理更加得心應(yīng)手。 數(shù)據(jù)預(yù)處理的這些方面并不能通過簡單的自動化實現(xiàn)。

這個定律也解釋了一個有疑義的現(xiàn)象，也就是雖然經(jīng)過數(shù)據(jù)獲取、清理、融合等方式創(chuàng)建一個數(shù)據(jù)倉庫，但是數(shù)據(jù)預(yù)處理仍然是必不可少的，仍然占有數(shù)據(jù)挖掘過程一半以上的工作量。此外，就像CRISP-DM展示的那樣，即使經(jīng)過了主要的數(shù)據(jù)預(yù)處理階段，在創(chuàng)建一個有用的模型的反復(fù)過程中，進一步的數(shù)據(jù)預(yù)處理的必要的。

第四，試驗律（NFL律：No Free Lunch）：對于數(shù)據(jù)挖掘者來說，天下沒有免費的午餐，一個正確的模型只有通過試驗（experiment）才能被發(fā)現(xiàn)。

機器學習有一個原則：如果我們充分了解一個問題空間（problem space），我們可以選擇或設(shè)計一個找到最優(yōu)方案的最有效的算法。一個卓越算法的參數(shù)依賴于數(shù)據(jù)挖掘問題空間一組特定的屬性集，這些屬性可以通過分析發(fā) 現(xiàn)或者算法創(chuàng)建。但是，這種觀點來自于一個錯誤的思想，在數(shù)據(jù)挖掘過程中數(shù)據(jù)挖掘者將問題公式化，然后利用算法找到解決方法。事實上，數(shù)據(jù)挖掘者將問題公式化和尋找解決方法是同時進行的—–算法僅僅是幫助數(shù)據(jù)挖掘者的一個工具。

第五，模式律（大衛(wèi)律）：數(shù)據(jù)中總含有模式。

這條規(guī)律最早由David Watkins提出。 我們可能預(yù)料到一些數(shù)據(jù)挖掘項目會失敗，因為解決業(yè)務(wù)問題的模式并不存在于數(shù)據(jù)中，但是這與數(shù)據(jù)挖掘者的實踐經(jīng)驗并不相關(guān)。

前文的闡述已經(jīng)提到，這是因為：在一個與業(yè)務(wù)相關(guān)的數(shù)據(jù)集中總會發(fā)現(xiàn)一些有趣的東西，以至于即使一些期望的模式不能被發(fā)現(xiàn)，但其他的一些有用的東西可能會被發(fā)現(xiàn)（這與數(shù)據(jù)挖掘者的實踐經(jīng)驗是相關(guān)的）；除非業(yè)務(wù)專家期望的模式存在，否則數(shù)據(jù)挖掘項目不會進行，這不應(yīng)感到奇怪，因為業(yè)務(wù)專家通常是對的。

然而，Watkins提出一個更簡單更直接的觀點：“數(shù)據(jù)中總含有模式。”這與數(shù)據(jù)挖掘者的經(jīng)驗比前面的闡述更一致。這個觀點后來經(jīng)過Watkins修正，基于客戶關(guān)系的數(shù)據(jù)挖掘項目，總是存在著這樣的模式即客戶未來的行為總是和先前的行為相關(guān)，顯然這些模式是有利可圖的（Watkins的客戶關(guān)系管理定律）。但是，數(shù)據(jù)挖掘者的經(jīng)驗不僅僅局限于客戶關(guān)系管理問題，任何數(shù)據(jù)挖掘問題都會存在模式（Watkins的通用律）。

第六，洞察律：數(shù)據(jù)挖掘增大對業(yè)務(wù)的認知。

數(shù)據(jù)挖掘是如何產(chǎn)生洞察力的？這個定律接近了數(shù)據(jù)挖掘的核心：為什么數(shù)據(jù)挖掘必須是一個業(yè)務(wù)過程而不是一個技術(shù)過程。業(yè)務(wù)問題是由人而非算法解決的。數(shù)據(jù)挖掘者和業(yè)務(wù)專家從問題中找到解決方案，即從問題的定義域上達到業(yè)務(wù)目標需要的模式。數(shù)據(jù)挖掘完全或部分有助于這個認知過程。數(shù)據(jù)挖掘算法揭示的模式通常不是人類以正常的方式所能認識到的。綜合這些算法和人類正常的感知的數(shù)據(jù)挖掘過程在本質(zhì)上是敏捷的。在數(shù)據(jù)挖掘過程中，問題解決者解釋數(shù)據(jù)挖掘算法產(chǎn)生的結(jié)果，并統(tǒng)一到業(yè)務(wù)理解上，因此這是一個業(yè)務(wù)過程。

這類似于“智能放大器”的概念，在早期的人工智能的領(lǐng)域，AI的第一個實際成果不是智能機器，而是被稱為“智能放大器”的工具，它能夠協(xié)助人類使用者提高獲取有效信息的能力。數(shù)據(jù)挖掘提供一個類似的“智能放大器”，幫助業(yè)務(wù)專家解決他們不能單獨完成的業(yè)務(wù)問題。

總之，數(shù)據(jù)挖掘算法提供一種超越人類以正常方式探索模式的能力，數(shù)據(jù)挖掘過程允許數(shù)據(jù)挖掘者和業(yè)務(wù)專家將這種能力融合在他們的各自的問題的中和業(yè)務(wù)過程中。

第七，預(yù)測律：預(yù)測提高了信息泛化能力。

“預(yù)測”已經(jīng)成為數(shù)據(jù)挖掘模型可以做什么的可接受的描述，即我們常說的“預(yù)測模型”和“預(yù)測分析”。這是因為許多流行的數(shù)據(jù)挖掘模型經(jīng)常使用“預(yù)測最可能的結(jié)果”（或者解釋可能的結(jié)果如何有可能）。這種方法是分類和回歸模型的典型應(yīng)用。

但是，其他類型的數(shù)據(jù)挖掘模型，比如聚類和關(guān)聯(lián)模型也有“預(yù)測”的特征。這是一個含義比較模糊的術(shù)語。一個聚類模型被描述為“預(yù)測”一個個體屬于哪個群體，一個關(guān)聯(lián)模型可能被描述為基于已知基本屬性“預(yù)測”一個或更多屬性。

同樣我們也可以分析“預(yù)測”這個術(shù)語在不同的主題中的應(yīng)用：一個分類模型可能被說成可以預(yù)測客戶行為—-更加確切的說它可以預(yù)測以某種確定行為的目標客戶，即使不是所有的目標個體的行為都符合“預(yù)測”的結(jié)果。一個詐騙檢測模型可能被說成可以預(yù)測個別交易是否具有高風險性，即使不是所有的預(yù)測的交易都有欺詐行為。

“預(yù)測”這個術(shù)語廣泛的使用導(dǎo)致了所謂的“預(yù)測分析”被作為數(shù)據(jù)挖掘的總稱，并且在業(yè)務(wù)解決方案中得到了廣泛的應(yīng)用。但是我們應(yīng)該意識到這不是日常所說的“預(yù)測”，我們不能期望預(yù)測一個特殊個體的行為或者一個特別的欺詐調(diào)查結(jié)果。

那么，在這個意義下的“預(yù)測”是什么？分類、回歸、聚類和 關(guān) 聯(lián)算法以及他們集成模型有什么共性呢？答案在于“評分”，這是預(yù)測模型應(yīng)用到一個新樣例的方式。模型產(chǎn)生一個預(yù)估值或評分，這是這個樣例的新信息的一部 分；在概括和歸納的基礎(chǔ)上，這個樣例的可利用信息得到了提高，模式被算法發(fā)現(xiàn)和模型具體化。值得注意的是這個新信息不是在“給定”意義上的“數(shù)據(jù)”，它僅有統(tǒng)計學意義。

第八，價值律：數(shù)據(jù)挖掘的結(jié)果的價值不取決于模型的穩(wěn)定性或預(yù)測的準確性。

準確性和穩(wěn)定性是預(yù)測模型常用的兩個度量。準確性是指正確的預(yù)測結(jié)果所占的比例；穩(wěn)定性是指當創(chuàng)建模型的數(shù)據(jù)改變時，用于同一口徑的預(yù)測數(shù)據(jù)，其預(yù)測結(jié)果變化有多大（或多?。ｈb于數(shù)據(jù)挖掘中預(yù)測概念的核心角色，一個預(yù)測模型的準確性和穩(wěn)定性常被認為決定了其結(jié)果的價值的大小，實際上并非如此。

體現(xiàn)預(yù)測模型價值的有兩種方式：一種是用模型的預(yù)測結(jié)果來改善或影響行為，另一種是模型能夠傳遞導(dǎo)致改變策略的見解（或新知識）。

對于后者，傳遞出的任何新知識的價值和準確性的聯(lián)系并不那么緊密；一些模型的預(yù)測能力可能有必要使我們相信發(fā)現(xiàn)的模式是真實的。然而，一個難以理解的復(fù)雜的 或者完全不透明的模型的預(yù)測結(jié)果具有高準確性，但傳遞的知識也不是那么有見地；然而，一個簡單的低準確度的模型可能傳遞出更有用的見解。

準確性和價值之間的分離在改善行為的情況下并不明顯，然而一個突出問題是“預(yù)測模型是為了正確的事，還是為了正確的原因?” 換句話說，一個模型的價值和它的預(yù)測準確度一樣，都源自它的業(yè)務(wù)問題。例如，客戶流失模型可能需要高的預(yù)測準確度，否則對于業(yè)務(wù)上的指導(dǎo)不會那么有效。相反的是一個準確度高的客戶流失模型可能提供有效的指導(dǎo)，保留住老客戶，但也僅僅是最少利潤客戶群體的一部分。如果不適合業(yè)務(wù)問題，高準確度并不能提高模型的價值。

模型穩(wěn)定性同樣如此，雖然穩(wěn)定性是預(yù)測模型的有趣的度量，穩(wěn)定性不能代替模型提供業(yè)務(wù)理解的能力或解決業(yè)務(wù)問題，其它技術(shù)手段也是如此。

總之，預(yù)測模型的價值不是由技術(shù)指標決定的。數(shù)據(jù)挖掘者應(yīng)該在模型不損害業(yè)務(wù)理解和適應(yīng)業(yè)務(wù)問題的情況下關(guān)注預(yù)測準確度、模型穩(wěn)定性以及其它的技術(shù)度量。

第九，變化律：所有的模式因業(yè)務(wù)變化而變化。

數(shù)據(jù)挖掘發(fā)現(xiàn)的模式不是永遠不變的。數(shù)據(jù)挖掘的許多應(yīng)用是眾所周知的，但是這個性質(zhì)的普遍性沒有得到廣泛的重視。

數(shù)據(jù)挖掘在市場營銷和CRM方面的應(yīng)用很容易理解，客戶行為模式隨著時間的變化而變化。行為的變化、市場的變化、競爭的變化以及整個經(jīng)濟形勢的變化，預(yù)測模型會因這些變化而過時，當他們不能準確預(yù)測時，應(yīng)當定期更新。

數(shù)據(jù)挖掘在欺詐模型和風險模型的應(yīng)用中同樣如此，隨著環(huán)境的變化欺詐行為也在變化，因為罪犯要改變行為以保持領(lǐng)先于反欺詐。欺詐檢測的應(yīng)用必須設(shè)計為就像處理舊的、熟悉的欺詐行為一樣能夠處理新的、未知類型的欺詐行為。

某些種類的數(shù)據(jù)挖掘可能被認為發(fā)現(xiàn)的模式不會隨時間而變化，比如數(shù)據(jù)挖掘在科學上的應(yīng)用，我們有沒有發(fā)現(xiàn)不變的普遍的規(guī)律？也許令人驚奇的是，答案是即使是這些模式也期望得到改變。理由是這些模式并不是簡單的存在于這個世界上的規(guī)則，而是數(shù)據(jù)的反應(yīng)—-這些規(guī)則可能在某些領(lǐng)域確實是靜態(tài)的。

然而，數(shù)據(jù)挖掘發(fā)現(xiàn)的模式是認知過程的一部分，是數(shù)據(jù)挖掘在數(shù)據(jù)描述的世界與觀測者或業(yè)務(wù)專家的認知之間建立的一個動態(tài)過程。因為我們的認知在持續(xù)發(fā)展和增長，所以我們也期望模式也會變化。明天的數(shù)據(jù)表面上看起來相似，但是它可能已經(jīng)集合了不同的模式、（可能巧妙地）不同的目的、不同的語義；分析過程因受業(yè)務(wù)知識驅(qū)動，所以會隨著業(yè)務(wù)知識的變化而變化?；谶@些原因，模式會有所不同。