我們在數(shù)據(jù)挖掘中迷失了什么？

當我們沉浸在親手構(gòu)建的模型里的時候，是否會理智地跳出來，重新審視一下，我們所忽略的會不會正是客戶所需求的呢？

1.太關(guān)注訓練

就像體育訓練中越來越注重實戰(zhàn)訓練，因為單純的封閉式訓練常常會訓練時狀態(tài)神勇，比賽時一塌糊涂。實際上，只有樣本外數(shù)據(jù)上的模型評分結(jié)果才真正有用!

栗子：機器學習或計算機科學研究者常常試圖讓模型在已知數(shù)據(jù)上表現(xiàn)最優(yōu)，這樣做的結(jié)果通常會導致過度擬合( overfit )。

解決方法：解決這個問題的典型方法是重抽樣。重抽樣技術(shù)包括：bootstrap、cross-validation、jackknife、leave-one-out…等等。

2.只依賴一項技術(shù)

沒有對比也就沒有所謂的好壞，辯證法的思想在此體現(xiàn)無遺?！爱斝『⒆邮帜靡话彦N子時，整個世界看起來就是一枚釘子?！币胱尮ぷ鞅M善盡美，就需要一套完整的工具箱。不要簡單地信賴你用單個方法分析的結(jié)果，至少要和傳統(tǒng)方法(比如線性回歸或線性判別分析)做個比較。

解決方法：使用一系列好的工具和方法。(每種工具或方法可能最多帶來5%~10%的改進)。

3.提錯了問題

一般在分類算法中都會給出分類精度作為衡量模型好壞的標準，但在實際項目中我們卻幾乎不看這個指標。為什么?因為那不是我們關(guān)注的目標。

a)項目的目標：一定要鎖定正確的目標。栗子：欺詐偵測(關(guān)注的是正例!)( Shannon實驗室在國際長途電話上的分析)：不要試圖在一般的通話中把欺詐和非欺詐行為分類出來，重點應(yīng)放在如何描述正常通話的特征，然后據(jù)此發(fā)現(xiàn)異常通話行為。

b)模型的目標：讓計算機去做你希望它做的事。大多數(shù)研究人員會沉迷于模型的收斂性來盡量降低誤差，這樣讓他們可以獲得數(shù)學上的美感。但更應(yīng)該讓計算機做的事情應(yīng)該是如何改善業(yè)務(wù)，而不是僅僅側(cè)重模型計算上的精度。

4.只靠數(shù)據(jù)來說話

如果數(shù)據(jù)+工具就可以解決問題的話，還要人做什么呢？

a）投機取巧的數(shù)據(jù)：數(shù)據(jù)本身只能幫助分析人員找到什么是顯著的結(jié)果，但它并不能告訴你結(jié)果是對還是錯。

b）經(jīng)過設(shè)計的實驗：某些實驗設(shè)計中摻雜了人為的成分，這樣的實驗結(jié)果也常常不可信。

5.拋棄了不該忽略的案例

不同的人生態(tài)度可以有同樣精彩的人生，不同的數(shù)據(jù)也可能蘊含同樣重要的價值。異常值可能會導致錯誤的結(jié)果(比如價格中的小數(shù)點標錯了)，但也可能是問題的答案(比如臭氧洞)。所以需要仔細檢查這些異常。研究中最讓激動的話語不是“啊哈!”，而是“這就有點奇怪了……”數(shù)據(jù)中的不一致性有可能會是解決問題的線索，深挖下去也許可以解決一個大的業(yè)務(wù)問題。

栗子：在直郵營銷中，在對家庭地址的合并和清洗過程中發(fā)現(xiàn)的數(shù)據(jù)不一致，反而可能是新的營銷機會。

解決方法：可視化可以幫助你分析大量的假設(shè)是否成立。

6.輕信預測

事物都是不斷發(fā)展變化的。人們常常在經(jīng)驗不多的時候輕易得出一些結(jié)論。即便發(fā)現(xiàn)了一些反例，人們也不太愿意放棄原先的想法。

維度咒語：在低維度上的直覺，放在高維度空間中，常常是毫無意義的。

解決方法：進化論。沒有正確的結(jié)論，只有越來越準確的結(jié)論。

7.試圖回答所有問題

“不知道”是一種有意義的模型結(jié)果。模型也許無法100%準確回答問題，但至少可以幫我們估計出現(xiàn)某種結(jié)果的可能性。