導(dǎo)讀：在數(shù)據(jù)清洗過程中，主要處理的是缺失值、異常值和重復(fù)值。所謂清洗，是對數(shù)據(jù)集通過丟棄、填充、替換、去重等操作，達到去除異常、糾正錯誤、補足缺失的目的。

作者：宋天龍

本文轉(zhuǎn)自：大數(shù)據(jù)DT（ID：hzdashuju）

01、數(shù)據(jù)列缺失的4種處理方法

數(shù)據(jù)缺失分為兩種：一種是行記錄的缺失，這種情況又稱數(shù)據(jù)記錄丟失；另一種是數(shù)據(jù)列值的缺失，即由于各種原因?qū)е碌臄?shù)據(jù)記錄中某些列的值空缺。

不同的數(shù)據(jù)存儲和環(huán)境中對于缺失值的表示結(jié)果也不同，例如，數(shù)據(jù)庫中是Null，Python返回對象是None，Pandas或Numpy中是NaN。

在極少數(shù)情況下，部分缺失值也會使用空字符串來代替，但空字符串絕對不同于缺失值。從對象的實體來看，空字符串是有實體的，實體為字符串類型；而缺失值其實是沒有實體的，即沒有數(shù)據(jù)類型。

丟失的數(shù)據(jù)記錄通常無法找回，這里重點討論數(shù)據(jù)列類型缺失值的處理思路。通常有4種思路。

1. 丟棄

這種方法簡單明了，直接刪除帶有缺失值的行記錄（整行刪除）或者列字段（整列刪除），減少缺失數(shù)據(jù)記錄對總體數(shù)據(jù)的影響。但丟棄意味著會消減數(shù)據(jù)特征，以下任何一種場景都不宜采用該方法。

• 數(shù)據(jù)集總體中存在大量的數(shù)據(jù)記錄不完整情況且比例較大，例如超過10%，刪除這些帶有缺失值的記錄意味著會損失過多有用信息。
• 帶有缺失值的數(shù)據(jù)記錄大量存在著明顯的數(shù)據(jù)分布規(guī)律或特征，例如帶有缺失值的數(shù)據(jù)記錄的目標(biāo)標(biāo)簽（即分類中的Label變量）主要集中于某一類或幾類，如果刪除這些數(shù)據(jù)記錄將使對應(yīng)分類的數(shù)據(jù)樣本丟失大量特征信息，導(dǎo)致模型過擬合或分類不準(zhǔn)確。

2. 補全

相對丟棄而言，補全是更加常用的缺失值處理方式。通過一定的方法將缺失的數(shù)據(jù)補上，從而形成完整的數(shù)據(jù)記錄，對于后續(xù)的數(shù)據(jù)處理、分析和建模至關(guān)重要。常用的補全方法如下。

• 統(tǒng)計法：對于數(shù)值型的數(shù)據(jù)，使用均值、加權(quán)均值、中位數(shù)等方法補足；對于分類型數(shù)據(jù)，使用類別眾數(shù)最多的值補足。
• 模型法：更多時候我們會基于已有的其他字段，將缺失字段作為目標(biāo)變量進行預(yù)測，從而得到最為可能的補全值。如果帶有缺失值的列是數(shù)值變量，采用回歸模型補全；如果是分類變量，則采用分類模型補全。
• 專家補全：對于少量且具有重要意義的數(shù)據(jù)記錄，專家補足也是非常重要的一種途徑。
• 其他方法：例如隨機法、特殊值法、多重填補等。

3. 真值轉(zhuǎn)換法

在某些情況下，我們可能無法得知缺失值的分布規(guī)律，并且無法對于缺失值采用上述任何一種補全方法做處理；或者我們認為數(shù)據(jù)缺失也是一種規(guī)律，不應(yīng)該輕易對缺失值隨意處理，那么還有一種缺失值處理思路—真值轉(zhuǎn)換。

該思路的根本觀點是，我們承認缺失值的存在，并且把數(shù)據(jù)缺失也作為數(shù)據(jù)分布規(guī)律的一部分，將變量的實際值和缺失值都作為輸入維度參與后續(xù)數(shù)據(jù)處理和模型計算中。但是變量的實際值可以作為變量值參與模型計算，而缺失值通常無法參與運算，因此需要對缺失值進行真值轉(zhuǎn)換。

以用戶性別字段為例，很多數(shù)據(jù)庫集都無法對會員的性別進行補足，但又舍不得將其丟棄掉，那么我們將選擇將其中的值，包括男、女、未知從一個變量的多個值分布狀態(tài)轉(zhuǎn)換為多個變量的真值分布狀態(tài)。

• 轉(zhuǎn)換前：性別（值域：男、女、未知）。
• 轉(zhuǎn)換后：性別_男（值域1或0）、性別_女（值域1或0）、性別_未知（值域1或0）。

然后將這3列新的字段作為輸入維度替換原來的1個字段參與后續(xù)模型計算。

4. 不處理

在數(shù)據(jù)預(yù)處理階段，對于具有缺失值的數(shù)據(jù)記錄不做任何處理，也是一種思路。這種思路主要看后期的數(shù)據(jù)分析和建模應(yīng)用，很多模型對于缺失值有容忍度或靈活的處理方法，因此在預(yù)處理階段可以不做處理。

常見的能夠自動處理缺失值的模型包括：KNN、決策樹和隨機森林、神經(jīng)網(wǎng)絡(luò)和樸素貝葉斯、DBSCAN（基于密度的帶有噪聲的空間聚類）等。這些模型對于缺失值的處理思路是：

• 忽略，缺失值不參與距離計算，例如KNN。
• 將缺失值作為分布的一種狀態(tài)，并參與到建模過程，例如各種決策樹及其變體。
• 不基于距離做計算，因此基于值的距離做計算本身的影響就消除了，例如DBSCAN。

在數(shù)據(jù)建模前的數(shù)據(jù)歸約階段，有一種歸約的思路是降維，降維中有一種直接選擇特征的方法。假如我們通過一定方法確定帶有缺失值（無論缺少字段的值缺失數(shù)量有多少）的字段對于模型的影響非常小，那么我們根本就不需要對缺失值進行處理。

因此，后期建模時的字段或特征的重要性判斷也是決定是否處理字段缺失值的重要參考因素之一。

對于缺失值的處理思路是先通過一定方法找到缺失值，接著分析缺失值在整體樣本中的分布占比，以及缺失值是否具有顯著的無規(guī)律分布特征，然后考慮后續(xù)要使用的模型中是否能滿足缺失值的自動處理，最后決定采用哪種缺失值處理方法。

在選擇處理方法時，注意投入的時間、精力和產(chǎn)出價值，畢竟，處理缺失值只是整個數(shù)據(jù)工作的冰山一角而已。

在數(shù)據(jù)采集時，可在采集端針對各個字段設(shè)置一個默認值。以MySQL為例，在設(shè)計數(shù)據(jù)庫表時，可通過default指定每個字段的默認值，該值必須是常數(shù)。

在這種情況下，假如原本數(shù)據(jù)采集時沒有采集到數(shù)據(jù)，字段的值應(yīng)該為Null，雖然由于在建立庫表時設(shè)置了默認值會導(dǎo)致“缺失值”看起來非常正常，但本質(zhì)上還是缺失的。對于這類數(shù)據(jù)需要尤其注意。

02、不要輕易拋棄異常數(shù)據(jù)

異常數(shù)據(jù)是數(shù)據(jù)分布的常態(tài)，處于特定分布區(qū)域或范圍之外的數(shù)據(jù)通常會被定義為異?；颉霸胍簟薄．a(chǎn)生數(shù)據(jù)“噪音”的原因很多，例如業(yè)務(wù)運營操作、數(shù)據(jù)采集問題、數(shù)據(jù)同步問題等。

對異常數(shù)據(jù)進行處理前，需要先辨別出到底哪些是真正的數(shù)據(jù)異常。從數(shù)據(jù)異常的狀態(tài)看分為兩種：

• 一種是“偽異常”，這些異常是由于業(yè)務(wù)特定運營動作產(chǎn)生的，其實是正常反映業(yè)務(wù)狀態(tài)，而不是數(shù)據(jù)本身的異常規(guī)律。
• 一種是“真異常”，這些異常并不是由于特定的業(yè)務(wù)動作引起的，而是客觀地反映了數(shù)據(jù)本身分布異常的分布個案。

大多數(shù)數(shù)據(jù)挖掘或數(shù)據(jù)工作中，異常值都會在數(shù)據(jù)的預(yù)處理過程中被認為是噪音而剔除，以避免其對總體數(shù)據(jù)評估和分析挖掘的影響。但在以下幾種情況下，我們無須對異常值做拋棄處理。

1. 異常值正常反映了業(yè)務(wù)運營結(jié)果

該場景是由業(yè)務(wù)部門的特定動作導(dǎo)致的數(shù)據(jù)分布異常，如果拋棄異常值將導(dǎo)致無法正確反饋業(yè)務(wù)結(jié)果。

例如：公司的A商品正常情況下日銷量為1000臺左右。由于昨日舉行優(yōu)惠促銷活動導(dǎo)致總銷量達到10000臺，由于后端庫存?zhèn)湄洸蛔銓?dǎo)致今日銷量又下降到100臺。在這種情況下，10000臺和100臺都正確地反映了業(yè)務(wù)運營的結(jié)果，而非數(shù)據(jù)異常案例。

2. 異常檢測模型

異常檢測模型是針對整體樣本中的異常數(shù)據(jù)進行分析和挖掘，以便找到其中的異常個案和規(guī)律，這種數(shù)據(jù)應(yīng)用圍繞異常值展開，因此異常值不能做拋棄處理。

異常檢測模型常用于客戶異常識別、信用卡欺詐、貸款審批識別、藥物變異識別、惡劣氣象預(yù)測、網(wǎng)絡(luò)入侵檢測、流量作弊檢測等。在這種情況下，異常數(shù)據(jù)本身是目標(biāo)數(shù)據(jù)，如果被處理掉將損失關(guān)鍵信息。

3. 包容異常值的數(shù)據(jù)建模

如果數(shù)據(jù)算法和模型對異常值不敏感，那么即使不處理異常值也不會對模型本身造成負面影響。例如在決策樹中，異常值本身就可以作為一種分裂節(jié)點。

提示：除了拋棄和保留，還有一種思路可對異常值進行處理，例如使用其他統(tǒng)計量、預(yù)測量進行替換。但這種方法不推薦使用，原因是這會將其中的關(guān)鍵分布特征消除，從而改變原始數(shù)據(jù)集的分布規(guī)律。

03、數(shù)據(jù)重復(fù)就需要去重嗎

數(shù)據(jù)集中的重復(fù)值包括以下兩種情況：

• 數(shù)據(jù)值完全相同的多條數(shù)據(jù)記錄。這是最常見的數(shù)據(jù)重復(fù)情況。
• 數(shù)據(jù)主體相同但匹配到的唯一屬性值不同。這種情況多見于數(shù)據(jù)倉庫中的變化維度表，同一個事實表的主體會匹配同一個屬性的多個值。

去重是重復(fù)值處理的主要方法，主要目的是保留能顯示特征的唯一數(shù)據(jù)記錄。但當(dāng)遇到以下幾種情況時，請慎重（不建議）執(zhí)行數(shù)據(jù)去重。

1. 重復(fù)的記錄用于分析演變規(guī)律

以變化維度表為例。例如在商品類別的維度表中，每個商品對應(yīng)的同1個類別的值應(yīng)該是唯一的，例如蘋果iPhone7屬于個人電子消費品，這樣才能將所有商品分配到唯一類別屬性值中。但當(dāng)所有商品類別的值重構(gòu)或升級時（大多數(shù)情況下隨著公司的發(fā)展都會這么做），原有的商品可能被分配了類別中的不同值。如下表所示展示了這種變化。

此時，我們在數(shù)據(jù)中使用Full join做跨重構(gòu)時間點的類別匹配時，會發(fā)現(xiàn)蘋果iPhone7會同時匹配到個人電子消費品和手機數(shù)碼2條記錄。對于這種情況，需要根據(jù)具體業(yè)務(wù)需求處理。

• 如果跟業(yè)務(wù)溝通，兩條數(shù)據(jù)需要做整合，那么需要確定一個整合字段用來涵蓋2條記錄。其實就是將2條數(shù)據(jù)再次映射到一個類別主體中。
• 如果跟業(yè)務(wù)溝通，需要同時保存兩條數(shù)據(jù)，那么此時不能做任何處理。后續(xù)的具體處理根據(jù)建模需求而定。
• 相關(guān)知識點：變化維度表

變化維度表是數(shù)據(jù)倉庫中的概念。維度表類似于匹配表，用來存儲靜態(tài)的維度、屬性等數(shù)據(jù)，而這些數(shù)據(jù)一般都不會改變。但是變與不變是一個相對的概念，隨著企業(yè)的不斷發(fā)展，很多時候維度也會隨著發(fā)生變化。因此在某個時間內(nèi)的維度是不變的，而從整體來看維度也是變化的。

對于維度的變化，有3種方式進行處理：

• 直接覆蓋原有值。這種情況下每個唯一ID就只對應(yīng)一個屬性值，這樣做雖然簡單粗暴也容易實現(xiàn)，但是無法保留歷史信息。
• 添加新的維度行。此時同一個ID會得到兩條匹配記錄。
• 增加新的屬性列。此時不會新增數(shù)據(jù)行記錄，只是在原有的記錄中新增一列用于標(biāo)記不同時期的值。

具體到企業(yè)內(nèi)使用哪種方式，通常由數(shù)據(jù)庫管理員根據(jù)實際情況來決定。

注意：真正的變化維度表或維度表不會以中文做主鍵，通常都會使用數(shù)字或字符串類作為唯一關(guān)聯(lián)ID，本節(jié)的示例僅做說明之用。

2. 重復(fù)的記錄用于樣本不均衡處理

在開展分類數(shù)據(jù)建模工作時，樣本不均衡是影響分類模型效果的關(guān)鍵因素之一。解決分類方法的一種方法是對少數(shù)樣本類別做簡單過采樣，通過隨機過采樣，采取簡單復(fù)制樣本的策略來增加少數(shù)類樣本。

經(jīng)過這種處理方式后，也會在數(shù)據(jù)記錄中產(chǎn)生相同記錄的多條數(shù)據(jù)。此時，我們不能對其中的重復(fù)值執(zhí)行去重操作。

3. 重復(fù)的記錄用于檢測業(yè)務(wù)規(guī)則問題

對于以分析應(yīng)用為主的數(shù)據(jù)集而言，存在重復(fù)記錄不會直接影響實際運營，畢竟數(shù)據(jù)集主要是用來做分析的。

但對于事務(wù)型的數(shù)據(jù)而言，重復(fù)數(shù)據(jù)可能意味著重大運營規(guī)則問題，尤其當(dāng)這些重復(fù)值出現(xiàn)在與企業(yè)經(jīng)營中與金錢相關(guān)的業(yè)務(wù)場景時，例如：重復(fù)的訂單、重復(fù)的充值、重復(fù)的預(yù)約項、重復(fù)的出庫申請等。

這些重復(fù)的數(shù)據(jù)記錄通常是由于數(shù)據(jù)采集、存儲、驗證和審核機制的不完善等問題導(dǎo)致的，會直接反映到前臺生產(chǎn)和運營系統(tǒng)。以重復(fù)訂單為例：

• 假如前臺的提交訂單功能不做唯一性約束，那么在一次訂單中重復(fù)點擊提交訂單按鈕，就會觸發(fā)多次重復(fù)提交訂單的申請記錄，如果該操作審批通過后，會聯(lián)動帶動運營后端的商品分揀、出庫、送貨，如果用戶接收重復(fù)商品則會導(dǎo)致重大損失；
• 如果用戶退貨則會增加反向訂單，并影響物流、配送和倉儲相關(guān)的各個運營環(huán)節(jié)，導(dǎo)致運營資源無端消耗、商品損耗增加、倉儲物流成本增加等問題。

因此，這些問題必須在前期數(shù)據(jù)采集和存儲時就通過一定機制解決和避免。如果確實產(chǎn)生了此類問題，那么數(shù)據(jù)工作者或運營工作者可以基于這些重復(fù)值來發(fā)現(xiàn)規(guī)則漏洞，并配合相關(guān)部門，最大限度地降低由此而帶來的運營風(fēng)險。

關(guān)于作者：宋天龍，大數(shù)據(jù)技術(shù)專家，觸脈咨詢合伙人兼副總裁，前Webtrekk中國區(qū)技術(shù)和咨詢負責(zé)人（Webtrekk，德國的在線數(shù)據(jù)分析服務(wù)提供商）。擅長數(shù)據(jù)挖掘、建模、分析與運營，精通端到端數(shù)據(jù)價值場景設(shè)計、業(yè)務(wù)需求轉(zhuǎn)換、數(shù)據(jù)結(jié)構(gòu)梳理、數(shù)據(jù)建模與學(xué)習(xí)以及數(shù)據(jù)工程交付。

直播預(yù)告