作者：俊欣

來源：關(guān)于數(shù)據(jù)分析與可視化

大家好，又是新的一周。大家一般會用Pandas模塊來對數(shù)據(jù)集進(jìn)行進(jìn)一步的分析與挖掘關(guān)鍵信息，但是當(dāng)我們遇到數(shù)據(jù)集特別特別大的時候，內(nèi)存就會爆掉，今天小編就來分享幾個技巧，來幫助你避免遇到上述提到的這個情況。

read_csv()方法當(dāng)中的chunksize參數(shù)

read_csv()方法當(dāng)中的chunksize參數(shù)顧名思義就是對于超大csv文件，我們可以分塊來進(jìn)行讀取，例如文件當(dāng)中有7000萬行的數(shù)據(jù)，我們將chunksize參數(shù)設(shè)置為100萬，每次分100萬來分批讀取，代碼如下

# read the large csv file with specified chunksize 
df_chunk = pd.read_csv(r'data.csv', chunksize=1000000)

這時我們得到的df_chunk并非是一個DataFrame對象，而是一個可迭代的對象。接下來我們使用for循環(huán)并且將自己創(chuàng)立數(shù)據(jù)預(yù)處理的函數(shù)方法作用于每塊的DataFrame數(shù)據(jù)集上面，代碼如下

chunk_list = []  # 創(chuàng)建一個列表chunk_list 

# for循環(huán)遍歷df_chunk當(dāng)中的每一個DataFrame對象
for chunk in df_chunk:  
    # 將自己創(chuàng)建的數(shù)據(jù)預(yù)處理的方法作用于每個DataFrame對象上
    chunk_filter = chunk_preprocessing(chunk)
    
    # 將處理過后的結(jié)果append到上面建立的空列表當(dāng)中
    chunk_list.append(chunk_filter)
    
# 然后將列表concat到一塊兒
df_concat = pd.concat(chunk_list)

將不重要的列都去除掉

當(dāng)然我們還可以進(jìn)一步將不重要的列都給去除掉，例如某一列當(dāng)中存在較大比例的空值，那么我們就可以將該列去除掉，代碼如下

# Filter out unimportant columns
df = df[['col_1','col_2', 'col_3', 'col_4', 'col_5', 'col_6','col_7', 'col_8', 'col_9', 'col_10']]

當(dāng)然我們要去除掉空值可以調(diào)用df.dropna()方法，一般也可以提高數(shù)據(jù)的準(zhǔn)確性以及減少內(nèi)存的消耗

轉(zhuǎn)變數(shù)據(jù)格式

最后我們可以通過改變數(shù)據(jù)類型來壓縮內(nèi)存空間，一般情況下，Pandas模塊會給數(shù)據(jù)列自動設(shè)置默認(rèn)的數(shù)據(jù)類型，很多數(shù)據(jù)類型里面還有子類型，而這些子類型可以用更加少的字節(jié)數(shù)來表示，下表給出了各子類型所占的字節(jié)數(shù)

對于內(nèi)存當(dāng)中的數(shù)據(jù)，我們可以這么來理解，內(nèi)存相當(dāng)于是倉庫，而數(shù)據(jù)則相當(dāng)于是貨物，貨物在入倉庫之前呢需要將其裝入箱子當(dāng)中，現(xiàn)在有著大、中、小三種箱子，

現(xiàn)在Pandas在讀取數(shù)據(jù)的時候是將這些數(shù)據(jù)無論其類型，都是裝到大箱子當(dāng)中去，因此會在很快的時間里倉庫也就是內(nèi)存就滿了。

因此我們優(yōu)化的思路就在于是遍歷每一列，然后找出該列的最大值與最小值，我們將這些最大最小值與子類型當(dāng)中的最大最小值去做比較，挑選字節(jié)數(shù)最小的子類型。

我們舉個例子，Pandas默認(rèn)是int64類型的某一列最大值與最小值分別是0和100，而int8類型是可以存儲數(shù)值在-128~127之間的，因此我們可以將該列從int64類型轉(zhuǎn)換成int8類型，也就同時節(jié)省了不少內(nèi)存的空間。

我們將上面的思路整理成代碼，就是如下所示

def reduce_mem_usage(df):
    """ 遍歷DataFrame數(shù)據(jù)集中的每列數(shù)據(jù)集
    并且更改它們的數(shù)據(jù)類型        
    """
    start_memory = df.memory_usage().sum() / 1024**2
    print('DataFrame所占用的數(shù)據(jù)集有: {:.2f} MB'.format(start_memory))

    for col in df.columns:
        col_type = df[col].dtype

        if col_type != object:
            col_min = df[col].min()
            col_max = df[col].max()
            if str(col_type)[:3] == 'int':
                if col_min > np.iinfo(np.int8).min and col_max < np.iinfo(np.int8).max:
                    df[col] = df[col].astype(np.int8)
                elif col_min > np.iinfo(np.int16).min and col_max < np.iinfo(np.int16).max:
                    df[col] = df[col].astype(np.int16)
                elif col_min > np.iinfo(np.int32).min and col_max < np.iinfo(np.int32).max:
                    df[col] = df[col].astype(np.int32)
                elif col_min > np.iinfo(np.int64).min and col_max < np.iinfo(np.int64).max:
                    df[col] = df[col].astype(np.int64)  
            else:
                if col_min > np.finfo(np.float16).min and col_max < np.finfo(np.float16).max:
                    df[col] = df[col].astype(np.float16)
                elif col_min > np.finfo(np.float32).min and col_max < np.finfo(np.float32).max:
                    df[col] = df[col].astype(np.float32)
                else:
                    df[col] = df[col].astype(np.float64)

    end_memory = df.memory_usage().sum() / 1024**2
    print('優(yōu)化過之后數(shù)據(jù)集的內(nèi)存占有: {:.2f} MB'.format(end_memory))
    print('減少了大約有: {:.1f}%'.format(100 * (start_memory - end_memory) / start_memory))

    return df

大家可以將小編寫的這個函數(shù)方法拿去嘗試一番，看一下效果如何！