作者： 俊欣

來源：關于數(shù)據(jù)分析與可視化

大家好，又是新的一周。大家一般會用Pandas模塊來對數(shù)據(jù)集進行進一步的分析與挖掘關鍵信息，但是當我們遇到數(shù)據(jù)集特別特別大的時候，內存就會爆掉，今天小編就來分享幾個技巧，來幫助你避免遇到上述提到的這個情況。

read_csv()方法當中的chunksize參數(shù)

read_csv()方法當中的chunksize參數(shù)顧名思義就是對于超大csv文件，我們可以分塊來進行讀取，例如文件當中有7000萬行的數(shù)據(jù)，我們將chunksize參數(shù)設置為100萬，每次分100萬來分批讀取，代碼如下

# read the large csv file with specified chunksize  df_chunk = pd.read_csv(r'data.csv', chunksize=1000000)

這時我們得到的df_chunk并非是一個DataFrame對象，而是一個可迭代的對象。接下來我們使用for循環(huán)并且將自己創(chuàng)立數(shù)據(jù)預處理的函數(shù)方法作用于每塊的DataFrame數(shù)據(jù)集上面，代碼如下

chunk_list = []  # 創(chuàng)建一個列表chunk_list   # for循環(huán)遍歷df_chunk當中的每一個DataFrame對象 for chunk in df_chunk:   # 將自己創(chuàng)建的數(shù)據(jù)預處理的方法作用于每個DataFrame對象上 chunk_filter = chunk_preprocessing(chunk)  # 將處理過后的結果append到上面建立的空列表當中 chunk_list.append(chunk_filter)  # 然后將列表concat到一塊兒 df_concat = pd.concat(chunk_list) 

將不重要的列都去除掉

當然我們還可以進一步將不重要的列都給去除掉，例如某一列當中存在較大比例的空值，那么我們就可以將該列去除掉，代碼如下

# Filter out unimportant columns df = df[['col_1','col_2', 'col_3', 'col_4', 'col_5', 'col_6','col_7', 'col_8', 'col_9', 'col_10']]

當然我們要去除掉空值可以調用df.dropna()方法，一般也可以提高數(shù)據(jù)的準確性以及減少內存的消耗

轉變數(shù)據(jù)格式

最后我們可以通過改變數(shù)據(jù)類型來壓縮內存空間，一般情況下，Pandas模塊會給數(shù)據(jù)列自動設置默認的數(shù)據(jù)類型，很多數(shù)據(jù)類型里面還有子類型，而這些子類型可以用更加少的字節(jié)數(shù)來表示，下表給出了各子類型所占的字節(jié)數(shù)

對于內存當中的數(shù)據(jù)，我們可以這么來理解，內存相當于是倉庫，而數(shù)據(jù)則相當于是貨物，貨物在入倉庫之前呢需要將其裝入箱子當中，現(xiàn)在有著大、中、小三種箱子，

現(xiàn)在Pandas在讀取數(shù)據(jù)的時候是將這些數(shù)據(jù)無論其類型，都是裝到大箱子當中去，因此會在很快的時間里倉庫也就是內存就滿了。

因此我們優(yōu)化的思路就在于是遍歷每一列，然后找出該列的最大值與最小值，我們將這些最大最小值與子類型當中的最大最小值去做比較，挑選字節(jié)數(shù)最小的子類型。

我們舉個例子，Pandas默認是int64類型的某一列最大值與最小值分別是0和100，而int8類型是可以存儲數(shù)值在-128~127之間的，因此我們可以將該列從int64類型轉換成int8類型，也就同時節(jié)省了不少內存的空間。

我們將上面的思路整理成代碼，就是如下所示

def reduce_mem_usage(df): """ 遍歷DataFrame數(shù)據(jù)集中的每列數(shù)據(jù)集
    并且更改它們的數(shù)據(jù)類型        
    """ start_memory = df.memory_usage().sum() / 1024**2 print('DataFrame所占用的數(shù)據(jù)集有: {:.2f} MB'.format(start_memory)) for col in df.columns:
        col_type = df[col].dtype if col_type != object:
            col_min = df[col].min()
            col_max = df[col].max() if str(col_type)[:3] == 'int': if col_min > np.iinfo(np.int8).min and col_max < np.iinfo(np.int8).max:
                    df[col] = df[col].astype(np.int8) elif col_min > np.iinfo(np.int16).min and col_max < np.iinfo(np.int16).max:
                    df[col] = df[col].astype(np.int16) elif col_min > np.iinfo(np.int32).min and col_max < np.iinfo(np.int32).max:
                    df[col] = df[col].astype(np.int32) elif col_min > np.iinfo(np.int64).min and col_max < np.iinfo(np.int64).max:
                    df[col] = df[col].astype(np.int64) else: if col_min > np.finfo(np.float16).min and col_max < np.finfo(np.float16).max:
                    df[col] = df[col].astype(np.float16) elif col_min > np.finfo(np.float32).min and col_max < np.finfo(np.float32).max:
                    df[col] = df[col].astype(np.float32) else:
                    df[col] = df[col].astype(np.float64)

    end_memory = df.memory_usage().sum() / 1024**2 print('優(yōu)化過之后數(shù)據(jù)集的內存占有: {:.2f} MB'.format(end_memory))
    print('減少了大約有: {:.1f}%'.format(100 * (start_memory - end_memory) / start_memory)) return df

大家可以將小編寫的這個函數(shù)方法拿去嘗試一番，看一下效果如何？