作者：俊欣

來源：關(guān)于數(shù)據(jù)分析與可視化

大家好，我是俊欣，本篇文章應(yīng)該算得上是2022年的第一篇原創(chuàng)了，抱歉，元旦期間小編有點(diǎn)偷懶。

今天小編來給大家講一下Pandas模塊當(dāng)中的數(shù)據(jù)統(tǒng)計(jì)與排序，說到具體的就是value_counts()方法以及sort_values()方法。

value_counts()方法，顧名思義，主要是用于計(jì)算各個(gè)類別出現(xiàn)的次數(shù)的，而sort_values()方法則是對(duì)數(shù)值來進(jìn)行排序，當(dāng)然除了這些，還有很多大家不知道的衍生的功能等待被挖掘，下面小編就帶大家一個(gè)一個(gè)的說過去。

導(dǎo)入模塊并且讀取數(shù)據(jù)庫

我們這次用到的數(shù)據(jù)集是“非常有名”的泰坦尼克號(hào)的數(shù)據(jù)集，該數(shù)據(jù)源能夠在很多平臺(tái)上都能夠找得到

import pandas as pd
df = pd.read_csv("titanic_train.csv")
df.head()

output

常規(guī)的用法

首先我們來看一下常規(guī)的用法，代碼如下

df['Embarked'].value_counts()

output

S 644 C 168 Q 77 Name: Embarked, dtype: int64 

下面我們簡(jiǎn)單來介紹一下value_counts()方法當(dāng)中的參數(shù)，

DataFrame.value_counts(subset=None,
                       normalize=False,
                       sort=True,
                       ascending=False,
                       dropna=True)

常用到參數(shù)的具體解釋為：

• subset: 表示根據(jù)什么字段或者索引來進(jìn)行統(tǒng)計(jì)分析
• normalize: 返回的是比例而不是頻次
• ascending: 降序還是升序來排
• dropna: 是否需要包含有空值的行

對(duì)數(shù)值進(jìn)行排序

上面返回的結(jié)果是按照從大到小來進(jìn)行排序的，當(dāng)然我們也可以反過來，從小到大來進(jìn)行排序，代碼如下

df['Embarked'].value_counts(ascending=True)

output

Q 77 C 168 S 644 Name: Embarked, dtype: int64 

對(duì)索引的字母進(jìn)行排序

同時(shí)我們也可以對(duì)索引，按照字母表的順序來進(jìn)行排序，代碼如下

df['Embarked'].value_counts(ascending=True).sort_index(ascending=True)

output

C 168 Q 77 S 644 Name: Embarked, dtype: int64 

當(dāng)中的ascending=True指的是升序排序

包含對(duì)空值的統(tǒng)計(jì)

默認(rèn)的是value_counts()方法不會(huì)對(duì)空值進(jìn)行統(tǒng)計(jì)，那要是我們也希望對(duì)空值進(jìn)行統(tǒng)計(jì)的話，就可以加上dropna參數(shù)，代碼如下

df['Embarked'].value_counts(dropna=False)

output

S 644 C 168 Q 77 NaN 2 Name: Embarked, dtype: int64 

百分比式的數(shù)據(jù)統(tǒng)計(jì)

我們可以將數(shù)值的統(tǒng)計(jì)轉(zhuǎn)化成百分比式的統(tǒng)計(jì)，可以更加直觀地看到每一個(gè)類別的占比，代碼如下

df['Embarked'].value_counts(normalize=True)

output

S 0.724409 C 0.188976 Q 0.086614 Name: Embarked, dtype: float64 

要是我們希望對(duì)能夠在后面加上一個(gè)百分比的符號(hào)，則需要在Pandas中加以設(shè)置，對(duì)數(shù)據(jù)的展示加以設(shè)置，代碼如下

pd.set_option('display.float_format', '{:.2%}'.format) df['Embarked'].value_counts(normalize = True)

output

S 72.44% C 18.90% Q 8.66% Name: Embarked, dtype: float64 

當(dāng)然除此之外，我們還可以這么來做，代碼如下

df['Embarked'].value_counts(normalize = True).to_frame().style.format('{:.2%}')

output

Embarked S 72.44% C 18.90% Q 8.66%

連續(xù)型數(shù)據(jù)分箱

和Pandas模塊當(dāng)中的cut()方法相類似的在于，我們這里也可以將連續(xù)型數(shù)據(jù)進(jìn)行分箱然后再來統(tǒng)計(jì)，代碼如下

df['Fare'].value_counts(bins=3)

output

(-0.513, 170.776] 871 (170.776, 341.553] 17 (341.553, 512.329] 3 Name: Fare, dtype: int64 

我們將Fare這一列同等份的分成3組然后再來進(jìn)行統(tǒng)計(jì)，當(dāng)然我們也可以自定義每一個(gè)分組的上限與下限，代碼如下

df['Fare'].value_counts(bins=[-1, 20, 100, 550]) 

output

(-1.001, 20.0] 515 (20.0, 100.0] 323 (100.0, 550.0] 53 Name: Fare, dtype: int64 

分組再統(tǒng)計(jì)

pandas模塊當(dāng)中的groupby()方法允許對(duì)數(shù)據(jù)集進(jìn)行分組，它也可以和value_counts()方法聯(lián)用更好地來進(jìn)行統(tǒng)計(jì)分析，代碼如下

df.groupby('Embarked')['Sex'].value_counts()

output

Embarked Sex  C male       95 female 73 Q male       41 female 36 S male      441 female 203 Name: Sex, dtype: int64 

上面的代碼是針對(duì)“Embarked”這一類別下的“Sex”特征進(jìn)行分組，然后再進(jìn)一步進(jìn)行數(shù)據(jù)的統(tǒng)計(jì)分析，當(dāng)然出來的結(jié)果是Series數(shù)據(jù)結(jié)構(gòu)，要是我們想讓Series的數(shù)據(jù)結(jié)果編程DataFrame數(shù)據(jù)結(jié)構(gòu)，可以這么來做，

df.groupby('Embarked')['Sex'].value_counts().to_frame()

數(shù)據(jù)集的排序

下面我們來談一下數(shù)據(jù)的排序，主要用到的是sort_values()方法，例如我們根據(jù)“年齡”這一列來進(jìn)行排序，排序的方式為降序排，代碼如下

df.sort_values("Age", ascending = False).head(10)

output

對(duì)行索引重新排序

我們看到排序過之后的DataFrame數(shù)據(jù)集行索引依然沒有變，我們希望行索引依然可以是從0開始依次的遞增，就可以這么來做，代碼如下

df.sort_values("Age", ascending = False, ignore_index = True).head(10) 

output

下面我們簡(jiǎn)單來介紹一下sort_values()方法當(dāng)中的參數(shù)

DataFrame.sort_values(by,  axis=0,  ascending=True,  inplace=False,  kind='quicksort',  na_position='last', # last，first；默認(rèn)是last ignore_index=False,  key=None) 

常用到參數(shù)的具體解釋為：

• by: 表示根據(jù)什么字段或者索引來進(jìn)行排序，可以是一個(gè)或者是多個(gè)
• axis: 是水平方向排序還是垂直方向排序，默認(rèn)是垂直方向
• ascending: 排序方式，是升序還是降序來排
• inplace: 是生成新的DataFrame還是在原有的基礎(chǔ)上進(jìn)行修改
• kind: 所用到的排序的算法，有快排quicksort或者是歸并排序mergesort、堆排序heapsort等等
• ignore_index: 是否對(duì)行索引進(jìn)行重新的排序

對(duì)多個(gè)字段的排序

我們還可以對(duì)多個(gè)字段進(jìn)行排序，代碼如下

df.sort_values(["Age", "Fare"], ascending = False).head(10)

output

同時(shí)我們也可以對(duì)不同的字段指定不同的排序方式，如下

df.sort_values(["Age", "Fare"], ascending = [False, True]).head(10)

output

我們可以看到在“Age”一樣的情況下，“Fare”字段是按照升序的順序來排的

自定義排序

我們可以自定義一個(gè)函數(shù)方法，然后運(yùn)用在sort_values()方法當(dāng)中，讓其按照自己寫的方法來排序，我們看如下的這組數(shù)據(jù)

df = pd.DataFrame({ 'product': ['keyboard', 'mouse', 'desk', 'monitor', 'chair'], 'category': ['C', 'C', 'O', 'C', 'O'], 'year': [2002, 2002, 2005, 2001, 2003], 'cost': ['$52', '$24', '$250', '$500', '$150'], 'promotion_time': ['20hr', '30hr', '20hr', '20hr', '2hr'],
})

output

當(dāng)中的“cost”這一列帶有美元符號(hào)“$”，因此就會(huì)干擾排序的正常進(jìn)行，我們使用lambda方法自定義一個(gè)函數(shù)方法運(yùn)用在sort_value()當(dāng)中

df.sort_values( 'cost', 
    key=lambda val: val.str.replace('$', '').astype('float64')
)

output

當(dāng)然我們還可以自定義一個(gè)更加復(fù)雜一點(diǎn)的函數(shù)，并且運(yùn)用在sort_values()方法當(dāng)中，代碼如下

def sort_by_cost_time(x): if x.name == 'cost': return x.str.replace('$', '').astype('float64') elif x.name == 'promotion_time': return x.str.replace('hr', '').astype('int') else: return x
        
df.sort_values(
   ['year', 'promotion_time', 'cost'], 
   key=sort_by_cost_time
)

output

還有另外一種情況，例如我們遇到衣服的尺碼，XS碼、S碼、M碼、L碼又或者是月份，Jan、Feb、Mar、Apr等等，需要我們自己去定義大小，這個(gè)時(shí)候我們需要用到的是CategoricalDtype

cat_size_order = CategoricalDtype(
    ['XS', 'S', 'M', 'L', 'XL'], 
    ordered=True
)
cat_size_order

output

CategoricalDtype(categories=['XS', 'S', 'M', 'L', 'XL'], ordered=True)

于是針對(duì)下面的數(shù)據(jù)

df = pd.DataFrame({ 'cloth_id': [1001, 1002, 1003, 1004, 1005, 1006], 'size': ['S', 'XL', 'M', 'XS', 'L', 'S'],
})

output

我們將事先定義好的順序應(yīng)用到該數(shù)據(jù)集當(dāng)中，代碼如下

df['size'] = df['size'].astype(cat_size_order)
df.sort_values('size')

output

先通過astype()來轉(zhuǎn)換數(shù)據(jù)類型，然后再進(jìn)行排序