
python數(shù)據(jù)清洗功能非常強(qiáng)大,相信很多進(jìn)行數(shù)據(jù)處理工作的小伙伴都遇到過(guò)這種需求,比如已經(jīng)有了各個(gè)銷售員的銷售業(yè)績(jī),現(xiàn)在需要給各個(gè)銷售業(yè)績(jī)進(jìn)行一個(gè)分檔,諸如未完成任務(wù),完成任務(wù),超額完成任務(wù)等。要完成分檔需要先對(duì)銷售業(yè)績(jī)的數(shù)值進(jìn)行判斷,然后再根據(jù)判斷的結(jié)果進(jìn)行一個(gè)分類,那么大家都是怎樣進(jìn)行分類的呢?
實(shí)際上,上述需求是要對(duì)連續(xù)型的數(shù)值進(jìn)行分箱操作,實(shí)現(xiàn)的方法有N種,但是效率有高有低,這里我們介紹兩種效率比較高而且也容易理解的方法。
先來(lái)看一下這個(gè)函數(shù)都包含有哪些參數(shù),主要參數(shù)的含義與作用都是什么?
pd.cut( x, bins, right=True, labels=None, retbins=False, precision=3, include_lowest=False, duplicates='raise', )
x : 一維數(shù)組(對(duì)應(yīng)前邊例子中提到的銷售業(yè)績(jī))
bins :整數(shù),標(biāo)量序列或者間隔索引,是進(jìn)行分組的依據(jù),
right :布爾值,默認(rèn)為T(mén)rue表示包含最右側(cè)的數(shù)值
labels : 數(shù)組或布爾值,可選.指定分箱的標(biāo)簽
retbins: 是否顯示分箱的分界值。默認(rèn)為False,當(dāng)bins取整數(shù)時(shí)可以設(shè)置retbins=True以顯示分界值,得到劃分后的區(qū)間
precision:整數(shù),默認(rèn)3,存儲(chǔ)和顯示分箱標(biāo)簽的精度。
include_lowest:布爾值,表示區(qū)間的左邊是開(kāi)還是閉,默認(rèn)為false,也就是不包含區(qū)間左邊。
duplicates:如果分箱臨界值不唯一,則引發(fā)ValueError或丟棄非唯一
ok,所有參數(shù)的含義與作用就是這些了,純文字解釋怎么都不如代碼跑一遍來(lái)的直觀,我們?cè)诖a中實(shí)現(xiàn)一下再結(jié)合上述文字解釋就很容易理解了。而且并不是所有參數(shù)都是常用的,有些參數(shù)很少用到!
先來(lái)看一下數(shù)據(jù)源
df_f = pd.read_excel(r"D:\data\football\球隊(duì)排名比分2019.xlsx") df_f
讀入的數(shù)據(jù)是2019年英超各球隊(duì)的積分:
bins取整數(shù),即指定箱子個(gè)數(shù)
我們對(duì)積分?jǐn)?shù)據(jù)進(jìn)行分箱,先來(lái)最簡(jiǎn)單的:
pd.cut(df_f.積分,bins=3,labels=["低","中","高"]) #分成3箱并指定標(biāo)簽
分箱結(jié)果:
0 高 1 高 2 中 3 中 4 中 5 中 6 中 7 中 8 低 9 低 10 低 11 低 12 低 13 低 14 低 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (3, object): [低 < 中 < 高]
直接指定箱子個(gè)數(shù),分成等寬的3份,感興趣的同學(xué)可以求一下每個(gè)箱子內(nèi)的極值,應(yīng)該是約相等的。
前邊有提到,這種分箱方式看不到分界值是多少,但是可以通過(guò)參數(shù)進(jìn)行設(shè)置顯示分界值:
pd.cut(df_f.積分,3,labels=["低","中","高"],retbins=True) #retbins=True顯示分界值
分箱結(jié)果:
(0 高 1 高 2 中 3 中 4 中 5 中 6 中 7 中 8 低 9 低 10 低 11 低 12 低 13 低 14 低 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (3, object): [低 < 中 < 高], array([13.953 , 29.66666667, 45.33333333, 61. ]))
是不是能明顯的看出和上一次代碼結(jié)果相比多了一個(gè) array([13.953 , 29.66666667, 45.33333333, 61. ]),這就是分箱的分界值啦,我們就能知道分箱的時(shí)候是以那個(gè)數(shù)值作為分界點(diǎn)進(jìn)行分箱的了。
如果不指定每個(gè)箱子的標(biāo)簽是什么
pd.cut(df_f.積分,3,labels=False) #只顯示數(shù)據(jù)位于第幾個(gè)箱子里
分享結(jié)果:
0 2 1 2 2 1 3 1 4 1 5 1 6 1 7 1 8 0 9 0 10 0 11 0 12 0 13 0 14 0 15 0 16 0 17 0 18 0 19 0 Name: 積分, dtype: int64
只顯示每個(gè)位置上的數(shù)值屬于第幾個(gè)箱子
**bins取標(biāo)量序列 **
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"]) #默認(rèn)right = True
指定分箱時(shí)候的分界點(diǎn),即030,3040,40~70一共三個(gè)箱體,有默認(rèn)的right = True,即分箱的時(shí)候,30包含在030的箱體中,40包含在3040的箱體中,70包含在40~70的箱體中,我們來(lái)看下結(jié)果,是不是和描述一致:
這里紅框部分是要和下邊更改參數(shù)right后的結(jié)果進(jìn)行對(duì)比的,我們來(lái)看下:
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False)
分箱結(jié)果:
能夠看到,right參數(shù)設(shè)置對(duì)分箱結(jié)果的影響。為什么會(huì)有這樣的影響呢?我們回顧下我們的原數(shù)據(jù):
能夠發(fā)現(xiàn)分享發(fā)生變化的數(shù)值正好是我們分箱的臨界值,可以通過(guò)參數(shù)進(jìn)行設(shè)置臨界值被劃分到哪一邊的箱體中。
如果需要將分箱的結(jié)果展示在原數(shù)據(jù)框中,直接賦值一列進(jìn)去就可以了:
df_f.loc[:,"積分等級(jí)"]=pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False) df_f
結(jié)果如下:
pd.qcut()也可以對(duì)數(shù)據(jù)進(jìn)行分箱,那么和pd.cut()相比,pd.qcut()有什么不同呢?
試想一下如果我們有一個(gè)很大的數(shù)據(jù)集,需要對(duì)其中一項(xiàng)進(jìn)行分箱,分箱的依據(jù)不是單純的等寬箱體或者沒(méi)有確定的分解值,而是按照分位數(shù)進(jìn)行分箱,比如前四分之一的是一個(gè)箱體這種要求,用pd.cut()不是不能實(shí)現(xiàn),只是比較麻煩,還要先計(jì)算分位數(shù)作為分解值。這個(gè)時(shí)候,pd.qcut()就方便很多了。
先看一下官方文檔給出的函數(shù)作用:
基于分位數(shù)的離散化功能。 將變量離散化為基于等級(jí)或樣本分位數(shù)的相等大小的存儲(chǔ)桶。
再來(lái)看一下這個(gè)函數(shù)都包含有哪些參數(shù),主要參數(shù)的含義與作用都是什么?
和pd.cut()相比,pd.qcut()的參數(shù)少了兩個(gè),少了right和include_lowest兩個(gè)參數(shù),剩下的參數(shù)幾乎和pd.cut()一模一樣了。
pd.qcut(x, q, labels=None, retbins=False, precision=3, duplicates=‘raise’)
x :一維數(shù)組或者Serise
q : 表示分位數(shù)的整數(shù)或者數(shù)組,
labels : 數(shù)組或者布爾值,默認(rèn)為none,用于指定每個(gè)箱體的標(biāo)簽
rebines :布爾值,可選。 是否顯示分箱的分界值。(由于是按照分位數(shù)進(jìn)行分箱,在不知道分位數(shù)具體數(shù)值的情況下,可以通過(guò)這個(gè)參數(shù)設(shè)置顯示分界值即分位數(shù)的具體數(shù)值)
precision:整數(shù),默認(rèn)3,存儲(chǔ)和顯示分箱標(biāo)簽的精度。
duplicates:如果分箱臨界值不唯一,則引發(fā)ValueError或丟棄非唯一
pd.qcut()的參數(shù)就是這些了,并不是所有的參數(shù)都常用,下邊我們通過(guò)代碼示例來(lái)看一下常用參數(shù)的應(yīng)用。
還是用原來(lái)的數(shù)據(jù)集
df_f = pd.read_excel(r"D:\data\football\球隊(duì)排名比分2019.xlsx") df_f
參數(shù)q
參數(shù)q控制箱子的個(gè)數(shù)以及分界值,我們先來(lái)探索這個(gè)參數(shù):
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"])
q=4表示分成四個(gè)箱子,邊界值分別為四分位數(shù),四分之二分位數(shù)和四分之三分位數(shù),并給每個(gè)箱子都指定了標(biāo)簽,看下結(jié)果:
0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高]
再通過(guò)將q設(shè)置成數(shù)組看下分類結(jié)果是否一致:
pd.qcut(df_f.積分,[0,0.25,0.5,0.75,1],labels=["低","中","高","很高"])
直接設(shè)置成四分位數(shù),四分之二分位數(shù)和四分之三分位數(shù),看下結(jié)果:
0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高]
結(jié)果是完全一致的。
溫馨提示:不管是pd.cut()還是pd.qcut(),如果直接指定分箱的分界值,即bines和q的取值如果是數(shù)字,一定要把每一個(gè)箱體的上分界值和下分界值都寫(xiě)上,即每個(gè)箱體都是有上下限的,如果分四個(gè)箱子參數(shù)數(shù)組中比如有5個(gè)數(shù)值才可以。
參數(shù)lsbels
探索完q參數(shù)我們來(lái)看下labels參數(shù),這個(gè)參數(shù)在介紹pd.cut()時(shí)沒(méi)有具體探討,其實(shí)在兩個(gè)函數(shù)中,labels的作用是一致的,我們?cè)诖搜芯恳幌?,上邊例子中l(wèi)abels都指定了標(biāo)簽名字,如果不指定,會(huì)有怎樣的結(jié)果呢?
pd.qcut(df_f.積分,4)
結(jié)果如下:
0 (32.5, 61.0] 1 (32.5, 61.0] 2 (32.5, 61.0] 3 (32.5, 61.0] 4 (32.5, 61.0] 5 (28.0, 32.5] 6 (28.0, 32.5] 7 (28.0, 32.5] 8 (28.0, 32.5] 9 (23.5, 28.0] 10 (23.5, 28.0] 11 (23.5, 28.0] 12 (23.5, 28.0] 13 (23.5, 28.0] 14 (23.5, 28.0] 15 (13.999, 23.5] 16 (13.999, 23.5] 17 (13.999, 23.5] 18 (13.999, 23.5] 19 (13.999, 23.5] Name: 積分, dtype: category Categories (4, interval[float64]): [(13.999, 23.5] < (23.5, 28.0] < (28.0, 32.5] < (32.5, 61.0]]
如果不指定labels,也就是說(shuō)每個(gè)箱體都沒(méi)有名字,那么只好把箱體展現(xiàn)出來(lái),即顯示每個(gè)箱體的兩個(gè)臨界值,至于要不要設(shè)置labels,視情況需求而定哦!
參數(shù)rebines
這個(gè)參數(shù)的作用是顯示箱體的分界值:
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"],retbins=True)
查看結(jié)果,和上邊沒(méi)有設(shè)置這個(gè)參數(shù)的結(jié)果做一下對(duì)比就可以發(fā)現(xiàn)該參數(shù)的作用了:
(0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高], array([14. , 23.5, 28. , 32.5, 61. ]))
最后位置多了一個(gè)數(shù)組,數(shù)組內(nèi)就是每個(gè)箱體的分界值了。
文章開(kāi)頭提到pd.qcut()比pd.cut()少兩個(gè)參數(shù),少的參數(shù)是控制分界值被分到哪個(gè)箱子的,按分位數(shù)分箱不能控制分界值被分到哪里,顯示分界值后能夠發(fā)現(xiàn),每個(gè)箱體的數(shù)值是包含上分界值的。
再看一眼原數(shù)據(jù):
其中28是一個(gè)第二個(gè)箱體的上限,即標(biāo)簽為“中”的箱體,而在分箱的時(shí)候,數(shù)值為28的球隊(duì)都被分到了標(biāo)簽為“中”的箱體中,這個(gè)小細(xì)節(jié)可能很容易被忽視掉,這里做一下小提醒。
關(guān)于分箱的函數(shù)介紹到這里,大家能夠區(qū)分并根據(jù)實(shí)際需求靈活運(yùn)用pd.qcut()和pd.cut()了嗎?
小伙伴們還有哪些疑問(wèn)或者新發(fā)現(xiàn)歡迎一起討論哦!
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門(mén)控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書(shū)考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開(kāi)啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03