
pythonshujuqingxi/' style='color:#000;font-size:inherit;'>python數(shù)據(jù)清洗功能非常強(qiáng)大,相信很多進(jìn)行數(shù)據(jù)處理工作的小伙伴都遇到過這種需求,比如已經(jīng)有了各個(gè)銷售員的銷售業(yè)績(jī),現(xiàn)在需要給各個(gè)銷售業(yè)績(jī)進(jìn)行一個(gè)分檔,諸如未完成任務(wù),完成任務(wù),超額完成任務(wù)等。要完成分檔需要先對(duì)銷售業(yè)績(jī)的數(shù)值進(jìn)行判斷,然后再根據(jù)判斷的結(jié)果進(jìn)行一個(gè)分類,那么大家都是怎樣進(jìn)行分類的呢?
實(shí)際上,上述需求是要對(duì)連續(xù)型的數(shù)值進(jìn)行分箱操作,實(shí)現(xiàn)的方法有N種,但是效率有高有低,這里我們介紹兩種效率比較高而且也容易理解的方法。
先來看一下這個(gè)函數(shù)都包含有哪些參數(shù),主要參數(shù)的含義與作用都是什么?
pd.cut( x, bins, right=True, labels=None, retbins=False, precision=3, include_lowest=False, duplicates='raise', )
x : 一維數(shù)組(對(duì)應(yīng)前邊例子中提到的銷售業(yè)績(jī))
bins :整數(shù),標(biāo)量序列或者間隔索引,是進(jìn)行分組的依據(jù),
right :布爾值,默認(rèn)為True表示包含最右側(cè)的數(shù)值
labels : 數(shù)組或布爾值,可選.指定分箱的標(biāo)簽
retbins: 是否顯示分箱的分界值。默認(rèn)為False,當(dāng)bins取整數(shù)時(shí)可以設(shè)置retbins=True以顯示分界值,得到劃分后的區(qū)間
precision:整數(shù),默認(rèn)3,存儲(chǔ)和顯示分箱標(biāo)簽的精度。
include_lowest:布爾值,表示區(qū)間的左邊是開還是閉,默認(rèn)為false,也就是不包含區(qū)間左邊。
duplicates:如果分箱臨界值不唯一,則引發(fā)ValueError或丟棄非唯一
ok,所有參數(shù)的含義與作用就是這些了,純文字解釋怎么都不如代碼跑一遍來的直觀,我們?cè)诖a中實(shí)現(xiàn)一下再結(jié)合上述文字解釋就很容易理解了。而且并不是所有參數(shù)都是常用的,有些參數(shù)很少用到!
先來看一下數(shù)據(jù)源
df_f = pd.read_excel(r"D:\data\football\球隊(duì)排名比分2019.xlsx") df_f
讀入的數(shù)據(jù)是2019年英超各球隊(duì)的積分:
bins取整數(shù),即指定箱子個(gè)數(shù)
我們對(duì)積分?jǐn)?shù)據(jù)進(jìn)行分箱,先來最簡(jiǎn)單的:
pd.cut(df_f.積分,bins=3,labels=["低","中","高"]) #分成3箱并指定標(biāo)簽
分箱結(jié)果:
0 高 1 高 2 中 3 中 4 中 5 中 6 中 7 中 8 低 9 低 10 低 11 低 12 低 13 低 14 低 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (3, object): [低 < 中 < 高]
直接指定箱子個(gè)數(shù),分成等寬的3份,感興趣的同學(xué)可以求一下每個(gè)箱子內(nèi)的極值,應(yīng)該是約相等的。
前邊有提到,這種分箱方式看不到分界值是多少,但是可以通過參數(shù)進(jìn)行設(shè)置顯示分界值:
pd.cut(df_f.積分,3,labels=["低","中","高"],retbins=True) #retbins=True顯示分界值
分箱結(jié)果:
(0 高 1 高 2 中 3 中 4 中 5 中 6 中 7 中 8 低 9 低 10 低 11 低 12 低 13 低 14 低 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (3, object): [低 < 中 < 高], array([13.953 , 29.66666667, 45.33333333, 61. ]))
是不是能明顯的看出和上一次代碼結(jié)果相比多了一個(gè) array([13.953 , 29.66666667, 45.33333333, 61. ]),這就是分箱的分界值啦,我們就能知道分箱的時(shí)候是以那個(gè)數(shù)值作為分界點(diǎn)進(jìn)行分箱的了。
如果不指定每個(gè)箱子的標(biāo)簽是什么
pd.cut(df_f.積分,3,labels=False) #只顯示數(shù)據(jù)位于第幾個(gè)箱子里
分享結(jié)果:
0 2 1 2 2 1 3 1 4 1 5 1 6 1 7 1 8 0 9 0 10 0 11 0 12 0 13 0 14 0 15 0 16 0 17 0 18 0 19 0 Name: 積分, dtype: int64
只顯示每個(gè)位置上的數(shù)值屬于第幾個(gè)箱子
**bins取標(biāo)量序列 **
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"]) #默認(rèn)right = True
指定分箱時(shí)候的分界點(diǎn),即030,3040,40~70一共三個(gè)箱體,有默認(rèn)的right = True,即分箱的時(shí)候,30包含在030的箱體中,40包含在3040的箱體中,70包含在40~70的箱體中,我們來看下結(jié)果,是不是和描述一致:
這里紅框部分是要和下邊更改參數(shù)right后的結(jié)果進(jìn)行對(duì)比的,我們來看下:
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False)
分箱結(jié)果:
能夠看到,right參數(shù)設(shè)置對(duì)分箱結(jié)果的影響。為什么會(huì)有這樣的影響呢?我們回顧下我們的原數(shù)據(jù):
能夠發(fā)現(xiàn)分享發(fā)生變化的數(shù)值正好是我們分箱的臨界值,可以通過參數(shù)進(jìn)行設(shè)置臨界值被劃分到哪一邊的箱體中。
如果需要將分箱的結(jié)果展示在原數(shù)據(jù)框中,直接賦值一列進(jìn)去就可以了:
df_f.loc[:,"積分等級(jí)"]=pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False) df_f
結(jié)果如下:
pd.qcut()也可以對(duì)數(shù)據(jù)進(jìn)行分箱,那么和pd.cut()相比,pd.qcut()有什么不同呢?
試想一下如果我們有一個(gè)很大的數(shù)據(jù)集,需要對(duì)其中一項(xiàng)進(jìn)行分箱,分箱的依據(jù)不是單純的等寬箱體或者沒有確定的分解值,而是按照分位數(shù)進(jìn)行分箱,比如前四分之一的是一個(gè)箱體這種要求,用pd.cut()不是不能實(shí)現(xiàn),只是比較麻煩,還要先計(jì)算分位數(shù)作為分解值。這個(gè)時(shí)候,pd.qcut()就方便很多了。
先看一下官方文檔給出的函數(shù)作用:
基于分位數(shù)的離散化功能。 將變量離散化為基于等級(jí)或樣本分位數(shù)的相等大小的存儲(chǔ)桶。
再來看一下這個(gè)函數(shù)都包含有哪些參數(shù),主要參數(shù)的含義與作用都是什么?
和pd.cut()相比,pd.qcut()的參數(shù)少了兩個(gè),少了right和include_lowest兩個(gè)參數(shù),剩下的參數(shù)幾乎和pd.cut()一模一樣了。
pd.qcut(x, q, labels=None, retbins=False, precision=3, duplicates=‘raise’)
x :一維數(shù)組或者Serise
q : 表示分位數(shù)的整數(shù)或者數(shù)組,
labels : 數(shù)組或者布爾值,默認(rèn)為none,用于指定每個(gè)箱體的標(biāo)簽
rebines :布爾值,可選。 是否顯示分箱的分界值。(由于是按照分位數(shù)進(jìn)行分箱,在不知道分位數(shù)具體數(shù)值的情況下,可以通過這個(gè)參數(shù)設(shè)置顯示分界值即分位數(shù)的具體數(shù)值)
precision:整數(shù),默認(rèn)3,存儲(chǔ)和顯示分箱標(biāo)簽的精度。
duplicates:如果分箱臨界值不唯一,則引發(fā)ValueError或丟棄非唯一
pd.qcut()的參數(shù)就是這些了,并不是所有的參數(shù)都常用,下邊我們通過代碼示例來看一下常用參數(shù)的應(yīng)用。
還是用原來的數(shù)據(jù)集
df_f = pd.read_excel(r"D:\data\football\球隊(duì)排名比分2019.xlsx") df_f
參數(shù)q
參數(shù)q控制箱子的個(gè)數(shù)以及分界值,我們先來探索這個(gè)參數(shù):
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"])
q=4表示分成四個(gè)箱子,邊界值分別為四分位數(shù),四分之二分位數(shù)和四分之三分位數(shù),并給每個(gè)箱子都指定了標(biāo)簽,看下結(jié)果:
0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高]
再通過將q設(shè)置成數(shù)組看下分類結(jié)果是否一致:
pd.qcut(df_f.積分,[0,0.25,0.5,0.75,1],labels=["低","中","高","很高"])
直接設(shè)置成四分位數(shù),四分之二分位數(shù)和四分之三分位數(shù),看下結(jié)果:
0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高]
結(jié)果是完全一致的。
溫馨提示:不管是pd.cut()還是pd.qcut(),如果直接指定分箱的分界值,即bines和q的取值如果是數(shù)字,一定要把每一個(gè)箱體的上分界值和下分界值都寫上,即每個(gè)箱體都是有上下限的,如果分四個(gè)箱子參數(shù)數(shù)組中比如有5個(gè)數(shù)值才可以。
參數(shù)lsbels
探索完q參數(shù)我們來看下labels參數(shù),這個(gè)參數(shù)在介紹pd.cut()時(shí)沒有具體探討,其實(shí)在兩個(gè)函數(shù)中,labels的作用是一致的,我們?cè)诖搜芯恳幌?,上邊例子中l(wèi)abels都指定了標(biāo)簽名字,如果不指定,會(huì)有怎樣的結(jié)果呢?
pd.qcut(df_f.積分,4)
結(jié)果如下:
0 (32.5, 61.0] 1 (32.5, 61.0] 2 (32.5, 61.0] 3 (32.5, 61.0] 4 (32.5, 61.0] 5 (28.0, 32.5] 6 (28.0, 32.5] 7 (28.0, 32.5] 8 (28.0, 32.5] 9 (23.5, 28.0] 10 (23.5, 28.0] 11 (23.5, 28.0] 12 (23.5, 28.0] 13 (23.5, 28.0] 14 (23.5, 28.0] 15 (13.999, 23.5] 16 (13.999, 23.5] 17 (13.999, 23.5] 18 (13.999, 23.5] 19 (13.999, 23.5] Name: 積分, dtype: category Categories (4, interval[float64]): [(13.999, 23.5] < (23.5, 28.0] < (28.0, 32.5] < (32.5, 61.0]]
如果不指定labels,也就是說每個(gè)箱體都沒有名字,那么只好把箱體展現(xiàn)出來,即顯示每個(gè)箱體的兩個(gè)臨界值,至于要不要設(shè)置labels,視情況需求而定哦!
參數(shù)rebines
這個(gè)參數(shù)的作用是顯示箱體的分界值:
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"],retbins=True)
查看結(jié)果,和上邊沒有設(shè)置這個(gè)參數(shù)的結(jié)果做一下對(duì)比就可以發(fā)現(xiàn)該參數(shù)的作用了:
(0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高], array([14. , 23.5, 28. , 32.5, 61. ]))
最后位置多了一個(gè)數(shù)組,數(shù)組內(nèi)就是每個(gè)箱體的分界值了。
文章開頭提到pd.qcut()比pd.cut()少兩個(gè)參數(shù),少的參數(shù)是控制分界值被分到哪個(gè)箱子的,按分位數(shù)分箱不能控制分界值被分到哪里,顯示分界值后能夠發(fā)現(xiàn),每個(gè)箱體的數(shù)值是包含上分界值的。
再看一眼原數(shù)據(jù):
其中28是一個(gè)第二個(gè)箱體的上限,即標(biāo)簽為“中”的箱體,而在分箱的時(shí)候,數(shù)值為28的球隊(duì)都被分到了標(biāo)簽為“中”的箱體中,這個(gè)小細(xì)節(jié)可能很容易被忽視掉,這里做一下小提醒。
關(guān)于分箱的函數(shù)介紹到這里,大家能夠區(qū)分并根據(jù)實(shí)際需求靈活運(yùn)用pd.qcut()和pd.cut()了嗎?
小伙伴們還有哪些疑問或者新發(fā)現(xiàn)歡迎一起討論哦!
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10CDA 數(shù)據(jù)分析師:商業(yè)數(shù)據(jù)分析實(shí)踐的落地者與價(jià)值創(chuàng)造者 商業(yè)數(shù)據(jù)分析的價(jià)值,最終要在 “實(shí)踐” 中體現(xiàn) —— 脫離業(yè)務(wù)場(chǎng)景的分 ...
2025-09-10