
作者:梁唐
來(lái)源:早起Python
今天是我們一起來(lái)聊聊pandas中dataframe的合并。
常見(jiàn)的數(shù)據(jù)合并操作主要有兩種,第一種是我們新生成了新的特征,想要把它和舊的特征合并在一起。第二種是我們新獲取了一份數(shù)據(jù)集,想要擴(kuò)充舊的數(shù)據(jù)集。這兩種合并操作在我們?nèi)粘5墓ぷ鳟?dāng)中非常尋常,那么究竟應(yīng)該怎么操作呢?讓我們一個(gè)一個(gè)來(lái)看。
merge
首先我們來(lái)看dataframe當(dāng)中的merge操作,merge操作類(lèi)似于數(shù)據(jù)庫(kù)當(dāng)中兩張表的join,可以通過(guò)一個(gè)或者多個(gè)key將多個(gè)dataframe鏈接起來(lái)。
我們首先來(lái)創(chuàng)建兩個(gè)dataframe數(shù)據(jù):
df1 = pd.DataFrame({'id': [1, 2, 3, 3, 5, 7, 6], 'age': range(7)}) df2 = pd.DataFrame({'id': [1, 2, 4, 4, 5, 6, 7], 'score': range(7)})
我們可以看到這兩個(gè)dataframe當(dāng)中都有id這個(gè)字段,如果我們想要將它們根據(jù)id關(guān)聯(lián)起來(lái),我們可以用pd.merge函數(shù)完成:
這里雖然我們沒(méi)有指定根據(jù)哪一列完成關(guān)聯(lián),但是pandas會(huì)自動(dòng)尋找兩個(gè)dataframe的名稱相同列來(lái)進(jìn)行關(guān)聯(lián)。一般情況下我們不這么干,還是推薦大家指定列名。指定列名很簡(jiǎn)單,我們只需要傳入on這個(gè)參數(shù)即可。
如果需要根據(jù)多列關(guān)聯(lián),我們也可以傳入一個(gè)數(shù)組。但假如兩個(gè)dataframe當(dāng)中的列名不一致怎么辦,比如這兩個(gè)dataframe當(dāng)中的一列叫做id,一列叫做number,該怎么完成join呢?
df1 = pd.DataFrame({'id': [1, 2, 3, 3, 5, 7, 6], 'age': range(7)}) df2 = pd.DataFrame({'number': [1, 2, 4, 4, 5, 6, 7], 'score': range(7)})
這個(gè)時(shí)候就需要用left_on指定左表用來(lái)join的列名,用right_on指定右表用來(lái)join的列名。
談到j(luò)oin,不得不提另外一個(gè)問(wèn)題就是join的方式。我們都知道在數(shù)據(jù)庫(kù)的表join操作當(dāng)中我們通常的join方式有4種。分別是innner join,left join,right join和outer join。我們觀察一下上面的結(jié)果會(huì)發(fā)現(xiàn)關(guān)聯(lián)之后的數(shù)據(jù)條數(shù)變少了,這是因?yàn)槟J(rèn)的方式是inner join,也就是兩張表當(dāng)中都存在的數(shù)據(jù)才會(huì)被保留。如果是left join,那邊左邊當(dāng)中所有的數(shù)據(jù)都會(huì)保留,關(guān)聯(lián)不上的列置為None,同理,如果是right join,則右表全部保留,outer join則會(huì)全部保留。
join的方式選擇通過(guò)how這個(gè)參數(shù)控制,比如如果我們想要左表保留,我們傳入how='left'即可。
除此之外,merge操作還有一些其他的參數(shù),由于篇幅限制我們不一一介紹了,大家感興趣可以去查閱相關(guān)文檔。
數(shù)據(jù)合并
另外一個(gè)常用的操作叫做數(shù)據(jù)合并,為了和merge操作區(qū)分,我用了中文。雖然同樣是合并,但是它的邏輯和merge是不同的。對(duì)于merge來(lái)說(shuō),我們需要關(guān)聯(lián)的key,是通過(guò)數(shù)據(jù)關(guān)聯(lián)上之后再合并的。而合并操作是直接的合并,行對(duì)行合并或者是列對(duì)列合并,是忽視數(shù)據(jù)的合并。
這個(gè)合并操作我們之前在numpy的介紹當(dāng)中曾經(jīng)也提到過(guò),我們這里簡(jiǎn)單回顧一下。
首先我們先創(chuàng)建一個(gè)numpy的數(shù)組:
import numpy as np arr = np.random.rand(3, 4)
之后呢,我們可以用concatenate函數(shù)把這個(gè)數(shù)組橫著拼或者是豎著拼,默認(rèn)是豎著拼:
我們也可以通過(guò)axis這個(gè)參數(shù)讓它變成橫著拼:
對(duì)于dataframe同樣也有這樣的操作,不過(guò)換了一個(gè)名字叫做concat。如果我們不指定的話會(huì)豎著拼接:
豎著拼接的時(shí)候會(huì)按照列進(jìn)行對(duì)齊,如果列名對(duì)不上就會(huì)填充N(xiāo)aN。
通過(guò)axis參數(shù)我們可以讓它橫向拼接:
以上就是concat的基本用法了,除了基本用法之外,concat還有一些其他的應(yīng)用,比如說(shuō)處理index層次索引等等。只是這些用法相對(duì)來(lái)說(shuō)比較小眾,使用頻率不高,就不贅述了。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開(kāi)的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開(kāi)始提取前,需先判斷 TIF 文件的類(lèi)型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專(zhuān)業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專(zhuān)業(yè)操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開(kāi)發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷(xiāo)案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見(jiàn)頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷(xiāo)成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類(lèi)分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類(lèi)分析作為 “無(wú)監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10