
數(shù)據(jù)批處理--R語言里最重要的一個函數(shù)家族:*pply
之前我們講過循環(huán),簡單講解了向量計算,它可以代替循環(huán)進(jìn)行比較搞笑的批量計算,試想計算數(shù)據(jù)框中的總收入加上10,我們沒必要進(jìn)行循環(huán)計算這一列的每一個元素與10的和,只需要把這一列當(dāng)成一個向量執(zhí)行就可以了,這就是向量計算,但是問題來了,如果我要數(shù)據(jù)框中所有列都加上10或者求所有列的均值、中位數(shù)又或?qū)λ鼈冋{(diào)用更加復(fù)雜的函數(shù),該怎么辦?第一個想到的還是循環(huán),但是R里面循環(huán)很慢這時*pply家族的函數(shù)就派上用場了,專門完成比向量更高層次的批量處理。
apply函數(shù)
temp <- data.frame(a = rnorm(30, mean = 0), b = rnorm(30, 2), c = rnorm(30, 4))
apply(X = temp, MARGIN = 2, FUN = mean)
apply(temp, 2, sd)
apply(temp, 1, mean)
apply(temp, 2, function(x) length(x[x > 1]))
1行生成一個數(shù)據(jù)框,它每一列的數(shù)都是從一個正態(tài)分布中抽取的樣本,描述一個正態(tài)分布的樣本集至少要包含三個要素:樣本數(shù)、均值mean、標(biāo)準(zhǔn)差sd,函數(shù)rnorm的參數(shù)也主要包含這三個要素,主要用于隨機(jī)產(chǎn)生一個指定特征的正態(tài)分布樣本集,這里a列表示隨機(jī)抽取一個包含30個樣本,均值為0,標(biāo)準(zhǔn)差為1(默認(rèn)是1)的向量,然后賦值給a列,b為隨機(jī)抽取一個包含30個樣本均值為2的正態(tài)分布向量,c同樣解釋;為了驗(yàn)證抽樣效果,我們可以求每一列的均值看看和設(shè)定的是否一樣,這里不需要循環(huán),只用apply函數(shù)即可,參數(shù)X(大寫)用于指定數(shù)據(jù)集,MARGIN用于指定是對行計算還是對列計算,行用1表示,列2表示,也可以同時進(jìn)行行和列計算,最后一個參數(shù)FUN指定調(diào)用的函數(shù),連起來解釋將temp中的每一列丟給mean函數(shù)計算求均值,可以看到第一列的均值接近0,第二列接近2,第三列接近4,和我們設(shè)定的一樣;3行對每一列求標(biāo)準(zhǔn)差,可以看到標(biāo)準(zhǔn)差都接近1,和默認(rèn)的標(biāo)準(zhǔn)差一樣;4行對每一行求均值;5行使用了自編函數(shù),這里是一個匿名函數(shù),所謂匿名函數(shù)就是沒有函數(shù)名,它統(tǒng)計x中大于1的個數(shù),這句整體連起來是將temp的每一列丟給匿名函數(shù),計算每一列中大于1的數(shù)值個數(shù),有意思的是*pply家族大多數(shù)用于自編函數(shù),進(jìn)行一些批量的特殊操作。
除了對矩陣或者數(shù)據(jù)框進(jìn)行操作以外,我們有時候還會用到對list的批量操作,這就需要用到lapply或者sapply函數(shù)了,
lapply函數(shù)
temp <- list(a = rnorm(30, mean = 0), b = rnorm(10, 2), c = rnorm(20, 4))
lapply(X = temp, FUN = length)
length(temp)
myfun <- function(x) {
a <- median(x)
b <- mean(x)
return(c(a, b))
}
lapply(temp, myfun)
1行創(chuàng)建了一個包含3個向量元素的list;2行使用lapply函數(shù)將list的每一個元素丟給length函數(shù),統(tǒng)計每一個元素的長度,返回的結(jié)果是一個和X等長的list,包含3個計數(shù)結(jié)果;4行返回temp的長度為3;5行起編了一個自編函數(shù)myfun,它計算x的中位數(shù)和均值,并將結(jié)果捆綁為向量返回;最后一行將temp應(yīng)用于自編函數(shù)myfun,返回計算結(jié)果,結(jié)果是一個list,和temp等長,包含三個向量,每個向量包含兩個元素,即temp中每個向量的中位數(shù)和均值。
有時候我們需要向函數(shù)傳遞多個參數(shù),然后進(jìn)行批量操作,如下:
lapply傳遞多個參數(shù)
myfun2 <- function(x, y) {
a <- median(x + y)
b <- mean(x - y)
return(list(a, b))
}
b = 3
lapply(X = temp, myfun2, y = b)
1行設(shè)計了一個自編函數(shù)myfun2,它需要用戶傳遞兩個參數(shù):x、y;最后一行使用lapply傳遞多個參數(shù),只需要在FUN后面繼續(xù)賦值FUN所需的參數(shù)就可以了,比如myfun2需要y參數(shù),我們就在后面賦值y = b,這樣就可以完成傳參了,表示temp中每個元素向量都要和y一起參與計算,是整體的y不是y下面的每一元素,因?yàn)閠emp是按元素被lapply傳遞,而y不是,y是整體賦值。
sapply函數(shù)
sapply(X = temp, FUN = myfun, simplify = F)
sapply(X = temp, FUN = myfun, simplify = T)
sapply函數(shù)就是lapply的一個簡化版本,因?yàn)樗砑恿藄implify參數(shù)而更名為sapply,我們看到在simplify等于F時,它返回的結(jié)果和lapply一樣是個list,當(dāng)simplify為T時它就將結(jié)果整理成了一個矩陣,其實(shí)這個使用do.call函數(shù)也可以將lapply的結(jié)果轉(zhuǎn)化為矩陣,后面應(yīng)用到很多,原因是我已經(jīng)忘了sapply函數(shù)。
另外一個傳遞多個參數(shù)進(jìn)行建模的函數(shù)為mapply,這個函數(shù)很重要,一般在模型比較的交叉檢驗(yàn)時經(jīng)常用到,比如后面章節(jié)比較隨機(jī)森林的樹數(shù)對模型的影響時就用到了,它的一個作用就是避免多重循環(huán),因?yàn)樗蚻apply的多參數(shù)傳遞不同,它是將多個參數(shù)的元素一一對應(yīng)傳遞的。
mapply函數(shù)
x <- 1:3
y <- c(4, 2, 2)
z <- c(1, 3, 4)
myfun3 <- function(x, y, z) {
m <- y + z*x
}
mapply(myfun3, x, y, z)
lapply(x, myfun3, y = y, z = z)
前三行創(chuàng)建了三個向量,4行創(chuàng)建了一個自編函數(shù)myfun3;mapply函數(shù)將x、y、z的元素一一對應(yīng)的傳遞給myfun3,返回的變量是一個向量,包含了3個元素,因?yàn)閤、y、z的元素共產(chǎn)生了3次一一對應(yīng)的關(guān)系,看到了么,如果你將要使用一個三重循環(huán)就可以使用這這種方法避免,速度快很多,具體用例請參看輿情監(jiān)控的章節(jié);而lapply返回的結(jié)果就比較復(fù)雜了,所以它們的傳參邏輯不是一回事。
除了上面講到的函數(shù)以外,*pply家族還有很多變種,什么ddply、vapply、rapply等等,大同小異根本沒必要記憶,因?yàn)樯厦娴暮瘮?shù)足夠完成它們的工作,比如tapply函數(shù)比較像分組函數(shù),可以使用之前的透視表函數(shù)替代他,更加方便。其實(shí)一旦你搞通了之后,就會發(fā)現(xiàn)很多函數(shù)都是浮云,我僅僅用到兩個*pply函數(shù)lapply和mapply,其他的都被其他函數(shù)替代掉了。數(shù)據(jù)分析師培訓(xùn)
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10