
原文來源 | Huy Nguyen
譯文來源 | 開源中國
雖然你所寫的每個(gè)Python程序并不總是需要嚴(yán)密的性能分析,但是當(dāng)這樣的問題出現(xiàn)時(shí),如果能知道Python生態(tài)系統(tǒng)中的許多種工具,這樣總是可以讓人安心的。
分析一個(gè)程序的性能可以歸結(jié)為回答4個(gè)基本的問題:
1.它運(yùn)行的有多塊?
2.那里是速度的瓶頸?
3.它使用了多少內(nèi)存?
4.哪里發(fā)生了內(nèi)存泄漏?
下面,我們將用一些很酷的工具,深入細(xì)節(jié)的回答這些問題。
使用time工具粗糙定時(shí)
首先,我們可以使用快速然而粗糙的工具:古老的unix工具time,來為我們的代碼檢測運(yùn)行時(shí)間。
上面三個(gè)輸入變量的意義在文章 stackoverflow article 中有詳細(xì)介紹。簡單的說:
real – 表示實(shí)際的程序運(yùn)行時(shí)間
user – 表示程序在用戶態(tài)的cpu總時(shí)間
sys – 表示在內(nèi)核態(tài)的cpu總時(shí)間
通過sys和user時(shí)間的求和,你可以直觀的得到系統(tǒng)上沒有其他程序運(yùn)行時(shí)你的程序運(yùn)行所需要的CPU周期。
若sys和user時(shí)間之和遠(yuǎn)遠(yuǎn)少于real時(shí)間,那么你可以猜測你的程序的主要性能問題很可能與IO等待相關(guān)。
使用計(jì)時(shí)上下文管理器進(jìn)行細(xì)粒度計(jì)時(shí)
我們的下一個(gè)技術(shù)涉及訪問細(xì)粒度計(jì)時(shí)信息的直接代碼指令。這是一小段代碼,我發(fā)現(xiàn)使用專門的計(jì)時(shí)測量是非常重要的:
timer.py
為了使用它,你需要用Python的with關(guān)鍵字和Timer上下文管理器包裝想要計(jì)時(shí)的代碼塊。它將會(huì)在你的代碼塊開始執(zhí)行的時(shí)候啟動(dòng)計(jì)時(shí)器,在你的代碼塊結(jié)束的時(shí)候停止計(jì)時(shí)器。
這是一個(gè)使用上述代碼片段的例子:
我經(jīng)常將這些計(jì)時(shí)器的輸出記錄到文件中,這樣就可以觀察我的程序的性能如何隨著時(shí)間進(jìn)化。
使用分析器逐行統(tǒng)計(jì)時(shí)間和執(zhí)行頻率
Robert Kern有一個(gè)稱作line_profiler的不錯(cuò)的項(xiàng)目,我經(jīng)常使用它查看我的腳步中每行代碼多快多頻繁的被執(zhí)行。
想要使用它,你需要通過pip安裝該python包:
一旦安裝完成,你將會(huì)使用一個(gè)稱做“l(fā)ine_profiler”的新模組和一個(gè)“kernprof.py”可執(zhí)行腳本。
想要使用該工具,首先修改你的源代碼,在想要測量的函數(shù)上裝飾@profile裝飾器。不要擔(dān)心,你不需要導(dǎo)入任何模組。kernprof.py腳本將會(huì)在執(zhí)行的時(shí)候?qū)⑺詣?dòng)地注入到你的腳步的運(yùn)行時(shí)。
primes.py
一旦你已經(jīng)設(shè)置好了@profile裝飾器,使用kernprof.py執(zhí)行你的腳步。
-l選項(xiàng)通知kernprof注入@profile裝飾器到你的腳步的內(nèi)建函數(shù),-v選項(xiàng)通知kernprof在腳本執(zhí)行完畢的時(shí)候顯示計(jì)時(shí)信息。上述腳本的輸出看起來像這樣:
尋找具有高Hits值或高Time值的行。這些就是可以通過優(yōu)化帶來最大改善的地方。
程序使用了多少內(nèi)存?
現(xiàn)在我們對(duì)計(jì)時(shí)有了較好的理解,那么讓我們繼續(xù)弄清楚程序使用了多少內(nèi)存。我們很幸運(yùn),F(xiàn)abian Pedregosa模仿Robert Kern的line_profiler實(shí)現(xiàn)了一個(gè)不錯(cuò)的內(nèi)存分析器。
首先使用pip安裝:
(這里建議安裝psutil包,因?yàn)樗梢源蟠蟾纳苖emory_profiler的性能)。
就像line_profiler,memory_profiler也需要在感興趣的函數(shù)上面裝飾@profile裝飾器:
想要觀察你的函數(shù)使用了多少內(nèi)存,像下面這樣執(zhí)行:
一旦程序退出,你將會(huì)看到看起來像這樣的輸出:
line_profiler和memory_profiler的IPython快捷方式
memory_profiler和line_profiler有一個(gè)鮮為人知的小竅門,兩者都有在IPython中的快捷命令。你需要做的就是在IPython會(huì)話中輸入以下內(nèi)容:
在這樣做的時(shí)候你需要訪問魔法命令%lprun和%mprun,它們的行為類似于他們的命令行形式。主要區(qū)別是你不需要使用@profiledecorator來修飾你要分析的函數(shù)。只需要在IPython會(huì)話中像先前一樣直接運(yùn)行分析:
這樣可以節(jié)省你很多時(shí)間和精力,因?yàn)槟愕脑创a不需要為使用這些分析命令而進(jìn)行修改。
內(nèi)存泄漏在哪里?
cPython解釋器使用引用計(jì)數(shù)做為記錄內(nèi)存使用的主要方法。這意味著每個(gè)對(duì)象包含一個(gè)計(jì)數(shù)器,當(dāng)某處對(duì)該對(duì)象的引用被存儲(chǔ)時(shí)計(jì)數(shù)器增加,當(dāng)引用被刪除時(shí)計(jì)數(shù)器遞減。當(dāng)計(jì)數(shù)器到達(dá)零時(shí),cPython解釋器就知道該對(duì)象不再被使用,所以刪除對(duì)象,釋放占用的內(nèi)存。
如果程序中不再被使用的對(duì)象的引用一直被占有,那么就經(jīng)常發(fā)生內(nèi)存泄漏。
查找這種“內(nèi)存泄漏”最快的方式是使用Marius Gedminas編寫的objgraph,這是一個(gè)極好的工具。該工具允許你查看內(nèi)存中對(duì)象的數(shù)量,定位含有該對(duì)象的引用的所有代碼的位置。
一開始,首先安裝objgraph:
一旦你已經(jīng)安裝了這個(gè)工具,在你的代碼中插入一行聲明調(diào)用調(diào)試器:
最普遍的對(duì)象是哪些?
在運(yùn)行的時(shí)候,你可以通過執(zhí)行下述指令查看程序中前20個(gè)最普遍的對(duì)象:
哪些對(duì)象已經(jīng)被添加或刪除?
我們也可以查看兩個(gè)時(shí)間點(diǎn)之間那些對(duì)象已經(jīng)被添加或刪除:
誰引用著泄漏的對(duì)象?
繼續(xù),你還可以查看哪里包含給定對(duì)象的引用。讓我們以下述簡單的程序做為一個(gè)例子:
想要看看哪里包含變量x的引用,執(zhí)行objgraph.show_backref()函數(shù):
該命令的輸出應(yīng)該是一副PNG圖像,保存在/tmp/backrefs.png,它看起來是像這樣:
在運(yùn)行的時(shí)候,你可以通過執(zhí)行下述指令查看程序中前20個(gè)最普遍的對(duì)象:最下面有紅字的盒子是我們感興趣的對(duì)象。我們可以看到,它被符號(hào)x引用了一次,被列表y引用了三次。如果是x引起了一個(gè)內(nèi)存泄漏,我們可以使用這個(gè)方法,通過跟蹤它的所有引用,來檢查為什么它沒有自動(dòng)的被釋放。
回顧一下,objgraph 使我們可以:
顯示占據(jù)python程序內(nèi)存的頭N個(gè)對(duì)象
顯示一段時(shí)間以后哪些對(duì)象被刪除活增加了
在我們的腳本中顯示某個(gè)給定對(duì)象的所有引用
努力與精度
在本帖中,我給你顯示了怎樣用幾個(gè)工具來分析python程序的性能。通過這些工具與技術(shù)的武裝,你可以獲得所有需要的信息,來跟蹤一個(gè)python程序中大多數(shù)的內(nèi)存泄漏,以及識(shí)別出其速度瓶頸。
對(duì)許多其他觀點(diǎn)來說,運(yùn)行一次性能分析就意味著在努力目標(biāo)與事實(shí)精度之間做出平衡。如果感到困惑,那么就實(shí)現(xiàn)能適應(yīng)你目前需求的最簡單的解決方案。
參考
stack overflow – time explained(堆棧溢出 – 時(shí)間解釋)
line_profiler(線性分析器)
memory_profiler(內(nèi)存分析器)
objgraph(對(duì)象圖)
end
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對(duì)數(shù)據(jù)的需求已從 “存儲(chǔ)” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11