
編譯:小七、蔣寶尚
一些小提示和小技巧可能是非常有用的,特別是在編程領(lǐng)域。有時(shí)候使用一點(diǎn)點(diǎn)黑客技術(shù),既可以節(jié)省時(shí)間,還可能挽救“生命”。
一個(gè)小小的快捷方式或附加組件有時(shí)真是天賜之物,并且可以成為真正的生產(chǎn)力助推器。所以,這里有一些小提示和小技巧,有些可能是新的,但我相信在下一個(gè)數(shù)據(jù)分析項(xiàng)目中會讓你非常方便。
Pandas中數(shù)據(jù)框數(shù)據(jù)的Profiling過程
Profiling(分析器)是一個(gè)幫助我們理解數(shù)據(jù)的過程,而Pandas Profiling是一個(gè)Python包,它可以簡單快速地對Pandas 的數(shù)據(jù)框數(shù)據(jù)進(jìn)行探索性數(shù)據(jù)分析。
Pandas中df.describe和df.info函數(shù)可以實(shí)現(xiàn)EDA過程第一步。但是,它們只提供了對數(shù)據(jù)非常基本的概述,對于大型數(shù)據(jù)集沒有太大幫助。而Pandas中的Profiling功能簡單通過一行代碼就能顯示大量信息,且在交互式HTML報(bào)告中也是如此。
對于給定的數(shù)據(jù)集,Pandas中的profiling包計(jì)算了以下統(tǒng)計(jì)信息:
由Pandas Profiling包計(jì)算出的統(tǒng)計(jì)信息包括直方圖、眾數(shù)、相關(guān)系數(shù)、分位數(shù)、描述統(tǒng)計(jì)量、其他信息——類型、單一變量值、缺失值等。
安裝
用pip安裝或者用conda安裝
pipinstall pandas-profilingcondainstall -c anaconda pandas-profiling
用法
下面代碼是用很久以前的泰坦尼克數(shù)據(jù)集來演示多功能Python分析器的結(jié)果。
#importing the necessary packagesimport pandas as pdimport pandas_profilingdf = pd.read_csv('titanic/train.csv')pandas_profiling.ProfileReport(df)
一行代碼就能實(shí)現(xiàn)在Jupyter Notebook中顯示完整的數(shù)據(jù)分析報(bào)告,該報(bào)告非常詳細(xì),且包含了必要的圖表信息。
還可以使用以下代碼將報(bào)告導(dǎo)出到交互式HTML文件中。
profile = pandas_profiling.ProfileReport(df)profile.to_file(outputfile="Titanic data profiling.html")
Pandas實(shí)現(xiàn)交互式作圖
Pandas有一個(gè)內(nèi)置的.plot函數(shù)作為DataFrame類的一部分。但是,使用此功能呈現(xiàn)的可視化不是交互式的,這使得它沒那么吸引人。同樣,使用pandas.DataFrame.plot函數(shù)繪制圖表也不能實(shí)現(xiàn)交互。如果我們需要在不對代碼進(jìn)行重大修改的情況下用Pandas繪制交互式圖表怎么辦呢?這個(gè)時(shí)候就可以用Cufflinks庫來實(shí)現(xiàn)。
Cufflinks庫可以將有強(qiáng)大功能的plotly和擁有靈活性的pandas結(jié)合在一起,非常便于繪圖。下面就來看在pandas中如何安裝和使用Cufflinks庫。
安裝
pip install plotly# Plotly is a pre-requisite before installing cufflinkspip install cufflinks#importing Pandas#importing plotly and cufflinks in offline modeimport cufflinks as cfimport plotly.offlinecf.go_offlinecf.set_config_file(offline=False, world_readable=True)
是時(shí)候展示泰坦尼克號數(shù)據(jù)集的魔力了。
df.iplot
df.iplot vsdf.plot
右側(cè)的可視化顯示了靜態(tài)圖表,而左側(cè)圖表是交互式的,更詳細(xì),并且所有這些在語法上都沒有任何重大更改。
Magic命令
Magic命令是Jupyter notebook中的一組便捷功能,旨在解決標(biāo)準(zhǔn)數(shù)據(jù)分析中的一些常見問題。使用命令%lsmagic可以看到所有的可用命令。
所有可用的Magic命令列表
Magic命令有兩種:行magic命令(line magics),以單個(gè)%字符為前綴,在單行輸入操作;單元magic命令(cell magics),以雙%%字符為前綴,可以在多行輸入操作。如果設(shè)置為1,則不用鍵入%即可調(diào)用Magic函數(shù)。
接下來看一些在常見數(shù)據(jù)分析任務(wù)中可能用到的命令:
% pastebin
%pastebin將代碼上傳到Pastebin并返回url。Pastebin是一個(gè)在線內(nèi)容托管服務(wù),可以存儲純文本,如源代碼片段,然后通過url可以與其他人共享。事實(shí)上,Github gist也類似于pastebin,只是有版本控制。
在file.py文件中寫一個(gè)包含以下內(nèi)容的python腳本,并試著運(yùn)行看看結(jié)果。
#file.pydeffoo(x):return x
在Jupyter Notebook中使用%pastebin生成一個(gè)pastebin url。
%matplotlib notebook
函數(shù)用于在Jupyter notebook中呈現(xiàn)靜態(tài)matplotlib圖。用notebook替換inline,可以輕松獲得可縮放和可調(diào)整大小的繪圖。但記得這個(gè)函數(shù)要在導(dǎo)入matplotlib庫之前調(diào)用。
%run
用%run函數(shù)在notebook中運(yùn)行一個(gè)python腳本試試。
%run file.py%%writefile
%% writefile是將單元格內(nèi)容寫入文件中。以下代碼將腳本寫入名為foo.py的文件并保存在當(dāng)前目錄中。
%%latex
%%latex函數(shù)將單元格內(nèi)容以LaTeX形式呈現(xiàn)。此函數(shù)對于在單元格中編寫數(shù)學(xué)公式和方程很有用。
查找并解決錯誤
交互式調(diào)試器也是一個(gè)神奇的功能,我把它單獨(dú)定義了一類。如果在運(yùn)行代碼單元時(shí)出現(xiàn)異常,請?jiān)谛滦兄墟I入%debug并運(yùn)行它。這將打開一個(gè)交互式調(diào)試環(huán)境,它能直接定位到發(fā)生異常的位置。還可以檢查程序中分配的變量值,并在此處執(zhí)行操作。退出調(diào)試器單擊q即可。
Printing也有小技巧
如果您想生成美觀的數(shù)據(jù)結(jié)構(gòu),pprint是首選。它在打印字典數(shù)據(jù)或JSON數(shù)據(jù)時(shí)特別有用。接下來看一個(gè)使用print和pprint來顯示輸出的示例。
讓你的筆記脫穎而出
我們可以在您的Jupyter notebook中使用警示框/注釋框來突出顯示重要內(nèi)容或其他需要突出的內(nèi)容。注釋的顏色取決于指定的警報(bào)類型。只需在需要突出顯示的單元格中添加以下任一代碼或所有代碼即可。
藍(lán)色警示框:信息提示
<div class="alert alert-block alert-info"><b>Tip:</b> Use blue boxes (alert-info) for tips and notes.If it’s a note, you don’t have to include the word “Note”.</div>
黃色警示框:警告
<div class="alert alert-block alert-warning"><b>Example:</b> Yellow Boxes are generally used to include additional examples or mathematical formulas.</div>
綠色警示框:成功
<div class="alert alert-block alert-success">Use green box only when necessary like to display links to related content.</div>
紅色警示框:高危
<div class="alert alert-block alert-danger">It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.</div>
打印單元格所有代碼的輸出結(jié)果
假如有一個(gè)Jupyter Notebook的單元格,其中包含以下代碼行:
In[1]: 10+511+6Out[1]: 17
單元格的正常屬性是只打印最后一個(gè)輸出,而對于其他輸出,我們需要添加print函數(shù)。然而通過在notebook頂部添加以下代碼段可以一次打印所有輸出。
添加代碼后所有的輸出結(jié)果就會一個(gè)接一個(gè)地打印出來。
In[1]: 10+511+612+7Out[1]: 15Out[1]: 17Out[1]: 19
恢復(fù)原始設(shè)置:
InteractiveShell.ast_node_interactivity = "last_expr"
使用'i'選項(xiàng)運(yùn)行python腳本
從命令行運(yùn)行python腳本的典型方法是:python hello.py。但是,如果在運(yùn)行相同的腳本時(shí)添加-i,例如python -i hello.py,就能提供更多優(yōu)勢。接下來看看結(jié)果如何。
首先,即使程序結(jié)束,python也不會退出解釋器。因此,我們可以檢查變量的值和程序中定義的函數(shù)的正確性。
其次,我們可以輕松地調(diào)用python調(diào)試器,因?yàn)槲覀內(nèi)匀辉诮忉屍髦校?/span>
import pdbpdb.pm
這能定位異常發(fā)生的位置,然后我們可以處理異常代碼。
自動評論代碼
Ctrl / Cmd + /自動注釋單元格中的選定行,再次命中組合將取消注釋相同的代碼行。
刪除容易恢復(fù)難
你有沒有意外刪除過Jupyter notebook中的單元格?如果答案是肯定的,那么可以掌握這個(gè)撤消刪除操作的快捷方式。
如果您刪除了單元格的內(nèi)容,可以通過按CTRL / CMD + Z輕松恢復(fù)它。
如果需要恢復(fù)整個(gè)已刪除的單元格,請按ESC + Z或EDIT>撤消刪除單元格。
結(jié)論
在本文中,我列出了使用Python和Jupyter notebook時(shí)收集的一些小提示。我相信它們會對你有用,能讓你有所收獲,從而實(shí)現(xiàn)輕松編碼!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10