
編譯:小七、蔣寶尚
一些小提示和小技巧可能是非常有用的,特別是在編程領(lǐng)域。有時(shí)候使用一點(diǎn)點(diǎn)黑客技術(shù),既可以節(jié)省時(shí)間,還可能挽救“生命”。
一個(gè)小小的快捷方式或附加組件有時(shí)真是天賜之物,并且可以成為真正的生產(chǎn)力助推器。所以,這里有一些小提示和小技巧,有些可能是新的,但我相信在下一個(gè)數(shù)據(jù)分析項(xiàng)目中會讓你非常方便。
Pandas中數(shù)據(jù)框數(shù)據(jù)的Profiling過程
Profiling(分析器)是一個(gè)幫助我們理解數(shù)據(jù)的過程,而Pandas Profiling是一個(gè)Python包,它可以簡單快速地對Pandas 的數(shù)據(jù)框數(shù)據(jù)進(jìn)行探索性數(shù)據(jù)分析。
Pandas中df.describe和df.info函數(shù)可以實(shí)現(xiàn)EDA過程第一步。但是,它們只提供了對數(shù)據(jù)非常基本的概述,對于大型數(shù)據(jù)集沒有太大幫助。而Pandas中的Profiling功能簡單通過一行代碼就能顯示大量信息,且在交互式HTML報(bào)告中也是如此。
對于給定的數(shù)據(jù)集,Pandas中的profiling包計(jì)算了以下統(tǒng)計(jì)信息:
由Pandas Profiling包計(jì)算出的統(tǒng)計(jì)信息包括直方圖、眾數(shù)、相關(guān)系數(shù)、分位數(shù)、描述統(tǒng)計(jì)量、其他信息——類型、單一變量值、缺失值等。
安裝
用pip安裝或者用conda安裝
pipinstall pandas-profilingcondainstall -c anaconda pandas-profiling
用法
下面代碼是用很久以前的泰坦尼克數(shù)據(jù)集來演示多功能Python分析器的結(jié)果。
#importing the necessary packagesimport pandas as pdimport pandas_profilingdf = pd.read_csv('titanic/train.csv')pandas_profiling.ProfileReport(df)
一行代碼就能實(shí)現(xiàn)在Jupyter Notebook中顯示完整的數(shù)據(jù)分析報(bào)告,該報(bào)告非常詳細(xì),且包含了必要的圖表信息。
還可以使用以下代碼將報(bào)告導(dǎo)出到交互式HTML文件中。
profile = pandas_profiling.ProfileReport(df)profile.to_file(outputfile="Titanic data profiling.html")
Pandas實(shí)現(xiàn)交互式作圖
Pandas有一個(gè)內(nèi)置的.plot函數(shù)作為DataFrame類的一部分。但是,使用此功能呈現(xiàn)的可視化不是交互式的,這使得它沒那么吸引人。同樣,使用pandas.DataFrame.plot函數(shù)繪制圖表也不能實(shí)現(xiàn)交互。如果我們需要在不對代碼進(jìn)行重大修改的情況下用Pandas繪制交互式圖表怎么辦呢?這個(gè)時(shí)候就可以用Cufflinks庫來實(shí)現(xiàn)。
Cufflinks庫可以將有強(qiáng)大功能的plotly和擁有靈活性的pandas結(jié)合在一起,非常便于繪圖。下面就來看在pandas中如何安裝和使用Cufflinks庫。
安裝
pip install plotly# Plotly is a pre-requisite before installing cufflinkspip install cufflinks#importing Pandas#importing plotly and cufflinks in offline modeimport cufflinks as cfimport plotly.offlinecf.go_offlinecf.set_config_file(offline=False, world_readable=True)
是時(shí)候展示泰坦尼克號數(shù)據(jù)集的魔力了。
df.iplot
df.iplot vsdf.plot
右側(cè)的可視化顯示了靜態(tài)圖表,而左側(cè)圖表是交互式的,更詳細(xì),并且所有這些在語法上都沒有任何重大更改。
Magic命令
Magic命令是Jupyter notebook中的一組便捷功能,旨在解決標(biāo)準(zhǔn)數(shù)據(jù)分析中的一些常見問題。使用命令%lsmagic可以看到所有的可用命令。
所有可用的Magic命令列表
Magic命令有兩種:行magic命令(line magics),以單個(gè)%字符為前綴,在單行輸入操作;單元magic命令(cell magics),以雙%%字符為前綴,可以在多行輸入操作。如果設(shè)置為1,則不用鍵入%即可調(diào)用Magic函數(shù)。
接下來看一些在常見數(shù)據(jù)分析任務(wù)中可能用到的命令:
% pastebin
%pastebin將代碼上傳到Pastebin并返回url。Pastebin是一個(gè)在線內(nèi)容托管服務(wù),可以存儲純文本,如源代碼片段,然后通過url可以與其他人共享。事實(shí)上,Github gist也類似于pastebin,只是有版本控制。
在file.py文件中寫一個(gè)包含以下內(nèi)容的python腳本,并試著運(yùn)行看看結(jié)果。
#file.pydeffoo(x):return x
在Jupyter Notebook中使用%pastebin生成一個(gè)pastebin url。
%matplotlib notebook
函數(shù)用于在Jupyter notebook中呈現(xiàn)靜態(tài)matplotlib圖。用notebook替換inline,可以輕松獲得可縮放和可調(diào)整大小的繪圖。但記得這個(gè)函數(shù)要在導(dǎo)入matplotlib庫之前調(diào)用。
%run
用%run函數(shù)在notebook中運(yùn)行一個(gè)python腳本試試。
%run file.py%%writefile
%% writefile是將單元格內(nèi)容寫入文件中。以下代碼將腳本寫入名為foo.py的文件并保存在當(dāng)前目錄中。
%%latex
%%latex函數(shù)將單元格內(nèi)容以LaTeX形式呈現(xiàn)。此函數(shù)對于在單元格中編寫數(shù)學(xué)公式和方程很有用。
查找并解決錯(cuò)誤
交互式調(diào)試器也是一個(gè)神奇的功能,我把它單獨(dú)定義了一類。如果在運(yùn)行代碼單元時(shí)出現(xiàn)異常,請?jiān)谛滦兄墟I入%debug并運(yùn)行它。這將打開一個(gè)交互式調(diào)試環(huán)境,它能直接定位到發(fā)生異常的位置。還可以檢查程序中分配的變量值,并在此處執(zhí)行操作。退出調(diào)試器單擊q即可。
Printing也有小技巧
如果您想生成美觀的數(shù)據(jù)結(jié)構(gòu),pprint是首選。它在打印字典數(shù)據(jù)或JSON數(shù)據(jù)時(shí)特別有用。接下來看一個(gè)使用print和pprint來顯示輸出的示例。
讓你的筆記脫穎而出
我們可以在您的Jupyter notebook中使用警示框/注釋框來突出顯示重要內(nèi)容或其他需要突出的內(nèi)容。注釋的顏色取決于指定的警報(bào)類型。只需在需要突出顯示的單元格中添加以下任一代碼或所有代碼即可。
藍(lán)色警示框:信息提示
<div class="alert alert-block alert-info"><b>Tip:</b> Use blue boxes (alert-info) for tips and notes.If it’s a note, you don’t have to include the word “Note”.</div>
黃色警示框:警告
<div class="alert alert-block alert-warning"><b>Example:</b> Yellow Boxes are generally used to include additional examples or mathematical formulas.</div>
綠色警示框:成功
<div class="alert alert-block alert-success">Use green box only when necessary like to display links to related content.</div>
紅色警示框:高危
<div class="alert alert-block alert-danger">It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.</div>
打印單元格所有代碼的輸出結(jié)果
假如有一個(gè)Jupyter Notebook的單元格,其中包含以下代碼行:
In[1]: 10+511+6Out[1]: 17
單元格的正常屬性是只打印最后一個(gè)輸出,而對于其他輸出,我們需要添加print函數(shù)。然而通過在notebook頂部添加以下代碼段可以一次打印所有輸出。
添加代碼后所有的輸出結(jié)果就會一個(gè)接一個(gè)地打印出來。
In[1]: 10+511+612+7Out[1]: 15Out[1]: 17Out[1]: 19
恢復(fù)原始設(shè)置:
InteractiveShell.ast_node_interactivity = "last_expr"
使用'i'選項(xiàng)運(yùn)行python腳本
從命令行運(yùn)行python腳本的典型方法是:python hello.py。但是,如果在運(yùn)行相同的腳本時(shí)添加-i,例如python -i hello.py,就能提供更多優(yōu)勢。接下來看看結(jié)果如何。
首先,即使程序結(jié)束,python也不會退出解釋器。因此,我們可以檢查變量的值和程序中定義的函數(shù)的正確性。
其次,我們可以輕松地調(diào)用python調(diào)試器,因?yàn)槲覀內(nèi)匀辉诮忉屍髦校?/span>
import pdbpdb.pm
這能定位異常發(fā)生的位置,然后我們可以處理異常代碼。
自動(dòng)評論代碼
Ctrl / Cmd + /自動(dòng)注釋單元格中的選定行,再次命中組合將取消注釋相同的代碼行。
刪除容易恢復(fù)難
你有沒有意外刪除過Jupyter notebook中的單元格?如果答案是肯定的,那么可以掌握這個(gè)撤消刪除操作的快捷方式。
如果您刪除了單元格的內(nèi)容,可以通過按CTRL / CMD + Z輕松恢復(fù)它。
如果需要恢復(fù)整個(gè)已刪除的單元格,請按ESC + Z或EDIT>撤消刪除單元格。
結(jié)論
在本文中,我列出了使用Python和Jupyter notebook時(shí)收集的一些小提示。我相信它們會對你有用,能讓你有所收獲,從而實(shí)現(xiàn)輕松編碼!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03