
由品牌娛樂網(wǎng)人工智能主管泰勒·??寺?/b>
我知道你在想什么--“我當(dāng)然知道怎么編碼,你瘋了嗎?”
你每天在Jupyter筆記本上寫成百上千行的代碼。很明顯,你可以編碼。這并不像是在手工或在Excel中訓(xùn)練機(jī)器學(xué)習(xí)模型(盡管這是可能的)。
那我能說什么呢?
我不想告訴你,但大多數(shù)編碼數(shù)據(jù)科學(xué)家都不認(rèn)為是真正的編程。您正在使用編程語言作為工具來探索數(shù)據(jù)和構(gòu)建模型。但是你創(chuàng)建的程序并不是你真正考慮的東西,只要它完成了工作。
您的代碼通常很雜亂,甚至可能無法按順序運(yùn)行(多虧了筆記本)。您可能從未編寫過任何單元測(cè)試,并且對(duì)如何編寫好的、可重用的函數(shù)知之甚少。
但是,隨著數(shù)據(jù)科學(xué)越來越多地嵌入到實(shí)際產(chǎn)品中,這種類型的代碼將無法削減它。你不能信任糟糕的代碼,把你不能信任的代碼放到產(chǎn)品中會(huì)導(dǎo)致大量的技術(shù)債務(wù)和糟糕的用戶體驗(yàn)。
“好吧,好吧,但是,我是數(shù)據(jù)科學(xué)家,不是軟件工程師”,你說。我構(gòu)建模型,清理代碼是其他人的問題。雖然這在一些公司可能奏效,但就目前而言,我堅(jiān)信更好的模式是讓數(shù)據(jù)科學(xué)家學(xué)習(xí)如何編寫更好的代碼。你可能永遠(yuǎn)不會(huì)成為一名精英級(jí)別的軟件工程師,但數(shù)據(jù)科學(xué)家可以寫出可以信任的代碼,并通過一些工作投入生產(chǎn)。
當(dāng)學(xué)習(xí)如何升級(jí)代碼時(shí),從如何編寫函數(shù)開始。大多數(shù)代碼只是一系列函數(shù)(或潛在的類),如果您能夠?qū)W會(huì)編寫相當(dāng)好的函數(shù),這將大大提高您的代碼質(zhì)量。
您的職能至少應(yīng):
雖然有很多關(guān)于如何編寫干凈函數(shù)的書,但這三個(gè)項(xiàng)目是一個(gè)很好的開始。
你永遠(yuǎn)不應(yīng)該有一個(gè)感覺它試圖做的不僅僅是一件事的函數(shù)。一些跡象表明您的功能可能做得太多:
只做一件事的函數(shù)很重要,因?yàn)樗鼓拇a更容易理解、管理和測(cè)試(稍后將詳細(xì)介紹測(cè)試)。
任何發(fā)布到生產(chǎn)中的函數(shù)都應(yīng)該有一個(gè)文檔字符串,該字符串應(yīng)該描述函數(shù)的功能,給出關(guān)于輸入?yún)?shù)的信息,并可能提供一些如何使用函數(shù)的簡(jiǎn)單示例。將來,當(dāng)您有了文檔化的函數(shù)時(shí),您會(huì)感謝自己,而其他人也會(huì)更容易理解您的代碼。
最后,請(qǐng)使用易懂和有用的變量名。太多的數(shù)據(jù)科學(xué)家對(duì)使用“a”、“a1”和“a2”這樣的變量名感到很不高興。在實(shí)驗(yàn)時(shí),簡(jiǎn)短的、無用的變量名更快地鍵入,但在將代碼投入生產(chǎn)時(shí),請(qǐng)確保您的變量名有助于其他人理解您的代碼。
數(shù)據(jù)科學(xué)家經(jīng)常使用打印語句來顯示正在發(fā)生的事情的信息。但是,在生產(chǎn)中,如果不再需要這些打印語句,則應(yīng)該刪除它們,或者將它們轉(zhuǎn)換為日志語句。
日志記錄應(yīng)該是從代碼中傳遞信息和錯(cuò)誤的方式。Loguru是一個(gè)很好的Python庫,可以讓日志記錄變得更加簡(jiǎn)單。它會(huì)自動(dòng)處理日志記錄的大部分煩人部分,感覺更像是使用打印語句。
編程中的樣式指南用于使許多人更容易地處理相同的代碼,但使代碼看起來更像是由一個(gè)人編寫的。
這有什么關(guān)系?
當(dāng)您有一個(gè)一致的風(fēng)格時(shí),它使導(dǎo)航和理解代碼變得更加容易。令人驚訝的是,當(dāng)使用樣式指南時(shí),發(fā)現(xiàn)bug會(huì)容易得多。遵循編寫代碼的標(biāo)準(zhǔn)方式將使您更容易在代碼和其他代碼中導(dǎo)航。這意味著您不必花太多時(shí)間來理解代碼是如何格式化的,而是可以專注于代碼的功能以及它是否正確和良好地完成了它。
PEP8可能是Python使用最廣泛的樣式指南。不過,外面有很多。另一個(gè)流行的風(fēng)格指南來源是谷歌,因?yàn)樗麄円呀?jīng)公開了他們的內(nèi)部風(fēng)格指南。
重要的是你選擇了一個(gè)并努力堅(jiān)持下去。一種簡(jiǎn)單的方法是使IDE能夠檢查樣式錯(cuò)誤,并設(shè)置樣式檢查,以便在沒有遵循樣式指南的情況下阻止推送代碼。您還可以通過使用自動(dòng)格式化程序來進(jìn)一步提交,該程序?qū)⒆詣?dòng)為您格式化代碼。這些代碼允許您編寫任何您想要的代碼,然后在運(yùn)行時(shí)自動(dòng)格式化您的代碼以符合標(biāo)準(zhǔn)。對(duì)于Python來說,一個(gè)流行的是黑色。
我發(fā)現(xiàn)大多數(shù)數(shù)據(jù)科學(xué)家害怕測(cè)試,因?yàn)樗麄儾恢廊绾伍_始測(cè)試。
事實(shí)上,許多數(shù)據(jù)科學(xué)家已經(jīng)運(yùn)行我稱之為臨時(shí)測(cè)試。我發(fā)現(xiàn)對(duì)于一個(gè)數(shù)據(jù)科學(xué)家來說,在他們的筆記本中快速地運(yùn)行一些新功能的“理智檢查”是很常見的。您通過一些簡(jiǎn)單的測(cè)試用例,并確保函數(shù)按預(yù)期運(yùn)行。
軟件工程師稱之為過程單元測(cè)試。
然而,唯一的區(qū)別是,數(shù)據(jù)科學(xué)家通常會(huì)刪除這些臨時(shí)測(cè)試,然后繼續(xù)前進(jìn)。相反,您需要保存它們,并確保每次在推送代碼之前都運(yùn)行它們,以確保沒有任何損壞。
要開始使用Python,我將使用Pytest。使用pytest,您可以輕松地創(chuàng)建測(cè)試并一次運(yùn)行它們以確保它們通過。一個(gè)簡(jiǎn)單的入門方法是使用一個(gè)名為“tests”的目錄,在該目錄中有以“test”開頭的Python文件。例如,可以使用“test_addition.py”
# content of test_addition.py def add(x, y): return x + y def test_add(): assert add(3, 2) == 5
通常,您將在另一個(gè)Python文件中擁有您的實(shí)際函數(shù),并將其導(dǎo)入到您的測(cè)試模塊中。您也不需要測(cè)試Python加法,但這只是一個(gè)非常簡(jiǎn)單的示例。
在這些測(cè)試模塊中,您可以保存所有功能的“健全檢查”。通常良好的做法是不僅測(cè)試常見情況,而且測(cè)試邊緣情況和潛在錯(cuò)誤情況。
注意:有許多不同類型的測(cè)試。我認(rèn)為單元測(cè)試是數(shù)據(jù)科學(xué)家開始測(cè)試的最佳測(cè)試。
最后,但并非最不重要的,在我們的列表中,要寫出更好的代碼,最重要的事情是代碼審查。
代碼審查是指在您將代碼提交給主分支之前,另一個(gè)擅長(zhǎng)在您的域中編寫代碼的人對(duì)您的代碼進(jìn)行審查。此步驟確保遵循最佳實(shí)踐,并希望捕獲任何錯(cuò)誤代碼或bug。
審查您的代碼的人最好至少和您一樣擅長(zhǎng)編寫代碼,但是即使讓更初級(jí)的人審查您的代碼仍然是非常有益的。
懶惰是人類特有的行為,很容易讓這種懶惰潛入我們的代碼中。知道有人將審查您的代碼是花時(shí)間編寫好代碼的巨大激勵(lì)。這也是我發(fā)現(xiàn)的最好的改進(jìn)方法。讓一個(gè)更有經(jīng)驗(yàn)的同事檢查您的代碼并給出改進(jìn)方法的建議是無價(jià)的。
為了使那些審查您的代碼的人更容易,盡量減少新代碼的數(shù)量。小型的、頻繁的代碼審查工作得很好。不經(jīng)常的、巨大的代碼審查是可怕的。沒有人希望被發(fā)送1000行代碼來審查。這些評(píng)論往往會(huì)提供更糟糕的反饋,因?yàn)檫@個(gè)人不能花必要的時(shí)間一次真正理解這么多代碼。
我希望這篇文章啟發(fā)了您花時(shí)間學(xué)習(xí)如何編寫更好的代碼。這不一定很難,但它需要時(shí)間和努力來提高。
如果你遵循這5條建議,我相信你會(huì)注意到你的代碼質(zhì)量有了很大的提高。
你未來的自己和你的同事會(huì)感謝你的。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10