
機(jī)器學(xué)習(xí)和 AI 領(lǐng)域必須了解的工具
關(guān)于數(shù)據(jù)科學(xué),工具可能并不是那么熱門的話題。人們似乎更關(guān)注最新的聊天機(jī)器人技術(shù)以及深度學(xué)習(xí)框架。
但這顯然是不合理的。為什么不花些時(shí)間,挑選合適的工具呢?畢竟好的工具能夠讓你事半功倍。在本文中介紹了機(jī)器學(xué)習(xí)和 AI 方面的優(yōu)質(zhì)工具。
應(yīng)該使用哪種語言?
這是一個(gè)有爭(zhēng)議的問題。存在很多不同的觀點(diǎn)。我個(gè)人的觀點(diǎn)可能不那么常見,我認(rèn)為越多越好。你應(yīng)該同時(shí)使用 R 語言和 Python。
為什么?R語言更擅長數(shù)據(jù)可視化,并且有大量的統(tǒng)計(jì)數(shù)據(jù)包。另一方面,Python可以幫助你將模型部署生產(chǎn),并更好地與團(tuán)隊(duì)中其他開發(fā)人員合作。
基本的軟件包
我們應(yīng)該充分利用的優(yōu)秀開源社區(qū)。首先讓我們回顧一下數(shù)據(jù)科學(xué)工作的主要流程。
典型的機(jī)器學(xué)習(xí)工作流程
最重要的步驟是:數(shù)據(jù)獲取、數(shù)據(jù)清洗、可視化、建模、溝通。這些過程都需要用到庫。
針對(duì)數(shù)據(jù)清洗,R語言中有一個(gè)出色的包——dplyr。無可否認(rèn),它的語法有些奇怪。注意 %>% 與* nix中的(|)運(yùn)算符的工作原理相同,前一個(gè)操作的輸出成為下一個(gè)操作的輸入。這樣,只需幾行代碼,你就可以構(gòu)建相當(dāng)復(fù)雜且可讀的數(shù)據(jù)清洗操作。
另一方面,Python中可以用到Pandas。這個(gè)庫很大程度上借鑒了R語言,特別是數(shù)據(jù)框的概念(當(dāng)中行是觀測(cè),列是特征)。這需要一定的學(xué)習(xí)過程,但在習(xí)慣了之后,你可以在數(shù)據(jù)處理中做很多事情(甚至可以直接寫入數(shù)據(jù)庫)。
針對(duì)數(shù)據(jù)可視化,R語言中有g(shù)gplot2和plotly。ggplot2 非常強(qiáng)大,但級(jí)別較低。同樣它的語法很奇怪,你需要通過圖形語法來進(jìn)行理解。plotly是一個(gè)較新的庫,具有 ggplot 的功能,只需要一行代碼就能進(jìn)行交互。
Python中進(jìn)行可視化的基礎(chǔ)包是 matplotlib。但它的語法有些奇怪,默認(rèn)顏色也不那么理想,因此我建議你使用新的seaborn軟件包。Python缺少對(duì)模型性能的可視化,這里可以使用 yellowbrick 解決。你可以使用它來創(chuàng)建漂亮的圖表分類器進(jìn)行評(píng)估,查看特征,甚至繪制文本模型。
使用 seaborn 對(duì) iris 數(shù)據(jù)集進(jìn)行繪制
API
使用R語言進(jìn)行機(jī)器學(xué)習(xí)常常會(huì)遇到一個(gè)問題。幾乎所有模型都有不同的API,除非你記住所有的內(nèi)容,如果你只想測(cè)試不同算法,那么就需要打開好幾個(gè)文檔標(biāo)簽。這個(gè)缺陷可以用 caret 和 mlr 解決,后者較新。我推薦用mlr,因?yàn)樗Y(jié)構(gòu)化,維護(hù)也更積極。而且功能強(qiáng)大,具有分解數(shù)據(jù)、訓(xùn)練、預(yù)測(cè)和性能評(píng)估功能。
Python中相應(yīng)的庫是scikit-learn。這也是我最喜歡的庫,同時(shí) scikit-learn 也備受一些科技公司的青睞 。它有一致的API,超過150種算法(包括神經(jīng)網(wǎng)絡(luò)),出色的文檔,主動(dòng)維護(hù)和教程。
Python中的ROC/AUC圖,使用yellowbrick
集成開發(fā)環(huán)境
對(duì)于R語言來說,RStudio 是一個(gè)非常棒的工具,而且沒有其他的競(jìng)爭(zhēng)工具。我們希望在Python中找到相應(yīng)的工具,我篩選了十幾個(gè)(Spyder,PyCharm,Rodeo,spacemacs,Visual Studio,Canopy等等),主要推薦當(dāng)中的兩個(gè)工具:Jupyter Lab和Atom + Hydrogen。
Jupyter Lab很棒。但它仍然繼承了Jupyter Notebook 中存在的一些缺點(diǎn),比如單元狀態(tài),安全性,以及最嚴(yán)重的VCS集成問題。出于這個(gè)原因,我建議使用Atom + Hydrogen。你可以用它完成各種數(shù)據(jù)科學(xué)任務(wù),比如檢查數(shù)據(jù)框和變量,繪圖等。
Atom + Hydrogen
EDA 工具
為什么需要?在數(shù)據(jù)科學(xué)過程中,尤其是起步階段,我們需要快速地探索數(shù)據(jù)。在進(jìn)行可視化之前,我們需要探索,并通過最少的技術(shù)投入來實(shí)現(xiàn)。因此寫一大堆 seaborn、ggplot 代碼并不是最佳選擇,你需要使用 GUI 界面。因?yàn)椴簧婕叭魏未a,業(yè)務(wù)人員也可以使用。有兩個(gè)非常棒的跨平臺(tái)工具,并且免費(fèi)——Past和Orange。前者更側(cè)重于統(tǒng)計(jì)分析,后者更側(cè)重于建模。兩者都可以做很棒的數(shù)據(jù)可視化,因此完全符合我們的目標(biāo)。
用Orange你能夠進(jìn)行的操作
結(jié)語
通過對(duì)工具進(jìn)行優(yōu)化,你能夠更高效地完成數(shù)據(jù)分析工作(但也不要以此為借口不去工作哦)。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03