谷歌“數(shù)據(jù)科學(xué)家的基本技能”。結(jié)果最多的是一長(zhǎng)串專業(yè)術(shù)語(yǔ)，名為hard skills。Python、代數(shù)、統(tǒng)計(jì)和SQL是一些最流行的方法。后來(lái)，就出現(xiàn)了軟技能-溝通、商業(yè)頭腦、團(tuán)隊(duì)合作精神等。

讓我們假裝你是一個(gè)擁有以上所有能力的超人。你從五歲開(kāi)始編寫(xiě)代碼，你是Kaggle特級(jí)大師，你的會(huì)議論文肯定會(huì)獲得最佳論文獎(jiǎng)。你知道嗎？您的項(xiàng)目仍然有很高的機(jī)會(huì)努力達(dá)到成熟并成為成熟的商業(yè)產(chǎn)品。

最近的研究估計(jì)，超過(guò)85%的數(shù)據(jù)科學(xué)項(xiàng)目未能達(dá)到生產(chǎn)。這些研究為失敗提供了許多原因。我從來(lái)沒(méi)有看到所謂的基本技能被作為一個(gè)潛在的原因提到過(guò)一次。

我是說(shuō)以上技巧不重要嗎？當(dāng)然，我不是。硬技能和軟技能都至關(guān)重要。關(guān)鍵是它們是必要的，但不是充分的。而且，它們很受歡迎，出現(xiàn)在每一個(gè)谷歌搜索上。因此，機(jī)會(huì)是你已經(jīng)知道你是否需要提高你的數(shù)學(xué)水平或團(tuán)隊(duì)合作。

我想談?wù)勁c流行的硬技能和軟技能相輔相成的技能。我稱它們?yōu)?em>工程技能。它們對(duì)于與真正的客戶一起構(gòu)建真正的產(chǎn)品特別有用。遺憾的是，工程技術(shù)很少教給數(shù)據(jù)科學(xué)家。他們帶著經(jīng)驗(yàn)來(lái)的。大多數(shù)初級(jí)數(shù)據(jù)科學(xué)家缺乏這些。

工程技能與數(shù)據(jù)工程領(lǐng)域無(wú)關(guān)。我使用術(shù)語(yǔ)工程技能來(lái)區(qū)分他們與純粹的科學(xué)或研究技能。根據(jù)劍橋詞典，Engineering是指運(yùn)用科學(xué)原理設(shè)計(jì)和建造機(jī)器、結(jié)構(gòu)和其他項(xiàng)目。在本文中，工程是將科學(xué)轉(zhuǎn)化為產(chǎn)品的使能器組件。如果沒(méi)有適當(dāng)?shù)墓こ?，模型將繼續(xù)在預(yù)定義的數(shù)據(jù)集上執(zhí)行。但他們永遠(yuǎn)無(wú)法接觸到真正的顧客。

外賣(mài)：

重要且經(jīng)常被忽視的技能有：

1. 簡(jiǎn)單化. Make sure your code and your models are simple, but not simplistic.
2. 魯棒性. Your assumptions are wrong. Take a breath and continue to code.
3. 模塊化. Divide and conquer. Dig down to the smallest problem and then find an open-source to solve it.
4. 水果采摘. Don’t focus only on low-hanging fruits. But make sure you have always something to pick.

簡(jiǎn)單化

“實(shí)體不應(yīng)該不必要地乘以”--奧卡姆的威廉?！?em>簡(jiǎn)單是終極的復(fù)雜”--萊昂納多·達(dá)·芬奇。“一切都應(yīng)該盡可能簡(jiǎn)單，而不是更簡(jiǎn)單”--阿爾伯特·愛(ài)因斯坦?！?em>這是我的口頭禪之一--專注和簡(jiǎn)單”--史蒂夫·喬布斯。

我本可以用簡(jiǎn)單的引文填滿整頁(yè)。研究人員、設(shè)計(jì)師、工程師、哲學(xué)家和作家稱贊簡(jiǎn)單，并表示簡(jiǎn)單有其自身的價(jià)值。他們的理由變了，但結(jié)論是一樣的。你達(dá)到完美不是在沒(méi)有什么可添加的時(shí)候，而是在沒(méi)有什么可刪除的時(shí)候。

軟件工程師絕對(duì)意識(shí)到簡(jiǎn)單性的價(jià)值。關(guān)于如何使軟件更簡(jiǎn)單的書(shū)籍和文章數(shù)不勝數(shù)。我記得親吻原則--保持簡(jiǎn)單，愚蠢--甚至在我的一門(mén)本科課程上教過(guò)。簡(jiǎn)單的軟件維護(hù)成本更低，更容易更改，更不容易出現(xiàn)bug。對(duì)此有廣泛的共識(shí)。

在數(shù)據(jù)科學(xué)中，情況就大不相同了。有許多文章，例如，“簡(jiǎn)單性的優(yōu)點(diǎn)：關(guān)于算法交易中的ML模型”byKristian Bondo Hansenor“Alfredo Gemma的簡(jiǎn)單性在數(shù)據(jù)科學(xué)革命中的作用”。但它們是一個(gè)例外，而不是規(guī)則。數(shù)據(jù)科學(xué)家的主流往好里說(shuō)并不關(guān)心，往壞里說(shuō)更喜歡復(fù)雜的解決方案。

在繼續(xù)討論為什么數(shù)據(jù)科學(xué)家通常不關(guān)心，為什么他們應(yīng)該關(guān)心，以及如何處理這些問(wèn)題之前，讓我們看看簡(jiǎn)單性意味著什么。根據(jù)劍橋詞典，是容易理解或做的品質(zhì)，是平平淡淡的品質(zhì)，沒(méi)有不必要的或額外的東西或裝飾。

我發(fā)現(xiàn)定義簡(jiǎn)單性的最直觀的方法是通過(guò)negativa，作為復(fù)雜性的對(duì)立面。根據(jù)同一詞典，復(fù)雜性是由許多相互聯(lián)系的部分或元素組成的；復(fù)雜。雖然我們不能總是說(shuō)某件事很簡(jiǎn)單，但我們通?？梢哉f(shuō)某件事很復(fù)雜。我們的目標(biāo)不是復(fù)雜，也不是創(chuàng)造復(fù)雜的解決方案。

在數(shù)據(jù)科學(xué)中尋求簡(jiǎn)單性的原因與在所有工程學(xué)科中的原因相同。更簡(jiǎn)單的解決方案要便宜得多?，F(xiàn)實(shí)生活中的產(chǎn)品不是Kaggle比賽。需求是不斷修改的。當(dāng)復(fù)雜的解決方案需要適應(yīng)新的條件時(shí)，它很快就變成了維護(hù)的噩夢(mèng)。

很容易理解為什么數(shù)據(jù)科學(xué)家，尤其是應(yīng)屆畢業(yè)生，更喜歡復(fù)雜的解決方案。他們剛從學(xué)院來(lái)。他們已經(jīng)完成了論文，甚至可能發(fā)表了一篇論文。一份學(xué)術(shù)出版物的評(píng)判標(biāo)準(zhǔn)是準(zhǔn)確性、數(shù)學(xué)的高雅性、新穎性和方法論，而很少是實(shí)用性和簡(jiǎn)單性。

一個(gè)把精確度提高0.5%的復(fù)雜想法對(duì)任何學(xué)生來(lái)說(shuō)都是巨大的成功。同樣的想法對(duì)于一個(gè)數(shù)據(jù)科學(xué)家來(lái)說(shuō)是失敗的。即使它的理論是合理的，它也可能隱藏潛在的假設(shè)，這些假設(shè)將被證明是錯(cuò)誤的。在任何情況下，增量改進(jìn)都不值得復(fù)雜性的代價(jià)。

那么，如果你、你的老板、你的同事或你的下屬喜歡復(fù)雜的“最佳”解決方案，該怎么辦？如果是你的老板，你很可能注定要失敗，你最好開(kāi)始找一份新工作。在其他情況下，保持簡(jiǎn)單，愚蠢。

魯棒性

俄羅斯文化有一個(gè)“沃斯”的概念。維基百科將其描述為“盲目信任神圣的天意，指望純粹的運(yùn)氣”。Avos是卡車(chē)司機(jī)決定超載的幕后黑手。它隱藏在任何非魯棒的解決方案后面。

什么是穩(wěn)健性？或者具體地說(shuō)，什么是數(shù)據(jù)科學(xué)中的健壯性？與我們的討論最相關(guān)的定義是“算法的魯棒性是它對(duì)假設(shè)模型和現(xiàn)實(shí)之間的差異的敏感性”，來(lái)自Mariano Scain論文。對(duì)現(xiàn)實(shí)的不正確假設(shè)是數(shù)據(jù)科學(xué)家問(wèn)題的主要來(lái)源。它們也是上面那位卡車(chē)司機(jī)的問(wèn)題來(lái)源。

細(xì)心的讀者可能會(huì)說(shuō)，健壯性也是一個(gè)算法在執(zhí)行過(guò)程中處理錯(cuò)誤的能力。他們會(huì)是對(duì)的。但它與我們的討論不太相關(guān)。它是一個(gè)具有定義良好的解決方案的技術(shù)主題。

在大數(shù)據(jù)和深度之前的世界里，建立強(qiáng)大系統(tǒng)的必要性是顯而易見(jiàn)的。特征和算法的設(shè)計(jì)都是手工完成的。測(cè)試通常是在數(shù)百個(gè)，也許數(shù)千個(gè)例子上進(jìn)行的。即使是最聰明的算法創(chuàng)建者也從未假設(shè)他們能想到所有可能的用例。

大數(shù)據(jù)時(shí)代是否改變了健壯性的本質(zhì)？我們?yōu)槭裁匆P(guān)心我們是否可以使用代表所有可以想象的場(chǎng)景的數(shù)百萬(wàn)數(shù)據(jù)樣本來(lái)設(shè)計(jì)、訓(xùn)練和測(cè)試我們的模型呢？

它發(fā)現(xiàn)魯棒性仍然是一個(gè)重要的尚未解決的問(wèn)題。每年頂級(jí)期刊都會(huì)發(fā)表關(guān)于算法魯棒性的論文來(lái)證明這一點(diǎn)，例如“提高深度神經(jīng)網(wǎng)絡(luò)的魯棒性”和“基于模型的魯棒深度學(xué)習(xí)”。數(shù)據(jù)的數(shù)量沒(méi)有轉(zhuǎn)化為質(zhì)量。用于培訓(xùn)的信息量并不意味著我們可以覆蓋所有的用例。

而如果牽涉到人，現(xiàn)實(shí)總會(huì)出乎意料，難以想象。我們大多數(shù)人都很難說(shuō)出午飯吃什么，更不用說(shuō)明天了。數(shù)據(jù)很難幫助預(yù)測(cè)人類(lèi)的行為。

那么，怎樣做才能使您的模型更加健壯呢？第一個(gè)選擇是閱讀適當(dāng)?shù)恼撐牟?shí)施他們的想法。這樣很好。但這些論文并不總是可以概括的。通常，你不能把一個(gè)想法從一個(gè)領(lǐng)域復(fù)制到另一個(gè)領(lǐng)域。

我想提出三個(gè)一般做法。遵循這些實(shí)踐并不能保證健壯的模型，但它大大降低了脆弱解決方案的機(jī)會(huì)。

性能安全裕度。安全裕度是任何工程的基礎(chǔ)。通常的做法是為了安全起見(jiàn)，采取需求并添加20-30%。一部能裝1000kg的電梯，輕松就能裝1300kg。而且，它被測(cè)試為容納1300kg而不是1000kg。工程師為意外情況做準(zhǔn)備。

在數(shù)據(jù)科學(xué)中，安全邊際的等價(jià)物是什么？我認(rèn)為這是KPI或成功標(biāo)準(zhǔn)。即使發(fā)生了意想不到的事情，你仍然會(huì)在門(mén)檻之上。

這種做法的重要后果是，您將停止追逐增量改進(jìn)。如果您的模型將KPI增加1%，您就不可能健壯。在所有的統(tǒng)計(jì)顯著性測(cè)試中，環(huán)境中的任何微小變化都將扼殺您的努力。

過(guò)度測(cè)試。忘記單一的測(cè)試/訓(xùn)練/驗(yàn)證部門(mén)。您必須在所有可能的組合上交叉驗(yàn)證您的模型。你有不同的用戶嗎？按照用戶ID劃分，做幾十次。你的數(shù)據(jù)隨時(shí)間變化嗎？根據(jù)時(shí)間戳進(jìn)行劃分，并確保每天在驗(yàn)證組中出現(xiàn)一次。用隨機(jī)值“垃圾郵件”您的數(shù)據(jù)，或者在您的數(shù)據(jù)點(diǎn)之間交換某些特性的值。然后在臟數(shù)據(jù)上測(cè)試。

我發(fā)現(xiàn)假設(shè)我的模型有錯(cuò)誤非常有用，直到證明不是這樣。

關(guān)于數(shù)據(jù)科學(xué)和ML測(cè)試的兩個(gè)有趣的來(lái)源--亞歷克斯·古德的博客“用Python進(jìn)行機(jī)器學(xué)習(xí)，一種測(cè)試驅(qū)動(dòng)的方法”。

不要在沙子上建造城堡。減少對(duì)其他未測(cè)試組件的依賴。不要在另一個(gè)高風(fēng)險(xiǎn)且未經(jīng)驗(yàn)證的組件上構(gòu)建模型。即使該組件的開(kāi)發(fā)人員發(fā)誓不會(huì)發(fā)生任何事情。

模塊化

模塊化設(shè)計(jì)是所有現(xiàn)代科學(xué)的基本原則。它是分析方法的直接結(jié)果。分析方法是一個(gè)將大問(wèn)題分解成小塊的過(guò)程。分析方法是科學(xué)革命的基石。

你的問(wèn)題越小越好。這里的“更好”不太好。這是必須的。它將節(jié)省大量的時(shí)間、精力和金錢(qián)。當(dāng)一個(gè)問(wèn)題很小，定義明確，并且不附帶大量假設(shè)時(shí)，解決方案是準(zhǔn)確的，易于測(cè)試。

大多數(shù)數(shù)據(jù)科學(xué)家都熟悉軟件設(shè)計(jì)中的模塊化。但是即使是最優(yōu)秀的程序員，他們的python代碼非常清晰，也經(jīng)常不能將模塊化應(yīng)用到數(shù)據(jù)科學(xué)本身。

失敗很容易證明。模塊化設(shè)計(jì)需要一種方法將幾個(gè)較小的模型組合成一個(gè)大模型。目前還沒(méi)有這樣的機(jī)器學(xué)習(xí)方法。

但我發(fā)現(xiàn)有一些實(shí)用的指導(dǎo)方針是有用的：

• 遷移學(xué)習(xí)。遷移學(xué)習(xí)簡(jiǎn)化了現(xiàn)有解決方案的使用。你可以把它看作是把你的問(wèn)題一分為二。第一部分創(chuàng)建低維特征表示。第二部分直接對(duì)相關(guān)KPI進(jìn)行優(yōu)化。
• 開(kāi)源。盡可能使用開(kāi)箱即用的開(kāi)源解決方案。它使您的代碼按定義是模塊化的。
• 忘記最佳。很容易從零開(kāi)始構(gòu)建一個(gè)為您的需求優(yōu)化的系統(tǒng)，而不是修改現(xiàn)有的解決方案。但只有當(dāng)您能夠證明您的系統(tǒng)的性能顯著優(yōu)于現(xiàn)有系統(tǒng)時(shí)，它才是合理的。
• 模型集成。不要害怕采取幾種不同的方法，把它們?nèi)舆M(jìn)一個(gè)鍋里。這是大多數(shù)Kaggle比賽獲勝的原因。
• 劃分?jǐn)?shù)據(jù)。不要試圖創(chuàng)造“一個(gè)偉大的模式”，雖然理論上，這可能是可能的。例如，如果你處理預(yù)測(cè)客戶行為，不要為一個(gè)全新的客戶和一個(gè)已經(jīng)使用你的服務(wù)一年的人建立同樣的模型。

CheckCompositional Deep learning，了解關(guān)于深度學(xué)習(xí)構(gòu)建塊的更多細(xì)節(jié)。為了科學(xué)證明，readPruned神經(jīng)網(wǎng)絡(luò)是驚人的模塊化。

水果采摘

產(chǎn)品經(jīng)理和數(shù)據(jù)科學(xué)家之間一直存在著緊張關(guān)系。產(chǎn)品經(jīng)理希望數(shù)據(jù)科學(xué)家專注于低垂的果實(shí)。他們的邏輯很清楚。他們說(shuō)，企業(yè)只關(guān)心水果的數(shù)量和它們生長(zhǎng)的地方。水果越多，我們做得越好。他們拋出了各種各樣的流行語(yǔ)--帕累托、MVP、最好的是好的敵人等等。

另一方面，數(shù)據(jù)科學(xué)家指出，低掛的水果腐敗快，味道不好。換句話說(shuō)，解決簡(jiǎn)單的問(wèn)題影響有限，治標(biāo)不治本。通常，這是學(xué)習(xí)新技術(shù)的借口，但通常它們是對(duì)的。

就我個(gè)人而言，我在兩種觀點(diǎn)之間移動(dòng)。讀過(guò)p之后。泰爾的零對(duì)一確信低垂的果實(shí)是浪費(fèi)時(shí)間。在初創(chuàng)企業(yè)呆了將近七年后，我確信創(chuàng)造一個(gè)低級(jí)的MVP是正確的第一步。
最近，我開(kāi)發(fā)了自己的方法，將這兩個(gè)極端統(tǒng)一起來(lái)。一個(gè)數(shù)據(jù)科學(xué)家的典型環(huán)境是一個(gè)動(dòng)態(tài)的、怪異的世界，樹(shù)在四面八方生長(zhǎng)。樹(shù)木一直在切換方向。它們可以倒著生長(zhǎng)，也可以側(cè)著生長(zhǎng)。

最好的水果確實(shí)在頂端。但是如果我們花太多時(shí)間建造梯子，樹(shù)就會(huì)移動(dòng)。因此，最好的是瞄準(zhǔn)頂部，但要不斷監(jiān)測(cè)頂部在哪里。

從隱喻到實(shí)踐，在漫長(zhǎng)的發(fā)展過(guò)程中，事情總是有可能發(fā)生變化。原來(lái)的問(wèn)題會(huì)變得無(wú)關(guān)緊要，新的數(shù)據(jù)源會(huì)出現(xiàn)，原來(lái)的假設(shè)會(huì)被證明是錯(cuò)誤的，KPI會(huì)被替換等等。

目標(biāo)是最好的，但記住在每隔幾個(gè)月推出一個(gè)工作產(chǎn)品的同時(shí)也要做到這一點(diǎn)。產(chǎn)品可能不會(huì)帶來(lái)最好的水果，但你會(huì)更好地感受到水果是如何生長(zhǎng)的。