谷歌教你學(xué) AI-第四講部署預(yù)測(cè)模型

Google Cloud發(fā)布了名為"AI Adventures"的系列視頻，用簡(jiǎn)單易懂的語(yǔ)言讓初學(xué)者了解機(jī)器學(xué)習(xí)的方方面面。

觀看更多國(guó)外公開課，點(diǎn)擊"閱讀原文"

之前我們更新了前三講，關(guān)于機(jī)器學(xué)習(xí)的概念和具體步驟。后臺(tái)收到的反饋十分熱烈，今天讓我們繼續(xù)更新：第四講部署預(yù)測(cè)模型。

回顧之前內(nèi)容：

谷歌教你學(xué) AI -第一講機(jī)器學(xué)習(xí)是什么?

谷歌教你學(xué) AI -第二講機(jī)器學(xué)習(xí)的7個(gè)步驟

谷歌教你學(xué) AI-第三講簡(jiǎn)單易懂的估算器

主講人還是來(lái)自Google Cloud的開發(fā)人員，華裔小哥Yufeng Guo。讓我們?cè)趯W(xué)習(xí)AI知識(shí)的同時(shí)來(lái)提高英語(yǔ)吧。

CDA字幕組目前在對(duì)該系列視頻進(jìn)行漢化，之后將繼續(xù)連載，歡迎關(guān)注和支持~

附有中文字幕的視頻如下：

AI Adventures--第四講部署預(yù)測(cè)模型

針對(duì)不方便打開視頻的小伙伴，CDA字幕組也貼心的整理了文字版本，如下：

一旦我們有了訓(xùn)練好的機(jī)器學(xué)習(xí)模型，那么該如何進(jìn)行預(yù)測(cè)呢? 敬請(qǐng)收看本期AI Adventures !

谷歌的Cloud Machine Learning Engine能夠讓你為TensorFlow模型創(chuàng)建預(yù)測(cè)服務(wù)，且不需要任何操作。通過從訓(xùn)練的模型轉(zhuǎn)換為部署的、自動(dòng)擴(kuò)展的預(yù)測(cè)服務(wù)，我們可以用更多時(shí)間來(lái)處理數(shù)據(jù)。

進(jìn)行預(yù)測(cè):最后一步

我們收集了數(shù)據(jù)，最終完成了一個(gè)合適的模型并驗(yàn)證了它的性能。我們現(xiàn)在終于準(zhǔn)備好進(jìn)入最后階段:進(jìn)行預(yù)測(cè)。

在接受提供預(yù)測(cè)服務(wù)的挑戰(zhàn)時(shí)，我們希望部署一個(gè)專門為服務(wù)而構(gòu)建的模型。特別是一個(gè)快速、輕量級(jí)的模型，而且是靜態(tài)的，因?yàn)槲覀儾幌Ｍ谔峁┓?wù)時(shí)出現(xiàn)更新。

此外，我們希望預(yù)測(cè)服務(wù)器能夠按需擴(kuò)展，這能夠解決更復(fù)雜的問題。

輸出TensorFlow模型

事實(shí)證明，TensorFlow有一個(gè)內(nèi)置函數(shù)，能夠在提供預(yù)測(cè)服務(wù)時(shí)生成優(yōu)化的模型。并且能夠進(jìn)行需要的調(diào)整，這節(jié)省了大量的工作。

這個(gè)函數(shù)叫做 export_savedmodel()，當(dāng)你對(duì)訓(xùn)練模型的性能滿意時(shí)，我們可以直接在分類器對(duì)象上運(yùn)行。

這將獲取模型的快照，并導(dǎo)出可以在其他地方使用的文件。隨著模型的改進(jìn)，你可以繼續(xù)得出更新的模型，從而不斷提供模型的多個(gè)版本。

導(dǎo)出的文件由一個(gè)文件和一個(gè)文件夾組成。其中文件是 saved_model.pb，它定義了模型結(jié)構(gòu)。變量文件夾包含兩個(gè)文件，在我們的模型中提供訓(xùn)練權(quán)重。

生產(chǎn)中提供模型

一旦你導(dǎo)出模型就可以在提供到生產(chǎn)中了。這里有兩個(gè)主要的選擇: 使用TensorFlow Serving，或者Cloud Machine Learning Engine來(lái)提供預(yù)測(cè)服務(wù)。

TensorFlow Serving屬于TensorFlow，發(fā)布在GitHub上。如果你喜歡對(duì)開發(fā)環(huán)境設(shè)施進(jìn)行配置，并且按需求進(jìn)行擴(kuò)展的話，這是不錯(cuò)的選擇。

然而，今天我們將主要關(guān)注Cloud Machine Learning Engine的預(yù)測(cè)服務(wù)，盡管這兩者有相似的文件接口。

Cloud Machine Learning Engine能夠讓你用導(dǎo)出的TensorFlow模型，并將其轉(zhuǎn)換為預(yù)測(cè)服務(wù)，當(dāng)中內(nèi)置API端點(diǎn)且自動(dòng)擴(kuò)展，并將達(dá)到零(即當(dāng)沒有人請(qǐng)求預(yù)測(cè)時(shí)沒有計(jì)算機(jī)會(huì)改變)。

同時(shí)它還包含功能豐富的命令行工具、API和UI，因此我們可以根據(jù)喜好以不同的方式進(jìn)行交互。

部署新的預(yù)測(cè)模型

下面讓我們看看如何針對(duì)上期分辨鳶尾花的例子，使用Cloud Machine Learning Engine的預(yù)測(cè)服務(wù)。

輸出和上傳

首先在訓(xùn)練的分類器上運(yùn)行 export_savedmodel()  。這將生成一個(gè)導(dǎo)出模型，我們可以用于預(yù)測(cè)服務(wù)。

接下來(lái)，我們要將文件上傳到谷歌云存儲(chǔ)。當(dāng)創(chuàng)建新的模型版本時(shí)，Cloud machine learning engine將從云存儲(chǔ)中讀取。

在創(chuàng)建bucket時(shí)，一定要選擇區(qū)域存儲(chǔ)類，以確保計(jì)算和存儲(chǔ)在同一區(qū)域。

創(chuàng)建新的模型

在云機(jī)器學(xué)習(xí)UI中，我們可以創(chuàng)建一個(gè)新的模型，這實(shí)際上是對(duì)所有發(fā)布版本的封裝。版本保存了單個(gè)導(dǎo)出模型，而模型抽象幫助將進(jìn)入的流量導(dǎo)入選擇的適當(dāng)版本。

以下是模型列表視圖，在這里我們創(chuàng)建一個(gè)新的模型。

創(chuàng)建模型需要給其命名，我們將其命名為iris_model。

創(chuàng)建新版本

接下來(lái)，我們將創(chuàng)建一個(gè)版本，通過為這個(gè)特定的模型版本命名，并將其指向存有導(dǎo)出文件的云存儲(chǔ)目錄。

就這樣，我們創(chuàng)建了模型! 整個(gè)過程只需要將服務(wù)指向?qū)С瞿Ｐ停⒔o它命名。

為什么整個(gè)過程這么簡(jiǎn)單呢?

因?yàn)榉?wù)處理了設(shè)置和保護(hù)端點(diǎn)的所有操作。此外，我們不需要編寫代碼，根據(jù)需求進(jìn)行擴(kuò)展。因?yàn)樵谠贫耍@種靈活性意味著當(dāng)需求很低時(shí)，不需要支付未使用的計(jì)算。

通過為鳶尾花模型建立不需要任何操作的預(yù)測(cè)服務(wù)，我們可以在幾分鐘內(nèi)將訓(xùn)練的模型轉(zhuǎn)化為部署的、可自動(dòng)擴(kuò)展的預(yù)測(cè)服務(wù)，這意味著我們有更多的時(shí)間來(lái)處理數(shù)據(jù)!

歡迎收看本期的AI Adventures。別忘了，當(dāng)你需要在生產(chǎn)中擴(kuò)展機(jī)器學(xué)習(xí)服務(wù)時(shí)，Cloud Machine Learning Engine是不錯(cuò)的選擇。