
機器學(xué)習(xí)和大數(shù)據(jù):是先有雞還是先有蛋?
“對于機器學(xué)習(xí),需要大量容易獲得的歷史數(shù)據(jù)。但是,如果你沒有這個數(shù)據(jù)會怎樣?”
現(xiàn)在,機器學(xué)習(xí)幾乎無處不在,它經(jīng)常出現(xiàn)在大數(shù)據(jù)應(yīng)用之中。機器學(xué)習(xí)已經(jīng)被贊譽為大數(shù)據(jù)分析和商務(wù)智能發(fā)展的未來。但是從機器學(xué)習(xí)中提取價值并不僅僅是在一個新的工具中添加一個插件,或查看一下工作效率和銷量的提高。
成功的機器學(xué)習(xí)項目依賴于很多因素,包括選擇正確的主題,對于運行的環(huán)境,合理的機器學(xué)習(xí)模型,當(dāng)然最重要的是現(xiàn)有的數(shù)據(jù)。
大數(shù)據(jù)時代,數(shù)據(jù)就是財富。我們不得不承認(rèn),關(guān)于客戶交易、銷售或設(shè)備運行日志的數(shù)據(jù)是企業(yè)所擁有的最寶貴的資產(chǎn)之一。特別是機器學(xué)習(xí)現(xiàn)在為企業(yè)提供的機會遠(yuǎn)遠(yuǎn)超越傳統(tǒng)的商業(yè)智能,比如可以幫助預(yù)測未來的銷售或潛在的設(shè)備故障,從而提高利潤和減少臨時的維修。
數(shù)據(jù),大還是小
在談?wù)摗按髷?shù)據(jù)”時,我們習(xí)慣于假設(shè)越多越好。雖然現(xiàn)實中常常的確也是這樣,數(shù)據(jù)對于實時在線個性化應(yīng)用是很關(guān)鍵的,但不同的任務(wù)對于數(shù)據(jù)大小的需求卻不盡相同。
對于機器學(xué)習(xí)任務(wù)來說,為了帶來價值,雖然10Gb的日志似乎有些少,但有時其實也可以剛好夠用,具體要看面對什么樣的任務(wù)。10Gb的數(shù)據(jù)對于Google來說也許微不足道,但實際上足以給一個傳統(tǒng)的線下企業(yè)帶來一個巨大的變化。
一個擁有75000人的大公司的人力資源管理部門。如果公司試圖預(yù)測流動風(fēng)險,以便更好地規(guī)劃未來的人力資源戰(zhàn)略,并及時采取預(yù)防措施,那么他們就可以使用機器學(xué)習(xí),而機器學(xué)習(xí)就可以從分析員工記錄開始。這些記錄每天都有巨大的不同,反映在工作的時間,角色的轉(zhuǎn)變,通過的培訓(xùn)課程,休病假的天數(shù),等等。雖然這種數(shù)據(jù)量可能被認(rèn)為是過少,則深度地挖掘各種要素需要它超越簡單的統(tǒng)計,走向機器學(xué)習(xí)。
在另一個極端,有些公司可能認(rèn)為他們擁大量的珍貴數(shù)據(jù),如很多年的銷售報告,可以后來才發(fā)現(xiàn),它們只可作為集成數(shù)據(jù),而沒有存儲原始輸入。機器學(xué)習(xí)需要從細(xì)節(jié)中學(xué)習(xí),僅僅擁有每季度或每年的集成數(shù)據(jù)對任務(wù)來說根本不夠。
因此需要數(shù)據(jù)的多少關(guān)鍵在于用戶所面對的具體任務(wù)。
歷史的經(jīng)驗教訓(xùn)
通常數(shù)據(jù)集擁有一個時間跨度,而這個時間跨度是非常重要的,它應(yīng)該足夠的長,以反映所有相關(guān)的事件以及周期性的變化。例如,如果一個組織要建立一個工作模型來預(yù)測一個零售公司的產(chǎn)品需求,這將至少需要兩到三年的歷史數(shù)據(jù),這樣才能容納季節(jié)性的趨勢。但是,如果要預(yù)測昂貴的制造設(shè)備幾年才可能出現(xiàn)一次的故障,就需要有一個遠(yuǎn)遠(yuǎn)長的多的歷史數(shù)據(jù),以便在故障出現(xiàn)之前檢測異常情況并預(yù)測故障的發(fā)生。
同時,如果你帶著巨大的客戶基礎(chǔ)和認(rèn)購商業(yè)模型進(jìn)入一個領(lǐng)域,例如移動電話網(wǎng)絡(luò)、流媒體業(yè)務(wù)或在線游戲,利用短短六個月的數(shù)據(jù)開始一個有意義的機器學(xué)習(xí)項目(例如,預(yù)測客戶的流失)是完全可行的。
通常情況下,數(shù)據(jù)的組織和存儲是一個公司基礎(chǔ)架構(gòu)部門的關(guān)鍵任務(wù),關(guān)系到公司的核心利益,如何選擇合適的存儲方案呢?是充斥著差異和錯誤的非結(jié)構(gòu)化存儲,還是未集成的十幾個獨立系統(tǒng)。雖然引進(jìn)數(shù)個單獨的存儲庫是擺脫數(shù)據(jù)孤島、提高數(shù)據(jù)質(zhì)量的一種有效方式,但這個過程是漫長的,非常昂貴,而且不會帶來直接的價值。但是,如果引入機器學(xué)習(xí),利用非結(jié)構(gòu)化存儲依然可以幫助調(diào)整進(jìn)一步的基礎(chǔ)設(shè)施投資以及引導(dǎo)數(shù)據(jù)收集策略,非結(jié)構(gòu)化存儲目前是一種非常有效的數(shù)據(jù)組織和存儲方式。
數(shù)據(jù)還可以來自于其他什么地方?
很多企業(yè)忽略了一件很重要的事情,就是企業(yè)可以從外部環(huán)境中購買數(shù)據(jù)。
一方面,最強大和最重要的信號通常隱藏在該公司所擁有的數(shù)據(jù)中。因此,相比于銀行客戶的社交媒體行為,他們的交易中所蘊含的知識可以更好地預(yù)測客戶是否將償還貸款。
另一方面,許多公司低估了外部因素的價值,如氣候數(shù)據(jù)。它會對很多情況產(chǎn)生影響,如冰淇淋的需求,在需求不太明確的情況下,可以通過個性化推薦,將冰淇淋推薦給那些在天氣差時更可能留在家里玩游戲的網(wǎng)絡(luò)游戲玩家。
因此企業(yè)除了利用自己的數(shù)據(jù)之外,還可以有很多的選擇,例如社交網(wǎng)絡(luò)平臺,可以利用用戶的在社交網(wǎng)絡(luò)的足跡預(yù)測用戶的偏好,又或者季節(jié)性數(shù)據(jù),利用季節(jié)性變化預(yù)測用戶的未來行為,等等。
機器學(xué)習(xí)正在很快地從一個很少人關(guān)注的技術(shù)主題轉(zhuǎn)變?yōu)楸缓芏嗳耸褂玫墓芾砉ぞ?。為了避免錯失良機,企業(yè)現(xiàn)在需要開始設(shè)計自己的機器學(xué)習(xí)項目,以幫助他們?yōu)槲磥淼?a href='/map/jiqixuexi/' style='color:#000;font-size:inherit;'>機器學(xué)習(xí)做好準(zhǔn)備。同時,企業(yè)需要理解哪些數(shù)據(jù)是可獲得的,缺少的和需要的,現(xiàn)在就可以開始收集它們,以幫助他們更快地獲得投資回報。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10