
大數(shù)據(jù):大量商業(yè)價值被浪費
我們都知道使用大數(shù)據(jù)非常的有前途,然而基于當(dāng)下的許多因素,數(shù)據(jù)的有效利用仍然是個瓶頸。藥物研發(fā)過程中,數(shù)據(jù)的使用多于化學(xué)過程;新能源的探測中,數(shù)據(jù)的使用超過地質(zhì)學(xué);恐怖分子的追蹤、預(yù)防欺騙中同樣如此。
現(xiàn)在我們已經(jīng)認(rèn)識到的上述的這些問題和其它一些全局性問題,都是數(shù)據(jù)使用的瓶頸所造成的。這種情況催生了大數(shù)據(jù)上的海量投資,而數(shù)據(jù)工作同樣成為了最熱門的崗位 —— 數(shù)據(jù)科學(xué)家,更把私人數(shù)據(jù)分析服務(wù)提供商的估值推到數(shù)十億美元。然而,你能想象到將分析的數(shù)據(jù)從1%提升到100%的前景嗎。
對已有數(shù)據(jù)分析的見解
如果你擁有一個和人類基因一樣龐大的數(shù)據(jù)集,你該如何開始?比如,奧巴馬最近提倡對人類大腦進(jìn)行繪制?為了突破,我們需要解決這個世界上最復(fù)雜的問題,我們需要根本上改變從數(shù)據(jù)中獲取知識的途徑。這里我們必須首先思考的是:
從查詢開始必然是一個死胡同:查詢本身并沒有問題。事實上一旦你知道問什么問題,查詢是至關(guān)重要的。同樣這也是關(guān)鍵所在:從查詢開始的初衷是從大量的數(shù)據(jù)中發(fā)現(xiàn)一個指針,然而他們并未做到。
數(shù)據(jù)是有開銷的:大部分情況下,數(shù)據(jù)的儲存已經(jīng)不再昂貴。而且通過使用類似Hadoop或Redshift的工具,即使查詢大量的數(shù)據(jù)都變得非常劃算。當(dāng)然,這只是從硬件的角度上講。
見解就是金錢:我們愿意承擔(dān)花銷唯一理由就是數(shù)據(jù)中的見解可以釋放價值。遺憾的是,我們失去了已收集數(shù)據(jù)中大部分的價值。雖然收集數(shù)據(jù)的成本可能會很高,但是無效分析帶來的成本顯然更高。當(dāng)下并不存在什么工具可以直接從數(shù)據(jù)中提取見解,我們依賴著非常聰明的人去提出假設(shè),然后使用我們的工具去證實(或者是否定)這些臆測。因為依賴的是臆測,這個途徑存在著天生的缺陷。
你已經(jīng)擁有了足夠多的數(shù)據(jù):這里經(jīng)常存在的信念就是 ——
“如果我們擁有了足夠多的數(shù)據(jù),我們肯定會得到我們想要的?!碧嗟臅r間和精力被浪費在新的數(shù)據(jù)收集上,其實你可以用你手中的數(shù)據(jù)做更多的事情。舉個例子,Ayasdi最近在Nature
Scientific Reports公布的從12歲乳腺癌患者身上獲得的新見解,就已經(jīng)被深入分析了10多年之久。
大數(shù)據(jù)只是起步,并不是終點
經(jīng)常會聽到我們在癌癥研究、能源勘探、藥物發(fā)現(xiàn)、金融欺詐檢測等領(lǐng)域取得了關(guān)鍵性突破,如果因為炒作出來的“大數(shù)據(jù)泡沫”導(dǎo)致人們因為各種原因在數(shù)據(jù)分析投資上的失敗,這與犯罪又有何不同?
所以我們需要給予數(shù)據(jù)分析更高的期望,我們更需要認(rèn)識到下一代解決方案必須滿足:
授權(quán)領(lǐng)域?qū)<遥簲?shù)據(jù)科學(xué)家出現(xiàn)的頻率已完全跟不上企業(yè)的需求。這里不妨這么做,停止繼續(xù)為他們(數(shù)據(jù)科學(xué)家)開發(fā)工具;取而代之的是,給商業(yè)用戶(生物學(xué)家、地質(zhì)學(xué)家、安全分析師等)開發(fā)對應(yīng)的工具。他們比任何人都明白問題出現(xiàn)的環(huán)境,但可能跟不上最新的技術(shù)或數(shù)學(xué)。
加速探索:我們需要更快的獲得關(guān)鍵見解。事實證明大數(shù)據(jù)技術(shù)的處理速度并沒有承諾的那么快。如果一直這樣發(fā)展下去,可能我們永遠(yuǎn)都得不到足夠快的關(guān)鍵見解獲得速度,因為我們永遠(yuǎn)都不可能針對所有數(shù)據(jù)提出所有的問題。
人機(jī)整合:為了更快的獲得見解,我們需要加大對機(jī)器智能的投資。我們需要機(jī)器能在數(shù)據(jù)點之間尋求連接和關(guān)系時擔(dān)當(dāng)更多的重任,讓其給商業(yè)用戶一個更好的起點去探索見解。事實上通過算法途徑解決這些問題是完全可行的,并且人們本身永遠(yuǎn)都不可能發(fā)現(xiàn)大型數(shù)據(jù)集上的顯著特征。例如在最近的一項研究中,通過算法查詢網(wǎng)絡(luò)搜索引擎日志發(fā)現(xiàn)了之前未報告過的藥物副作用。
分析各種形式的數(shù)據(jù):當(dāng)然,研究人員需要分析結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)。同樣我們需要認(rèn)識非結(jié)構(gòu)化數(shù)據(jù)的多樣性:所有語言、聲音、視頻和面部識別文檔。
當(dāng)談到大數(shù)據(jù)演變,我們只處于其初級階段。顯而易見如果我們繼續(xù)分析百分之一的數(shù)據(jù),那么我們只能挖掘其1%的價值。如果我們能夠分析其它的99%,那么想象一下我們可以從各種方面推動世界進(jìn)步。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10