
大數(shù)據(jù)商業(yè)智能的十大戒律
如今,各路企業(yè)和組織都不再使用上一代架構(gòu)來存儲(chǔ)大數(shù)據(jù)。既然如此,為什么還要使用上一代商業(yè)智能(BI)工具來進(jìn)行大數(shù)據(jù)分析呢?在為企業(yè)選擇BI工具時(shí),應(yīng)該遵守以下“十誡”。
第一誡:不要轉(zhuǎn)移大數(shù)據(jù)
轉(zhuǎn)移大數(shù)據(jù)代價(jià)高昂:畢竟,大數(shù)據(jù)很“大”,如果打包轉(zhuǎn)移,負(fù)擔(dān)太重。不要將數(shù)據(jù)提取出來,做成數(shù)據(jù)集市和數(shù)據(jù)立方,因?yàn)椤疤崛 本鸵馕吨D(zhuǎn)移,會(huì)在維護(hù)、網(wǎng)絡(luò)性能附加處理器方面造成紛亂龐雜的問題,出現(xiàn)兩個(gè)邏輯上相同的備份。讓BI深入更底層運(yùn)行數(shù)據(jù)就是大數(shù)據(jù)萌發(fā)的最初動(dòng)力。
第二誡:不要偷盜!或者說不要違反企業(yè)安全政策
安全并非可有可無。不幸的是,數(shù)據(jù)泄露事件頻繁發(fā)生,這表明實(shí)現(xiàn)安全并非易事。要選擇能夠利用現(xiàn)有安全模型的BI工具。依靠Ranger、Sentry、Knox等綜合性安全系統(tǒng),大數(shù)據(jù)可以使實(shí)現(xiàn)數(shù)據(jù)安全變得更加容易,現(xiàn)在就連Mongo數(shù)據(jù)庫都有了令人驚嘆的安全架構(gòu)。所有那些模型都允許你插入權(quán)限、將用戶信息一路傳播到應(yīng)用層、實(shí)施可視化的授權(quán)和提供與該授權(quán)相關(guān)的數(shù)據(jù)志。記住了,安全即服務(wù)。
第三誡:不要按照用戶數(shù)和數(shù)據(jù)量付費(fèi)
大數(shù)據(jù)的一個(gè)主要好處在于,如果做好了,它就能實(shí)現(xiàn)極高的性價(jià)比。把5PB數(shù)據(jù)存儲(chǔ)到Oracle可能會(huì)讓你傾家蕩產(chǎn),但存儲(chǔ)到大數(shù)據(jù)系統(tǒng)則不會(huì)。盡管如此,在付錢購買之前,應(yīng)該警惕某些價(jià)格陷阱。有些BI應(yīng)用按照數(shù)據(jù)量或者索引數(shù)據(jù)量向用戶收費(fèi)。千萬當(dāng)心!數(shù)據(jù)量和大數(shù)據(jù)使用量出現(xiàn)指數(shù)式增長是再平常不過的事情,我們的客戶曾目睹其訪問量在短短幾個(gè)月時(shí)間里從數(shù)百億次猛增到數(shù)千億次,用戶數(shù)擴(kuò)大50倍。這是大數(shù)據(jù)系統(tǒng)的另一個(gè)好處:漸進(jìn)式可擴(kuò)展性。不要被低價(jià)所迷惑,去購買一種會(huì)對企業(yè)增長征收“高稅”的BI工具。
第四誡:要貪大膽借鑒別人的可視圖
分享靜態(tài)圖表?這些我們已經(jīng)做過了,無論是PDF文檔、PNG圖片還是電郵附件里,到處都在傳播靜態(tài)圖表。但對于大數(shù)據(jù)和BI,靜態(tài)圖表還遠(yuǎn)遠(yuǎn)不夠:你擁有的一切無非都是些漂亮的圖片罷了。你應(yīng)該讓任何人都能夠隨心所欲地與你的數(shù)據(jù)進(jìn)行交互。應(yīng)該把可視化看作是駕馭數(shù)據(jù)的交互式路線圖。為什么要閉門造車呢?將交互式可視化手段公之于眾只是第一步??纯碐ithub的模式就知道。與其說“這是我的最終發(fā)布產(chǎn)品”,不如說“這是一幅可視圖,復(fù)制下來,分解它,我就是從中得到那些見解,看看它還能用于其他哪些領(lǐng)域”。這會(huì)其他人從你的見解中學(xué)到有用的東西。
第五誡:要分析天然形態(tài)的數(shù)據(jù)
大數(shù)據(jù)是“非結(jié)構(gòu)化”的,這樣的說法我們已經(jīng)聽過太多太多。其實(shí)不然。財(cái)務(wù)和傳感器會(huì)產(chǎn)生大量的鍵值對。JSON(可能是當(dāng)下最流行的數(shù)據(jù)格式)可以是半結(jié)構(gòu)化、多結(jié)構(gòu)化等等,Mongo數(shù)據(jù)庫對這種數(shù)據(jù)格式下了重注。JSON具有好處理和可規(guī)?;膬?yōu)點(diǎn),但如果把它轉(zhuǎn)換成表格,表達(dá)力就會(huì)丟失。很多大數(shù)據(jù)仍然被制成表格,通常擁有數(shù)千欄。你不得不為所有的值尋找關(guān)系:“在那種情況下……從這里選擇這個(gè)”。扁平化會(huì)毀掉原始結(jié)構(gòu)中所表達(dá)的重要關(guān)系。遠(yuǎn)離那些對你說“請把數(shù)據(jù)轉(zhuǎn)換成表格,因?yàn)槲覀円恢倍歼@么干”的BI解決方案。
第六誡:不要無限期地等待結(jié)果
在2016年,我們預(yù)計(jì)數(shù)據(jù)處理速度將會(huì)變得快起來。一個(gè)典型方法是聯(lián)機(jī)分析處理(OLAP)立方,本質(zhì)上就是把數(shù)據(jù)轉(zhuǎn)移到預(yù)計(jì)算緩存,從而加快處理速度。問題在于,你必須提取和轉(zhuǎn)移數(shù)據(jù)(請看第一誡),以便建造數(shù)據(jù)立方,然后才能加快速度。現(xiàn)在,這種方法能夠在一定的數(shù)據(jù)規(guī)模下良好運(yùn)轉(zhuǎn),但如果臨時(shí)表格過于龐大,你的筆記本電腦在試圖將表格本地化的時(shí)候就會(huì)崩潰。當(dāng)你提取新數(shù)據(jù)重建緩存時(shí),新數(shù)據(jù)的分析就會(huì)中途停下來。此外還要注意樣本問題,你可能會(huì)得到一個(gè)看起來不錯(cuò)、效果很好的可視圖,但最后卻發(fā)現(xiàn)全不對路,而問題就出在缺少大局觀。要選擇那些能便捷地不斷調(diào)整數(shù)據(jù)的BI工具。
第七誡:不要制作報(bào)告,而要打造應(yīng)用
在很長一段時(shí)間里,“獲得數(shù)據(jù)”意味著獲得報(bào)告。在大數(shù)據(jù)時(shí)代,BI用戶希望從多個(gè)來源獲得異步數(shù)據(jù),這樣他們就不需要刷新任何東西,就好像瀏覽器和移動(dòng)設(shè)備上運(yùn)行的其他各種東西。用戶希望和可視元素進(jìn)行交互,得到他們正在尋找的答案,而不是對你已經(jīng)提供給他們的結(jié)果進(jìn)行交叉過濾。Rails等框架使打造Web應(yīng)用變得更加簡單。為什么不對BI應(yīng)用做同樣的事情呢?沒理由不對這些應(yīng)用、應(yīng)用程序接口(API)、模板、可重用性等等采取類似的做法?,F(xiàn)在是時(shí)候通過現(xiàn)代Web應(yīng)用開發(fā)的透鏡來看待BI。
第八誡:要利用智能工具
在提供基于數(shù)據(jù)的可視圖方面,BI工具已經(jīng)證明了自己的能力?,F(xiàn)在則輪到在模型和緩存的自動(dòng)維護(hù)上下功夫,這樣一來,終端用戶就不必操這個(gè)心了。在龐大的數(shù)據(jù)規(guī)模下,自動(dòng)維護(hù)幾乎是不可或缺的,我們可以從用戶和數(shù)據(jù)與可視圖的交互中獲得大量信息,現(xiàn)代工具應(yīng)該使用這些信息來對數(shù)據(jù)網(wǎng)絡(luò)效應(yīng)加以利用。另外,要選擇那些內(nèi)置全面搜索能力的工具,因?yàn)槲以娺^有些客戶擁有成千上萬的可視圖。你需要一種迅速查找的方法,在網(wǎng)絡(luò)的長年熏陶之下,我們已經(jīng)習(xí)慣了搜索,而不是翻找菜單。
第九誡:要超越基本范疇
如今的大數(shù)據(jù)系統(tǒng)因?yàn)轭A(yù)測分析能力而著稱。相關(guān)性、預(yù)測和其他功能使企業(yè)用戶比以往任何時(shí)候都能更便捷地進(jìn)行高級分析。不需要編程經(jīng)驗(yàn)就能處理大數(shù)據(jù)的可視化技術(shù)讓分析師如有神助,超越了基本分析的范疇。為了實(shí)現(xiàn)其真正的潛力,大數(shù)據(jù)不應(yīng)該依賴于每個(gè)人都變成R預(yù)言程序員。人類非常善于處理可視化信息,我們必須更加努力地將可視化信息呈現(xiàn)在人們眼前。
第十誡:不要只是站在數(shù)據(jù)湖邊,等著數(shù)據(jù)科學(xué)家來干活兒
不管你是把大數(shù)據(jù)當(dāng)成數(shù)據(jù)湖還是企業(yè)數(shù)據(jù)中心,Hadoop已經(jīng)改變了數(shù)據(jù)的處理速度和存儲(chǔ)成本,我們每天都在創(chuàng)造更多的數(shù)據(jù)。但在真正利用大數(shù)據(jù)為企業(yè)用戶服務(wù)方面,常常存在一種“只寫系統(tǒng)”——?jiǎng)?chuàng)造數(shù)據(jù)的人很多,但利用數(shù)據(jù)的人卻很少。
其實(shí),用Hadoop里的數(shù)據(jù)可以為企業(yè)用戶解答數(shù)不清的問題。BI講究的是打造數(shù)據(jù)可視化應(yīng)用,為日常決策提供支持。企業(yè)里的每個(gè)人都希望做出數(shù)據(jù)驅(qū)動(dòng)的決策。把大數(shù)據(jù)能夠解答的所有問題局限于需要數(shù)據(jù)科學(xué)家來處理的問題,這是奇恥大辱。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10