
大數(shù)據(jù)商業(yè)智能的十大戒律
不要將數(shù)據(jù)提取出來(lái),做成數(shù)據(jù)集市和數(shù)據(jù)立方,因?yàn)椤疤崛 本鸵馕吨D(zhuǎn)移
記住了,安全即服務(wù)。
扁平化會(huì)毀掉原始結(jié)構(gòu)中所表達(dá)的重要關(guān)系。
用戶希望和可視元素進(jìn)行交互,得到他們正在尋找的答案,而不是對(duì)你已經(jīng)提供給他們的結(jié)果進(jìn)行交叉過(guò)濾。
創(chuàng)造數(shù)據(jù)的人很多,但利用數(shù)據(jù)的人卻很少。
如今,各路企業(yè)和組織都不再使用上一代架構(gòu)來(lái)存儲(chǔ)大數(shù)據(jù)。既然如此,為什么還要使用上一代商業(yè)智能(BI)工具來(lái)進(jìn)行大數(shù)據(jù)分析呢?在為企業(yè)選擇BI工具時(shí),應(yīng)該遵守以下“十誡”。
轉(zhuǎn)移大數(shù)據(jù)代價(jià)高昂:畢竟,大數(shù)據(jù)很“大”,如果打包轉(zhuǎn)移,負(fù)擔(dān)太重。不要將數(shù)據(jù)提取出來(lái),做成數(shù)據(jù)集市和數(shù)據(jù)立方,因?yàn)椤疤崛 本鸵馕吨D(zhuǎn)移,會(huì)在維護(hù)、網(wǎng)絡(luò)性能附加處理器方面造成紛亂龐雜的問(wèn)題,出現(xiàn)兩個(gè)邏輯上相同的備份。讓BI深入更底層運(yùn)行數(shù)據(jù)就是大數(shù)據(jù)萌發(fā)的最初動(dòng)力。
安全并非可有可無(wú)。不幸的是,數(shù)據(jù)泄露事件頻繁發(fā)生,這表明實(shí)現(xiàn)安全并非易事。要選擇能夠利用現(xiàn)有安全模型的BI工具。依靠Ranger、Sentry、Knox等綜合性安全系統(tǒng),大數(shù)據(jù)可以使實(shí)現(xiàn)數(shù)據(jù)安全變得更加容易,現(xiàn)在就連Mongo數(shù)據(jù)庫(kù)都有了令人驚嘆的安全架構(gòu)。所有那些模型都允許你插入權(quán)限、將用戶信息一路傳播到應(yīng)用層、實(shí)施可視化的授權(quán)和提供與該授權(quán)相關(guān)的數(shù)據(jù)志。記住了,安全即服務(wù)。
大數(shù)據(jù)的一個(gè)主要好處在于,如果做好了,它就能實(shí)現(xiàn)極高的性價(jià)比。把5PB數(shù)據(jù)存儲(chǔ)到Oracle可能會(huì)讓你傾家蕩產(chǎn),但存儲(chǔ)到大數(shù)據(jù)系統(tǒng)則不會(huì)。盡管如此,在付錢購(gòu)買之前,應(yīng)該警惕某些價(jià)格陷阱。有些BI應(yīng)用按照數(shù)據(jù)量或者索引數(shù)據(jù)量向用戶收費(fèi)。千萬(wàn)當(dāng)心!數(shù)據(jù)量和大數(shù)據(jù)使用量出現(xiàn)指數(shù)式增長(zhǎng)是再平常不過(guò)的事情,我們的客戶曾目睹其訪問(wèn)量在短短幾個(gè)月時(shí)間里從數(shù)百億次猛增到數(shù)千億次,用戶數(shù)擴(kuò)大50倍。這是大數(shù)據(jù)系統(tǒng)的另一個(gè)好處:漸進(jìn)式可擴(kuò)展性。不要被低價(jià)所迷惑,去購(gòu)買一種會(huì)對(duì)企業(yè)增長(zhǎng)征收“高稅”的BI工具。
分享靜態(tài)圖表?這些我們已經(jīng)做過(guò)了,無(wú)論是PDF文檔、PNG圖片還是電郵附件里,到處都在傳播靜態(tài)圖表。但對(duì)于大數(shù)據(jù)和BI,靜態(tài)圖表還遠(yuǎn)遠(yuǎn)不夠:你擁有的一切無(wú)非都是些漂亮的圖片罷了。你應(yīng)該讓任何人都能夠隨心所欲地與你的數(shù)據(jù)進(jìn)行交互。應(yīng)該把可視化看作是駕馭數(shù)據(jù)的交互式路線圖。為什么要閉門造車呢?將交互式可視化手段公之于眾只是第一步??纯碐ithub的模式就知道。與其說(shuō)“這是我的最終發(fā)布產(chǎn)品”,不如說(shuō)“這是一幅可視圖,復(fù)制下來(lái),分解它,我就是從中得到那些見(jiàn)解,看看它還能用于其他哪些領(lǐng)域”。這會(huì)其他人從你的見(jiàn)解中學(xué)到有用的東西。
大數(shù)據(jù)是“非結(jié)構(gòu)化”的,這樣的說(shuō)法我們已經(jīng)聽(tīng)過(guò)太多太多。其實(shí)不然。財(cái)務(wù)和傳感器會(huì)產(chǎn)生大量的鍵值對(duì)。JSON(可能是當(dāng)下最流行的數(shù)據(jù)格式)可以是半結(jié)構(gòu)化、多結(jié)構(gòu)化等等,Mongo數(shù)據(jù)庫(kù)對(duì)這種數(shù)據(jù)格式下了重注。JSON具有好處理和可規(guī)模化的優(yōu)點(diǎn),但如果把它轉(zhuǎn)換成表格,表達(dá)力就會(huì)丟失。很多大數(shù)據(jù)仍然被制成表格,通常擁有數(shù)千欄。你不得不為所有的值尋找關(guān)系:“在那種情況下……從這里選擇這個(gè)”。扁平化會(huì)毀掉原始結(jié)構(gòu)中所表達(dá)的重要關(guān)系。遠(yuǎn)離那些對(duì)你說(shuō)“請(qǐng)把數(shù)據(jù)轉(zhuǎn)換成表格,因?yàn)槲覀円恢倍歼@么干”的BI解決方案。
在2016年,我們預(yù)計(jì)數(shù)據(jù)處理速度將會(huì)變得快起來(lái)。一個(gè)典型方法是聯(lián)機(jī)分析處理(OLAP)立方,本質(zhì)上就是把數(shù)據(jù)轉(zhuǎn)移到預(yù)計(jì)算緩存,從而加快處理速度。問(wèn)題在于,你必須提取和轉(zhuǎn)移數(shù)據(jù)(請(qǐng)看第一誡),以便建造數(shù)據(jù)立方,然后才能加快速度?,F(xiàn)在,這種方法能夠在一定的數(shù)據(jù)規(guī)模下良好運(yùn)轉(zhuǎn),但如果臨時(shí)表格過(guò)于龐大,你的筆記本電腦在試圖將表格本地化的時(shí)候就會(huì)崩潰。當(dāng)你提取新數(shù)據(jù)重建緩存時(shí),新數(shù)據(jù)的分析就會(huì)中途停下來(lái)。此外還要注意樣本問(wèn)題,你可能會(huì)得到一個(gè)看起來(lái)不錯(cuò)、效果很好的可視圖,但最后卻發(fā)現(xiàn)全不對(duì)路,而問(wèn)題就出在缺少大局觀。要選擇那些能便捷地不斷調(diào)整數(shù)據(jù)的BI工具。
在很長(zhǎng)一段時(shí)間里,“獲得數(shù)據(jù)”意味著獲得報(bào)告。在大數(shù)據(jù)時(shí)代,BI用戶希望從多個(gè)來(lái)源獲得異步數(shù)據(jù),這樣他們就不需要刷新任何東西,就好像瀏覽器和移動(dòng)設(shè)備上運(yùn)行的其他各種東西。用戶希望和可視元素進(jìn)行交互,得到他們正在尋找的答案,而不是對(duì)你已經(jīng)提供給他們的結(jié)果進(jìn)行交叉過(guò)濾。Rails等框架使打造Web應(yīng)用變得更加簡(jiǎn)單。為什么不對(duì)BI應(yīng)用做同樣的事情呢?沒(méi)理由不對(duì)這些應(yīng)用、應(yīng)用程序接口(API)、模板、可重用性等等采取類似的做法。現(xiàn)在是時(shí)候通過(guò)現(xiàn)代Web應(yīng)用開(kāi)發(fā)的透鏡來(lái)看待BI。
在提供基于數(shù)據(jù)的可視圖方面,BI工具已經(jīng)證明了自己的能力?,F(xiàn)在則輪到在模型和緩存的自動(dòng)維護(hù)上下功夫,這樣一來(lái),終端用戶就不必操這個(gè)心了。在龐大的數(shù)據(jù)規(guī)模下,自動(dòng)維護(hù)幾乎是不可或缺的,我們可以從用戶和數(shù)據(jù)與可視圖的交互中獲得大量信息,現(xiàn)代工具應(yīng)該使用這些信息來(lái)對(duì)數(shù)據(jù)網(wǎng)絡(luò)效應(yīng)加以利用。另外,要選擇那些內(nèi)置全面搜索能力的工具,因?yàn)槲以?jiàn)過(guò)有些客戶擁有成千上萬(wàn)的可視圖。你需要一種迅速查找的方法,在網(wǎng)絡(luò)的長(zhǎng)年熏陶之下,我們已經(jīng)習(xí)慣了搜索,而不是翻找菜單。
如今的大數(shù)據(jù)系統(tǒng)因?yàn)轭A(yù)測(cè)分析能力而著稱。相關(guān)性、預(yù)測(cè)和其他功能使企業(yè)用戶比以往任何時(shí)候都能更便捷地進(jìn)行高級(jí)分析。不需要編程經(jīng)驗(yàn)就能處理大數(shù)據(jù)的可視化技術(shù)讓分析師如有神助,超越了基本分析的范疇。為了實(shí)現(xiàn)其真正的潛力,大數(shù)據(jù)不應(yīng)該依賴于每個(gè)人都變成R預(yù)言程序員。人類非常善于處理可視化信息,我們必須更加努力地將可視化信息呈現(xiàn)在人們眼前。
不管你是把大數(shù)據(jù)當(dāng)成數(shù)據(jù)湖還是企業(yè)數(shù)據(jù)中心,Hadoop已經(jīng)改變了數(shù)據(jù)的處理速度和存儲(chǔ)成本,我們每天都在創(chuàng)造更多的數(shù)據(jù)。但在真正利用大數(shù)據(jù)為企業(yè)用戶服務(wù)方面,常常存在一種“只寫系統(tǒng)”——?jiǎng)?chuàng)造數(shù)據(jù)的人很多,但利用數(shù)據(jù)的人卻很少。
其實(shí),用Hadoop里的數(shù)據(jù)可以為企業(yè)用戶解答數(shù)不清的問(wèn)題。BI講究的是打造數(shù)據(jù)可視化應(yīng)用,為日常決策提供支持。企業(yè)里的每個(gè)人都希望做出數(shù)據(jù)驅(qū)動(dòng)的決策。把大數(shù)據(jù)能夠解答的所有問(wèn)題局限于需要數(shù)據(jù)科學(xué)家來(lái)處理的問(wèn)題,這是奇恥大辱。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開(kāi)的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開(kāi)始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開(kāi)發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見(jiàn)頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類分析作為 “無(wú)監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10