
蛻變中的大數(shù)據(jù)分析平臺(tái)與應(yīng)用實(shí)務(wù)
大數(shù)據(jù)雖然是一座寶山,但并非有數(shù)據(jù),就能產(chǎn)生價(jià)值。大同世界科技業(yè)務(wù)營運(yùn)中心技術(shù)工程處處長張文祥指出,大數(shù)據(jù)的分析與應(yīng)用,必須透過很多生態(tài)系統(tǒng)搭配組合,才能產(chǎn)生用戶所需要的資訊。
事實(shí)上,國際顧問研究機(jī)構(gòu)Gartner在2015年所提出的十大策略性技術(shù)與趨勢,其中「無所不在隱于無形進(jìn)階數(shù)據(jù)分析高居第四名,就可看出大數(shù)據(jù)分析的重要性。
任何新創(chuàng)技術(shù)的成熟度都非一蹴可及,而是要經(jīng)歷科技誕生的促動(dòng)期、過高期望的尖峰期、泡沬化的谷底期、穩(wěn)健成長的光明期及實(shí)質(zhì)生產(chǎn)的高峰期,許多新創(chuàng)技術(shù)在促動(dòng)期就可能失敗,尖峰期則是發(fā)展的臨界點(diǎn),如果能夠熬過谷底期,才能步入光明期及高峰期,而數(shù)據(jù)分析技術(shù),目前正是已經(jīng)步入谷底期及光明期的臨界點(diǎn)。
要掌握大數(shù)據(jù)分析的發(fā)展趨勢,首先要先了解大數(shù)據(jù)的核心,也就是「數(shù)據(jù)」的本質(zhì),如那些數(shù)據(jù)有助于解決特定的問題;如何、多久及何處取得數(shù)據(jù);數(shù)據(jù)保存的型態(tài)及時(shí)間;數(shù)據(jù)要如何萃取;數(shù)據(jù)要如何藉由視覺化圖表或整合式數(shù)據(jù)予以呈現(xiàn)等。
了解何謂「數(shù)據(jù)」后,接下來就得了解大數(shù)據(jù)的叁大特性,思考其應(yīng)用特性。包括數(shù)據(jù)量的規(guī)模(Volume):通常是以TB、PB等級(jí)的數(shù)據(jù)量為基本單位;數(shù)據(jù)異動(dòng)的速度(Velocity):數(shù)據(jù)的時(shí)效性一旦錯(cuò)過,可能就不具任何價(jià)值,在金融交易領(lǐng)域尤其明顯;多樣性(Variety):數(shù)據(jù)可能有各種型式,包括文字、影音、圖像、網(wǎng)頁、串流。
大數(shù)據(jù)的分析應(yīng)用與傳統(tǒng)的關(guān)聯(lián)式數(shù)據(jù)庫結(jié)構(gòu)化數(shù)據(jù)分析相較,超大量的半結(jié)構(gòu)化/非結(jié)構(gòu)化數(shù)據(jù)的儲(chǔ)存及分析,很容易造成其效能瓶頸。但若能根據(jù)數(shù)據(jù)特性,建構(gòu)使用合適的數(shù)據(jù)分析平臺(tái)及分析工具,將能以最佳的性價(jià)比提供最具深度的數(shù)據(jù)分析,以洞悉資訊發(fā)揮其最大的價(jià)值。
大數(shù)據(jù)時(shí)代之所以到來,其與物聯(lián)網(wǎng)及云端運(yùn)算的推波助瀾有相當(dāng)密切的關(guān)系。引述Gartner的數(shù)據(jù)指出,不包含PC、平板及智慧型手機(jī)在內(nèi)的物聯(lián)網(wǎng)裝置用戶數(shù),將于2020年成長至260億臺(tái),物聯(lián)網(wǎng)產(chǎn)品與服務(wù)供應(yīng)商將創(chuàng)造逾3,000億美元的邊際收益,且絕大部分在服務(wù)領(lǐng)域,其各類終端市場的銷售業(yè)績,將為全球帶來1.9兆美元的經(jīng)濟(jì)附加價(jià)值。
結(jié)合云端運(yùn)算無遠(yuǎn)弗界、隨取隨用的服務(wù)特性以及搭配大數(shù)據(jù)的探勘、分析與整合技術(shù),讓業(yè)者得以大規(guī)模蒐集、傳遞、儲(chǔ)存及分析數(shù)據(jù),以延伸更多深入應(yīng)用,進(jìn)而迅速擴(kuò)大物聯(lián)網(wǎng)的規(guī)模及應(yīng)用。但在此同時(shí),其也間接深化推動(dòng)云端運(yùn)算與大數(shù)據(jù)分析的應(yīng)用發(fā)展,3者共生共榮,缺一不可。
根據(jù)國外針對大數(shù)據(jù)解決方案所形成的生態(tài)系統(tǒng)的分析結(jié)果觀察,單單在數(shù)據(jù)架構(gòu)平臺(tái) 、分析管理工具、跨數(shù)據(jù)平臺(tái)/分析工具、數(shù)據(jù)應(yīng)用軟件、數(shù)據(jù)來源、開放技術(shù)等幾大類,就至少超過350家相關(guān)業(yè)者。
正由于大數(shù)據(jù)扮演如此重要角色,因此如何針對應(yīng)用資訊服務(wù)并掌握其中核心技術(shù),對于企業(yè)而言,將會(huì)是改變未來的關(guān)鍵力量。
新一代企業(yè)數(shù)據(jù)中心必須在兼具成本優(yōu)勢,且快速滿足對RPO與RTO需求的前提下,能充分因應(yīng)云端服務(wù)伴隨而來的大數(shù)據(jù)成長挑戰(zhàn)??剂繑?shù)據(jù)應(yīng)用于不同情境下,成長量、效能、服務(wù)等級(jí)及成本效益需求各有不同,其實(shí)很難用單一架構(gòu)來滿足所有的數(shù)據(jù)儲(chǔ)存的需求。因此采用混合式數(shù)據(jù)儲(chǔ)存(Hybrid Storage)將會(huì)是其中的關(guān)鍵應(yīng)用。
至于新一代企業(yè)儲(chǔ)存架構(gòu)平臺(tái)該采用何種儲(chǔ)存技術(shù),融合式數(shù)據(jù)儲(chǔ)存、云端儲(chǔ)存及水平擴(kuò)充式儲(chǔ)存相當(dāng)值得關(guān)注。
它們的共同點(diǎn)是藉由無遠(yuǎn)弗屆的網(wǎng)路力量,打破數(shù)據(jù)處理與儲(chǔ)存的樊籬,采用分散式架構(gòu),支援上千個(gè)節(jié)點(diǎn)及Petabyte等級(jí)的數(shù)據(jù)量,并可搭配開放塬始碼軟件框架,不但擁有儲(chǔ)存與處理大量數(shù)據(jù)的能力,還可藉由平行分散檔案的處理,得到快速的回應(yīng),充分滿足大量數(shù)據(jù)分散式儲(chǔ)存與分析應(yīng)用之需求。
其實(shí)傳統(tǒng)儲(chǔ)存系統(tǒng)、融合儲(chǔ)存、云端儲(chǔ)存及水平擴(kuò)充儲(chǔ)存各有擅長,企業(yè)若能善用混合數(shù)據(jù)儲(chǔ)存技術(shù)及平臺(tái)特性,透過軟件定義架構(gòu) ,消弭不同應(yīng)用平臺(tái)間的差異,將可提升快速回應(yīng)與增加數(shù)據(jù)中心彈性,大幅縮小部署時(shí)間,并可藉由ITaaS及隨選服務(wù),將可大幅提升使用彈性,成為企業(yè)可靠的數(shù)據(jù)儲(chǔ)存平臺(tái)。
企業(yè)若能針對商業(yè)智慧應(yīng)用,善用前述技術(shù)建立新一代數(shù)據(jù)中心分析平臺(tái),就能打通大數(shù)據(jù)分析的任督二脈,輕松駕馭大數(shù)據(jù)分析,細(xì)致打造高效率企業(yè)數(shù)據(jù)中心數(shù)據(jù)平臺(tái)。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10