
蛻變中的大數(shù)據(jù)分析平臺(tái)與應(yīng)用實(shí)務(wù)
大數(shù)據(jù)雖然是一座寶山,但并非有數(shù)據(jù),就能產(chǎn)生價(jià)值。大同世界科技業(yè)務(wù)營(yíng)運(yùn)中心技術(shù)工程處處長(zhǎng)張文祥指出,大數(shù)據(jù)的分析與應(yīng)用,必須透過很多生態(tài)系統(tǒng)搭配組合,才能產(chǎn)生用戶所需要的資訊。
事實(shí)上,國(guó)際顧問研究機(jī)構(gòu)Gartner在2015年所提出的十大策略性技術(shù)與趨勢(shì),其中「無所不在隱于無形進(jìn)階數(shù)據(jù)分析高居第四名,就可看出大數(shù)據(jù)分析的重要性。
任何新創(chuàng)技術(shù)的成熟度都非一蹴可及,而是要經(jīng)歷科技誕生的促動(dòng)期、過高期望的尖峰期、泡沬化的谷底期、穩(wěn)健成長(zhǎng)的光明期及實(shí)質(zhì)生產(chǎn)的高峰期,許多新創(chuàng)技術(shù)在促動(dòng)期就可能失敗,尖峰期則是發(fā)展的臨界點(diǎn),如果能夠熬過谷底期,才能步入光明期及高峰期,而數(shù)據(jù)分析技術(shù),目前正是已經(jīng)步入谷底期及光明期的臨界點(diǎn)。
要掌握大數(shù)據(jù)分析的發(fā)展趨勢(shì),首先要先了解大數(shù)據(jù)的核心,也就是「數(shù)據(jù)」的本質(zhì),如那些數(shù)據(jù)有助于解決特定的問題;如何、多久及何處取得數(shù)據(jù);數(shù)據(jù)保存的型態(tài)及時(shí)間;數(shù)據(jù)要如何萃取;數(shù)據(jù)要如何藉由視覺化圖表或整合式數(shù)據(jù)予以呈現(xiàn)等。
了解何謂「數(shù)據(jù)」后,接下來就得了解大數(shù)據(jù)的叁大特性,思考其應(yīng)用特性。包括數(shù)據(jù)量的規(guī)模(Volume):通常是以TB、PB等級(jí)的數(shù)據(jù)量為基本單位;數(shù)據(jù)異動(dòng)的速度(Velocity):數(shù)據(jù)的時(shí)效性一旦錯(cuò)過,可能就不具任何價(jià)值,在金融交易領(lǐng)域尤其明顯;多樣性(Variety):數(shù)據(jù)可能有各種型式,包括文字、影音、圖像、網(wǎng)頁(yè)、串流。
大數(shù)據(jù)的分析應(yīng)用與傳統(tǒng)的關(guān)聯(lián)式數(shù)據(jù)庫(kù)結(jié)構(gòu)化數(shù)據(jù)分析相較,超大量的半結(jié)構(gòu)化/非結(jié)構(gòu)化數(shù)據(jù)的儲(chǔ)存及分析,很容易造成其效能瓶頸。但若能根據(jù)數(shù)據(jù)特性,建構(gòu)使用合適的數(shù)據(jù)分析平臺(tái)及分析工具,將能以最佳的性價(jià)比提供最具深度的數(shù)據(jù)分析,以洞悉資訊發(fā)揮其最大的價(jià)值。
大數(shù)據(jù)時(shí)代之所以到來,其與物聯(lián)網(wǎng)及云端運(yùn)算的推波助瀾有相當(dāng)密切的關(guān)系。引述Gartner的數(shù)據(jù)指出,不包含PC、平板及智慧型手機(jī)在內(nèi)的物聯(lián)網(wǎng)裝置用戶數(shù),將于2020年成長(zhǎng)至260億臺(tái),物聯(lián)網(wǎng)產(chǎn)品與服務(wù)供應(yīng)商將創(chuàng)造逾3,000億美元的邊際收益,且絕大部分在服務(wù)領(lǐng)域,其各類終端市場(chǎng)的銷售業(yè)績(jī),將為全球帶來1.9兆美元的經(jīng)濟(jì)附加價(jià)值。
結(jié)合云端運(yùn)算無遠(yuǎn)弗界、隨取隨用的服務(wù)特性以及搭配大數(shù)據(jù)的探勘、分析與整合技術(shù),讓業(yè)者得以大規(guī)模蒐集、傳遞、儲(chǔ)存及分析數(shù)據(jù),以延伸更多深入應(yīng)用,進(jìn)而迅速擴(kuò)大物聯(lián)網(wǎng)的規(guī)模及應(yīng)用。但在此同時(shí),其也間接深化推動(dòng)云端運(yùn)算與大數(shù)據(jù)分析的應(yīng)用發(fā)展,3者共生共榮,缺一不可。
根據(jù)國(guó)外針對(duì)大數(shù)據(jù)解決方案所形成的生態(tài)系統(tǒng)的分析結(jié)果觀察,單單在數(shù)據(jù)架構(gòu)平臺(tái) 、分析管理工具、跨數(shù)據(jù)平臺(tái)/分析工具、數(shù)據(jù)應(yīng)用軟件、數(shù)據(jù)來源、開放技術(shù)等幾大類,就至少超過350家相關(guān)業(yè)者。
正由于大數(shù)據(jù)扮演如此重要角色,因此如何針對(duì)應(yīng)用資訊服務(wù)并掌握其中核心技術(shù),對(duì)于企業(yè)而言,將會(huì)是改變未來的關(guān)鍵力量。
新一代企業(yè)數(shù)據(jù)中心必須在兼具成本優(yōu)勢(shì),且快速滿足對(duì)RPO與RTO需求的前提下,能充分因應(yīng)云端服務(wù)伴隨而來的大數(shù)據(jù)成長(zhǎng)挑戰(zhàn)。考量數(shù)據(jù)應(yīng)用于不同情境下,成長(zhǎng)量、效能、服務(wù)等級(jí)及成本效益需求各有不同,其實(shí)很難用單一架構(gòu)來滿足所有的數(shù)據(jù)儲(chǔ)存的需求。因此采用混合式數(shù)據(jù)儲(chǔ)存(Hybrid Storage)將會(huì)是其中的關(guān)鍵應(yīng)用。
至于新一代企業(yè)儲(chǔ)存架構(gòu)平臺(tái)該采用何種儲(chǔ)存技術(shù),融合式數(shù)據(jù)儲(chǔ)存、云端儲(chǔ)存及水平擴(kuò)充式儲(chǔ)存相當(dāng)值得關(guān)注。
它們的共同點(diǎn)是藉由無遠(yuǎn)弗屆的網(wǎng)路力量,打破數(shù)據(jù)處理與儲(chǔ)存的樊籬,采用分散式架構(gòu),支援上千個(gè)節(jié)點(diǎn)及Petabyte等級(jí)的數(shù)據(jù)量,并可搭配開放塬始碼軟件框架,不但擁有儲(chǔ)存與處理大量數(shù)據(jù)的能力,還可藉由平行分散檔案的處理,得到快速的回應(yīng),充分滿足大量數(shù)據(jù)分散式儲(chǔ)存與分析應(yīng)用之需求。
其實(shí)傳統(tǒng)儲(chǔ)存系統(tǒng)、融合儲(chǔ)存、云端儲(chǔ)存及水平擴(kuò)充儲(chǔ)存各有擅長(zhǎng),企業(yè)若能善用混合數(shù)據(jù)儲(chǔ)存技術(shù)及平臺(tái)特性,透過軟件定義架構(gòu) ,消弭不同應(yīng)用平臺(tái)間的差異,將可提升快速回應(yīng)與增加數(shù)據(jù)中心彈性,大幅縮小部署時(shí)間,并可藉由ITaaS及隨選服務(wù),將可大幅提升使用彈性,成為企業(yè)可靠的數(shù)據(jù)儲(chǔ)存平臺(tái)。
企業(yè)若能針對(duì)商業(yè)智慧應(yīng)用,善用前述技術(shù)建立新一代數(shù)據(jù)中心分析平臺(tái),就能打通大數(shù)據(jù)分析的任督二脈,輕松駕馭大數(shù)據(jù)分析,細(xì)致打造高效率企業(yè)數(shù)據(jù)中心數(shù)據(jù)平臺(tái)。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03