
大數(shù)據(jù)分析,八大趨勢(shì)你看清了嗎
“現(xiàn)實(shí)的情況是,這些工具都剛剛興起,他們構(gòu)筑的平臺(tái)還不足以讓企業(yè)依賴。但是,大數(shù)據(jù)和分析學(xué)等學(xué)科發(fā)展十分迅速,因此企業(yè)必須努力跟上,否則就有被甩掉的危險(xiǎn)?!彼€說(shuō):“過(guò)去,新興技術(shù)往往需要十年左右的時(shí)間才能夠成熟,但是現(xiàn)在大大不同了,人們幾個(gè)月甚至幾周時(shí)間就能想出解決方案。”那么,有哪些新興技術(shù)是我們應(yīng)該關(guān)注,或者說(shuō)科研人員正在重點(diǎn)研究的呢?近日采訪了一些IT精英、咨詢師和行業(yè)分析專家,來(lái)看看他們列出的幾大趨勢(shì)吧
1.云端大數(shù)據(jù)分析
Hadoop是一組有一定框架結(jié)構(gòu)的工具,用來(lái)處理大型數(shù)據(jù)組。它原本用于機(jī)器群,但現(xiàn)在情況有所變化。Forrester Research一位分析師Brian Hopkins表示,現(xiàn)在有越來(lái)越多的技術(shù)可以運(yùn)用到云端數(shù)據(jù)處理上來(lái)了。比如亞馬遜的BI數(shù)據(jù)庫(kù)、Google的BigQuery數(shù)據(jù)分析服務(wù),IBM的Bluemix云平臺(tái)和亞馬遜的Kinesis數(shù)據(jù)處理服務(wù)等。這位分析師還說(shuō),未來(lái)的大數(shù)據(jù)將是內(nèi)部數(shù)據(jù)部署與云端數(shù)據(jù)的結(jié)合體。
SmarterRemarketer是SaaS零售分析、市場(chǎng)細(xì)分和營(yíng)銷服務(wù)的供應(yīng)商,它最近將自己室內(nèi)的Hadoop和MongoDB數(shù)據(jù)庫(kù)基礎(chǔ)設(shè)施轉(zhuǎn)移到了一個(gè)基于云技術(shù)的數(shù)據(jù)庫(kù)。這家位于印第安納波利斯的公司收集線上和實(shí)體銷售數(shù)據(jù)、顧客信息和實(shí)時(shí)行為數(shù)據(jù),之后進(jìn)行分析,從而幫助零售商做出針對(duì)消費(fèi)者的決策,有些決策甚至是實(shí)時(shí)的。
Abbott表示,這樣可以節(jié)省成本,這是因?yàn)樗鼘?duì)于結(jié)構(gòu)數(shù)據(jù)擁有強(qiáng)大的匯總報(bào)告功能,而且它頗具規(guī)模,使用起來(lái)相對(duì)容易。用這些虛擬設(shè)備總是要比那些實(shí)體設(shè)備便宜一些。
相比之下,位于加州山景城的Intuit在走向云分析的過(guò)程中就要謹(jǐn)慎多了,因?yàn)樗枰粋€(gè)安全、穩(wěn)定、可控的環(huán)境。目前為止,這家金融軟件公司的數(shù)據(jù)都還在自家的數(shù)據(jù)庫(kù)——IntuitAnalyticsCloud里面。Loconzolo表示:“建立一個(gè)幾家公司公用的、能跨越虛擬、現(xiàn)實(shí)兩個(gè)世界的、具有高度穩(wěn)定性的云端,目前這個(gè)問(wèn)題還沒(méi)有得到解決?!比欢?,可以說(shuō),對(duì)于像Intuit這種銷售云端產(chǎn)品的公司來(lái)說(shuō),向云端技術(shù)進(jìn)軍是必然的。Loconzolo還說(shuō)道,未來(lái)我們會(huì)發(fā)展到一個(gè)階段,那時(shí)把數(shù)據(jù)放在私有云端將是浪費(fèi)的。
2.Hadoop:一個(gè)新的企業(yè)數(shù)據(jù)運(yùn)行系統(tǒng)
Hopkins表示,像MapReduce這樣的分布式分析框架,正在逐漸演化成分布式資源管理器,這些資源管理器正逐步將Hadoop變?yōu)槎嘤猛緮?shù)據(jù)運(yùn)行系統(tǒng)?!坝辛诉@些系統(tǒng),你就可以進(jìn)行多種多樣的操作和分析?!?/span>
這對(duì)企業(yè)來(lái)說(shuō)意味著什么呢?SQL、MapReduce、in-memory、流水式處理、圖表分析還有其它工作都能在Hadoop上進(jìn)行,越來(lái)越多的企業(yè)會(huì)把Hadoop當(dāng)做企業(yè)數(shù)據(jù)中心。Hopkins還說(shuō):“在Hadoop上能進(jìn)行各種各樣的數(shù)據(jù)處理工作,這樣的話,Hadoop會(huì)慢慢變成一個(gè)多用途的數(shù)據(jù)處理系統(tǒng)。”
Intuit已經(jīng)開(kāi)始在Hadoop建立自己的數(shù)據(jù)基地了。Loconzolo說(shuō):“我們的策略是利用Hadoop分布式文件系統(tǒng),因?yàn)樗蚆apReduce與Hadoop等聯(lián)系十分密切,這樣的話,人與產(chǎn)品之間的各種互動(dòng)就可以實(shí)現(xiàn)了。
3.大數(shù)據(jù)湖泊
美國(guó)普華永道首席技術(shù)專家ChrisCurran說(shuō),傳統(tǒng)數(shù)據(jù)庫(kù)理論認(rèn)為,人們應(yīng)該先設(shè)計(jì)數(shù)據(jù)集,然后再將數(shù)據(jù)輸入進(jìn)去。而“數(shù)據(jù)湖泊“,也被稱作“企業(yè)數(shù)據(jù)湖泊”或者“企業(yè)數(shù)據(jù)中心”,顛覆了這個(gè)理念?!艾F(xiàn)在,我們先收集數(shù)據(jù),然后把它們都存入Hadoop倉(cāng)庫(kù)里,我們不必事先設(shè)計(jì)數(shù)據(jù)模型了。”這個(gè)數(shù)據(jù)湖泊不僅為人們提供了分析數(shù)據(jù)的工具,而且很明確地告訴你,這里有什么樣的數(shù)據(jù)。Curran還表示,運(yùn)用Hadoop的過(guò)程中人們就可以增加對(duì)數(shù)據(jù)的認(rèn)識(shí)。這是一個(gè)遞增的、有機(jī)的大規(guī)模數(shù)據(jù)庫(kù)。當(dāng)然,這樣一來(lái),對(duì)使用者的技術(shù)要求相應(yīng)地會(huì)比較高。
Loconzolo表示,Intuit擁有自己的數(shù)據(jù)湖泊,這個(gè)數(shù)據(jù)湖里既有用戶點(diǎn)擊量的數(shù)據(jù),也有企業(yè)和第三方的數(shù)據(jù),所有這些都是Intuit分析云端的一部分,但關(guān)鍵是要讓圍繞這個(gè)數(shù)據(jù)湖的工具能夠?yàn)槿藗冇行Ю闷饋?lái)。Loconzolo還說(shuō),對(duì)于在Hadoop建立數(shù)據(jù)湖,一個(gè)需要考慮的問(wèn)題是,這個(gè)平臺(tái)并沒(méi)有完完全全的為企業(yè)的需求設(shè)置周全?!拔覀冞€需要傳統(tǒng)企業(yè)數(shù)據(jù)庫(kù)已經(jīng)有了幾十年的一些功能,比如監(jiān)控訪問(wèn)控制、加密、安全性以及能夠從源頭到去向地追蹤數(shù)據(jù)等等。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過(guò)程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對(duì)數(shù)據(jù)的需求已從 “存儲(chǔ)” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語(yǔ)言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開(kāi)的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開(kāi)始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開(kāi)發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見(jiàn)頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11