
大數(shù)據(jù)挖掘才有價值_數(shù)據(jù)分析師
2012年開始,大數(shù)據(jù)就從一個概念變成了一個詞語,并隨著時間的流逝變得更加引人注目,到了2014年,大數(shù)據(jù)顯然已經(jīng)是IT圈里萬人矚目的明星。
著名研究機構(gòu)IDC總結(jié)的4個V能很好地界定大數(shù)據(jù)概念,4V分別是容量、類型、速度和價值(volume、variety、velocity和value)。大數(shù)據(jù)是通過高速捕捉、發(fā)現(xiàn)和分析,從大容量數(shù)據(jù)中獲取價值的一種新的技術(shù)架構(gòu)。
各行各業(yè)中對數(shù)據(jù)挖掘與分析的需求一直存在,大家都希望從海量數(shù)據(jù)中尋找業(yè)務方向和新商機。不同的是隨著信息技術(shù)的發(fā)展,特別是智能手機普及以后,用戶參與各類業(yè)務所產(chǎn)生的數(shù)據(jù)總量變多了,能夠分析處理挖掘的數(shù)據(jù)的種類也變多了,相當部分的數(shù)據(jù)分析報告的時效性要求更高了。
大數(shù)據(jù)平臺并不意味對原有信息系統(tǒng)基礎(chǔ)架構(gòu)的否定,因為信息系統(tǒng)中現(xiàn)有的生產(chǎn)系統(tǒng)始終存在,客戶對關(guān)鍵業(yè)務的可靠性和縱向擴展能力的要求不會減少,客戶對數(shù)據(jù)的集中管理的可靠性要求始終存在。大數(shù)據(jù)平臺重新為基礎(chǔ)架構(gòu)添加了更好的計算、更強的存儲、更多的數(shù)據(jù)存儲層次,而且所有的大數(shù)據(jù)應用都需要堅實可靠、靈活高效的大數(shù)據(jù)平臺。
數(shù)據(jù)本身就是數(shù)據(jù),價值是隱藏在數(shù)據(jù)中的,需要挖據(jù)、整理、分析才能形成有價值的大數(shù)據(jù)。從這點來講,并不是比誰的數(shù)據(jù)庫大,誰就是大數(shù)據(jù)。如果不去應用分析數(shù)據(jù),那么這些數(shù)據(jù)只能用來歸檔存儲而已,形不成價值。如何有效、快速、準確地分析并整理數(shù)據(jù),是大數(shù)據(jù)應用的難點,數(shù)據(jù)需要經(jīng)過歸類整理、通過優(yōu)化建模分析,有價值的部分才會浮出數(shù)據(jù)庫。
例如2014年春節(jié)期間,騰訊公司根據(jù)QQ用戶登錄地點變化的數(shù)據(jù),統(tǒng)計分析出春節(jié)期間人們遷徙地點的變化。同樣百度也基于手機用戶在春節(jié)期間登錄地點的變化,給出了某一時間段人群遷移路線圖服務這類基于大量數(shù)據(jù)統(tǒng)計出的結(jié)論,不但能作為一種新聞來傳播,更可以為春運期間的鐵路、公路、民航等交通領(lǐng)域資源調(diào)配做建議和參考。在大數(shù)據(jù)價值分析愈加成熟的背景下,大數(shù)據(jù)已經(jīng)可以幫助政府進行更加科學的管理。對企業(yè)而言,大數(shù)據(jù)可以幫助其進行更加精準的營銷和傳播。比如微博和淘寶的合作,可以依照用戶查詢歷史來進行廣告商品的精準推送。
對于大數(shù)據(jù)而言,Google和Facebook是最早實施并發(fā)掘的公司,他們在大數(shù)據(jù)的分析和發(fā)掘上也遠遠走在前面。例如Google在全球有數(shù)十萬臺服務器,它背后就是一個全球最大的數(shù)據(jù)庫系統(tǒng),對這些數(shù)據(jù)的分析挖掘讓Google發(fā)現(xiàn)了新的世界。
其實大數(shù)據(jù)技術(shù)目前依然以開源為主,直到今天也沒有誰家形成絕對的技術(shù)壟斷。即便是IBM、Oracle、SAP、EMC等行業(yè)巨頭,也同樣是將開源的大數(shù)據(jù)技術(shù)與自身原來的產(chǎn)品更好的結(jié)合起來,形成具有其產(chǎn)品特色的大數(shù)據(jù)平臺而已。
雖然商業(yè)化的大數(shù)據(jù)平臺基本都集中在國際巨頭手中,但并不意味著中國的大數(shù)據(jù)就落后于時代了。國內(nèi)最典型的大數(shù)據(jù)應用當屬BAT百度、阿里、騰訊。作為占據(jù)國內(nèi)80%以上網(wǎng)民搜索的百度,推出的百度指數(shù)、框計算等功能,無一例外的都是大數(shù)據(jù)典型應用;阿里旗下的淘寶在去年雙十一中引爆了網(wǎng)民的購物狂潮,讓隨后一個月的時間里,各家快遞都還為雙十一忙碌,海量的成交數(shù)據(jù)和各地購物特點的數(shù)據(jù)分析也讓阿里在大數(shù)據(jù)上占據(jù)了電商領(lǐng)域的重要地位;騰訊攜旗下的老牌QQ+當紅微信,形成了超過10億活躍用戶的大數(shù)據(jù)基礎(chǔ),由這些海量用戶的行為積累的數(shù)據(jù)分析,也形成了騰訊的巨大財富基礎(chǔ)。
新浪微博和360作為新興的大數(shù)據(jù)企業(yè)也具有了自己獨特的發(fā)展特色。新浪微博在更名微博后,顯然已經(jīng)占據(jù)了社交媒體的第一把交椅,作為各類新聞、消息的第一發(fā)源地,已經(jīng)成為幾乎所有機構(gòu)、公司、媒體和社交的重要場所,它顯然也是大數(shù)據(jù)的重要用戶。360在國內(nèi)的PC和手機的安全入口占有絕對優(yōu)勢,自然也是這些用戶行為數(shù)據(jù)的獲益者,因此360也當之無愧地成為國內(nèi)大數(shù)據(jù)應用的典型企業(yè)。
這些巨無霸型的互聯(lián)網(wǎng)企業(yè)已經(jīng)將大數(shù)據(jù)玩弄得爐火純青,那么是否意味著國內(nèi)大數(shù)據(jù)產(chǎn)業(yè)已經(jīng)成熟了嗎?非也,這些巨無霸遠遠領(lǐng)先了中國其他行業(yè)在信息化建設(shè)中的步伐,其自身的大數(shù)據(jù)應用也都是基于開源系統(tǒng),由自身強有力的技術(shù)團隊進行符合自己業(yè)務需求的開發(fā),逐步形成了有企業(yè)特色的大數(shù)據(jù)應用。
與這些互聯(lián)網(wǎng)巨頭相比,行業(yè)用戶顯然不具備他們那樣雄厚的技術(shù)開發(fā)實力,顯然不具備將開源大數(shù)據(jù)系統(tǒng)與自身業(yè)務對接的實力。但他們之前就是IBM、Oracle、SAP、EMC等產(chǎn)品的用戶,他們可以直接從這些知名廠商獲得能和已有業(yè)務數(shù)據(jù)對接的大數(shù)據(jù)應用平臺。當然,這些具體的大數(shù)據(jù)部署同樣要依靠SI等渠道的幫助,所不同的是,目前在國內(nèi)能夠?qū)嵤┐髷?shù)據(jù)平臺部署的多數(shù)是國際廠商。
其實今天很多行業(yè)用戶依然把大數(shù)據(jù)定位在100TB級別以內(nèi),同互聯(lián)網(wǎng)企業(yè)無上限的大數(shù)據(jù)相比,100TB內(nèi)存是行業(yè)實時分析數(shù)據(jù)量的上限。SAP的HANA和Oracle的Exadata軟硬件一體化大數(shù)據(jù)產(chǎn)品正好覆蓋了這些行業(yè)應用領(lǐng)域,這些一體化大數(shù)據(jù)分析產(chǎn)品也加速了大數(shù)據(jù)實時分析的可能。與傳統(tǒng)放在磁盤陣列中的數(shù)據(jù)庫不同,這些新一代的產(chǎn)品將以往存放在磁盤陣列中的數(shù)據(jù)壓縮后調(diào)入內(nèi)存實時檢索,或?qū)?shù)據(jù)放在內(nèi)存和閃存中分層調(diào)用,避免I/O讀取帶來的遲滯。以往用戶在查詢磁盤陣列中TB級別的數(shù)據(jù)時,要等待數(shù)分鐘甚至更多的時間,無法滿足海量用戶并發(fā)查詢的需求,而運行在內(nèi)存中的數(shù)據(jù)庫產(chǎn)品成功解決了用戶實時查詢的難題。
從上圖可以看到,數(shù)據(jù)在快速增長,但是用戶可容忍的系統(tǒng)延時增長確實有限,因此大數(shù)據(jù)的處理和響應比是一個重要的指標。從早期GB級的數(shù)據(jù)庫到今天TB級,甚至數(shù)百TB級別的數(shù)據(jù)庫,數(shù)據(jù)增長的速度早已超越了硬件的摩爾定律。既然數(shù)據(jù)正在經(jīng)歷爆炸式的增長,那么就需要用更新的數(shù)據(jù)庫技術(shù)才能將海量數(shù)據(jù)歸類整理,并提取需要的資源。這對大數(shù)據(jù)分析的廠商提出了新要求。
中國企業(yè)目前缺少大數(shù)據(jù)實施能力和相關(guān)人才,而且大數(shù)據(jù)分析也不再是單純的軟件或硬件廠商的事情,傳統(tǒng)數(shù)據(jù)庫廠商充分利用了最新的服務器技術(shù),像Oracle和SAP已經(jīng)推出了一體機產(chǎn)品(大數(shù)據(jù)軟件+定制優(yōu)化的服務器+存儲),而硬件服務器/存儲廠商也推出了經(jīng)過充分搭配的大數(shù)據(jù)一體機,這些一體機產(chǎn)品將是未來大數(shù)據(jù)市場的一個發(fā)展趨勢,也是中國企業(yè)走向大數(shù)據(jù)的一個捷徑。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據(jù)查詢到趨勢預判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調(diào)研數(shù)據(jù)中的深度應用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03