
大數(shù)據(jù)無處不在,它到底是如何改變我們生活的
對于大數(shù)據(jù)的定義,目前業(yè)界并沒有形成一個一致的說法,麥肯錫全球研究所對大數(shù)據(jù)的定義為一種規(guī)模大到在獲取、存儲、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合,具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價值密度低四大特征。
不管大數(shù)據(jù)的定義如何(筆者以為這不是重點(diǎn)),但其相對傳統(tǒng)數(shù)據(jù)庫而言的差別還是需要知悉的,那就是它比傳統(tǒng)數(shù)據(jù)庫的規(guī)模要大得多,這種大不僅僅體現(xiàn)在數(shù)據(jù)的量上,亦體現(xiàn)在數(shù)據(jù)類型上,這點(diǎn)不難理解,也正是這種規(guī)模與類型上的巨大差別,導(dǎo)致了大數(shù)據(jù)的價值密度相對傳統(tǒng)數(shù)據(jù)庫而言要小,這點(diǎn)不妨簡單地理解為在大數(shù)據(jù)的概念中,有價值的信息數(shù)據(jù)多,但無價值的信息數(shù)據(jù)同樣也多,這自然會稀釋大數(shù)據(jù)的價值密度了。
一般而言,在傳統(tǒng)的數(shù)據(jù)庫系統(tǒng)中,企業(yè)的數(shù)據(jù)中心往往是最耗費(fèi)計算資源與財力的,大數(shù)據(jù)在數(shù)據(jù)量與數(shù)據(jù)類型成倍增長的情況下,對計算資源的索取自然就更變本加厲了,這對中小型企業(yè)而言,成本往往會成為其不能承受之重,此時,與大數(shù)據(jù)最為適配的搭檔就是云計算了!
云計算是通過讓任務(wù)(計算或數(shù)據(jù)處理等)分布在大量的分布式計算機(jī)上(這些分布式計算機(jī)是聯(lián)網(wǎng)的),而非遠(yuǎn)程服務(wù)器或本地計算機(jī)上,讓這些分布式計算機(jī)形成一個資源池共同完成任務(wù),這就相當(dāng)于把一份任務(wù)分給N個人做,而這個N究竟是多少是依據(jù)任務(wù)的難度而定的,云計算的優(yōu)勢顯而易見,不但可很好地解決計算資源不足的問題(對本地的計算資源需求很低,但對網(wǎng)絡(luò)的要求較高),同時網(wǎng)絡(luò)上閑散的計算資源也被很好地利用起來,這正好滿足了大數(shù)據(jù)應(yīng)用對計算資源的龐大需求。
大數(shù)據(jù)如何改變我們的生活
大數(shù)據(jù)對我們?nèi)粘I畹母淖兪紫润w現(xiàn)在思維方式上,嚴(yán)格來說,大數(shù)據(jù)并非是一個確切的概念,說大數(shù)據(jù)是一種工具,一種新的思維方式也許更加準(zhǔn)確。大數(shù)據(jù)打破了人類之所以是人類的原因之一即邏輯思維方式,大數(shù)據(jù)不講究因果關(guān)系,而因果關(guān)系正是邏輯思維運(yùn)作的基礎(chǔ),大數(shù)據(jù)講究的是相關(guān)性,由這個相關(guān)性可產(chǎn)生一系列的大數(shù)據(jù)的實(shí)際應(yīng)用。當(dāng)然大數(shù)據(jù)的本質(zhì)還是一種數(shù)據(jù)庫技術(shù),那么傳統(tǒng)數(shù)據(jù)庫所具有的一些特性,大數(shù)據(jù)當(dāng)然也一個不少,比如數(shù)據(jù)分析,數(shù)據(jù)挖掘等等。
正如前文所言,大數(shù)據(jù)不講究因果關(guān)系,它更加關(guān)注事物的相關(guān)性,由著這個相關(guān)性誕生了一系列的新應(yīng)用,比如本文開頭言及谷歌對于流感的預(yù)測報告就是如此,此外與我們?nèi)粘I罡鼮橄⑾⑾嚓P(guān)的就是電子商務(wù)應(yīng)用了。
當(dāng)你在購物網(wǎng)站京東搜索了你想買的某類產(chǎn)品,或是你在京東上常常瀏覽某種類型的商品后,京東背后的大數(shù)據(jù)應(yīng)用會為你建立一個小的數(shù)據(jù)庫,這個數(shù)據(jù)庫涵蓋你以往的購物歷史數(shù)據(jù)、搜索記錄(搜索了什么類型的商品等)、瀏覽記錄(瀏覽了什么商品等數(shù)據(jù)),基本上你在京東上的行為都被一一記錄下來形成一個你私人的大數(shù)據(jù),這對你而言是沒有意義的,對京東而言就意義重大了,京東會由此預(yù)測你在此時此刻可能對某些商品會感興趣。
京東不會關(guān)注你為什么會對這些商品感興趣,因?yàn)樵驅(qū)〇|而言沒有意義,京東關(guān)注的是如何把商品賣出去,你的興趣才是它的關(guān)注點(diǎn),于是當(dāng)你在瀏覽其他網(wǎng)頁時(與京東合作的相關(guān)網(wǎng)站),在該頁面的廣告欄便會輪番顯示你感興趣或者曾經(jīng)瀏覽過的商品,在大大提升廣告推廣效率的同時亦不會讓你反感(甚至某種你需求商品在其上的降價可激發(fā)你的感激之情),除此之外,對商家而言,依據(jù)眾多用戶購買行為而建立的大數(shù)據(jù),可有效地判斷某時某地大眾的消費(fèi)趨勢,為更好地實(shí)施商業(yè)戰(zhàn)略規(guī)劃提供參考。
大數(shù)據(jù)在城市智能交通上的應(yīng)用正是基于其在數(shù)據(jù)分析與挖掘之上的。記錄一座城市一天24小時的交通數(shù)據(jù)信息是一項(xiàng)龐大的工程,一個完善的城市交通大數(shù)據(jù)(這些數(shù)據(jù)主要來自城市各個干道上所安裝的智能化視頻監(jiān)控系統(tǒng)、停車場的智能卡口系統(tǒng)、地鐵公交系統(tǒng)的刷卡記錄等)系統(tǒng)應(yīng)該將這些數(shù)據(jù)悉數(shù)記錄,這些數(shù)據(jù)包括城市各個路段上實(shí)時的交通流量信息(如各個路段上事實(shí)的交通擁堵情況,單位時間的車流量,甚至某輛車由某位置到達(dá)某位置預(yù)計所需要的時間等等)、歷史交通信息的存儲與查詢等,城市交通大數(shù)據(jù)系統(tǒng)會依據(jù)相應(yīng)的數(shù)據(jù)模型展開數(shù)據(jù)分析與挖掘,并將分析報告的結(jié)果實(shí)時呈現(xiàn)出來,這些實(shí)時的交通信息報告給城市的交管部門更為良好的管理整個城市的交通運(yùn)作提供最有價值的決策依據(jù)。
也許大數(shù)據(jù)應(yīng)用對城市智能交通管理系統(tǒng)更大的價值在于一旦城市交通出現(xiàn)緊急情況,比如出現(xiàn)交通事故時,肇事司機(jī)駕車逃逸,此時管理部門啟動整個交通平臺的大數(shù)據(jù)技術(shù)對罪犯進(jìn)行追捕將變得極為有效:在基本確定了在某個時間段內(nèi)某地段所發(fā)生的交通事故后,在周圍布置的智能視頻監(jiān)控系統(tǒng)可依據(jù)該逃逸車輛的特征(車的類型、顏色、逃逸司機(jī)的特征,車牌號中包括了哪些數(shù)字等)迅速地確定該逃逸車輛的車牌號,依據(jù)車牌號再確定司機(jī)姓名(即使有時不是車輛所有者本人亦無關(guān)系,依然可作為案件偵查的重要線索),此時該范圍內(nèi)所有布置的智能視頻監(jiān)控系統(tǒng)(可依據(jù)監(jiān)控物特征進(jìn)行識別)將悉數(shù)處于戒備狀態(tài),一旦該車輛從其“眼皮”底下溜過時即會觸發(fā)報警,該報警會自動上傳至城市智能交通管理系統(tǒng),系統(tǒng)在完成位置的確定后即可實(shí)施抓捕,大數(shù)據(jù)在整個運(yùn)作過程中扮演了幕后英雄的角色,最終將犯罪分子繩之以法!
大數(shù)據(jù)本質(zhì)是一種工具,其價值在于人類如何利用它
盡管大數(shù)據(jù)的存在不露聲色,但它與我們的生活已密不可分,它就像一只看不見的手,在一定程度上操控著我們的生活。當(dāng)你瀏覽網(wǎng)頁時,大數(shù)據(jù)會依據(jù)你的喜好向你推薦感興趣的商品,你不討厭,你甚至欣喜若狂,因?yàn)槟惆l(fā)現(xiàn)看上的某商品在低價出售,也許事后你又會恨得咬牙切齒,怪自己不該沖動剁手,買了一件用不上的東西,但大數(shù)據(jù)卻扎扎實(shí)實(shí)地改變了你的生活。事實(shí)上,在你網(wǎng)購的同時,你的購買行為本身亦成為網(wǎng)站大數(shù)據(jù)應(yīng)用的一部分,正是這許許多多的一部分成就了大數(shù)據(jù)應(yīng)用的基礎(chǔ)。
太陽底下無新事,大數(shù)據(jù)亦如此,它不追究事物的原因,不講究因果關(guān)系,但它把事物的相關(guān)性發(fā)揮得淋漓盡致,正是基于此,它建立了許許多多成功的商業(yè)應(yīng)用,但這些商業(yè)應(yīng)用成功的真正原因卻不在大數(shù)據(jù)本身,而是人類自身所具備的智慧造就,誠如本文開頭所言,谷歌收集的數(shù)據(jù)只是用戶的檢索數(shù)據(jù),是谷歌的工程師們發(fā)現(xiàn)了用戶檢索與流感之間的聯(lián)系才產(chǎn)生了后來大數(shù)據(jù)具備的預(yù)測性應(yīng)用,一句話,大數(shù)據(jù)的本質(zhì)只是一種工具,如何用好這個工具,還得仰仗人類自身的智慧了!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03