
從數(shù)據(jù)到知性 大數(shù)據(jù)的生存進(jìn)化之路
這幾年,大數(shù)據(jù)突然成了商業(yè)社會(huì)上的弄潮兒。似乎,一夜之間,大數(shù)據(jù)就像明星一樣紅遍大江南北。以前,只有在數(shù)學(xué)、統(tǒng)計(jì)、計(jì)算機(jī)等專(zhuān)業(yè)領(lǐng)域談到的數(shù)據(jù),現(xiàn)在已經(jīng)“飛入尋常百姓家”。大數(shù)據(jù)的各種應(yīng)用、研究與實(shí)踐紛紛出現(xiàn),名之為大數(shù)據(jù)的公司也是雨后春筍般涌現(xiàn)。不過(guò),對(duì)于普通人而言,用具體的例子可以更好地解釋它。
數(shù)據(jù)是信息的表達(dá),它的出現(xiàn)甚至比人更為久遠(yuǎn)。在“宇宙大爆炸”的研究過(guò)程中,美國(guó)物理學(xué)家伽莫夫于1946年正式提出大爆炸理論,認(rèn)為宇宙由大約140億年前發(fā)生的一次大爆炸形成。后來(lái),哈勃通過(guò)望遠(yuǎn)鏡觀測(cè)到“紅移現(xiàn)象”——就是星系正在遠(yuǎn)離我們,表明宇宙正在膨脹。通過(guò)測(cè)量光譜中的特征譜線(xiàn)的位置,可以推算出其以前的位置。由此,我們可以推算出宇宙的大致年齡。宇宙中的每個(gè)物體都帶有信息,而信息會(huì)通過(guò)數(shù)據(jù)來(lái)表達(dá)。人類(lèi)的智慧在于可以通過(guò)收集數(shù)據(jù)去認(rèn)識(shí)一切。假如數(shù)據(jù)在宇宙誕生時(shí)就隨之出現(xiàn),那么毫無(wú)疑問(wèn)它的“年齡”比人類(lèi)大得多。
《在科技想要什么》里,美國(guó)科技哲學(xué)家凱文·凱利就提出了“科技也是有生命力的”的觀點(diǎn)。他認(rèn)為,傳統(tǒng)上,人們只把植物、動(dòng)物、原生生物、真菌、原細(xì)菌、真細(xì)菌稱(chēng)為生命。如果重新審視“生命”,那么科技或者技術(shù)可被稱(chēng)為“第七種生命元素”。原因在于技術(shù)是生命的延伸,它的演進(jìn)與生命的進(jìn)化及其相似。那么依照這樣的觀點(diǎn),我們完全可以把數(shù)據(jù)稱(chēng)為“第八種生命元素”。人每時(shí)每刻都會(huì)散發(fā)出信息,比如你的身體、你的行為甚至你的思想。通過(guò)工具,我們可以記錄下你每時(shí)每刻的呼吸、心跳等許多身體數(shù)據(jù),甚至連行為、思想也可以通過(guò)一些方法測(cè)量出來(lái)。在《智慧社會(huì)》里,美國(guó)的全球大數(shù)據(jù)權(quán)威阿萊克斯·彭特蘭通過(guò)社會(huì)計(jì)量標(biāo)牌來(lái)測(cè)量人們的行為。這個(gè)設(shè)備僅有卡片大小,配備了測(cè)量佩戴者運(yùn)動(dòng)的傳感器、捕捉聲音的麥克風(fēng)、檢測(cè)附近同類(lèi)設(shè)備的藍(lán)牙,以及記錄面對(duì)面交流的紅外線(xiàn)傳感器。這個(gè)東西功能異常強(qiáng)大,比如在打撲克時(shí),這款設(shè)備10次有7次可以很準(zhǔn)確地判斷某人是否作弊;佩戴設(shè)備的人能夠在5分鐘內(nèi)預(yù)測(cè)談判中的贏家。
以前限于技術(shù)和發(fā)展程度的限制,人們對(duì)數(shù)據(jù)并不重視,也沒(méi)有認(rèn)識(shí)到數(shù)據(jù)的價(jià)值。但是現(xiàn)在通過(guò)技術(shù)手段,我們完全可以收集人類(lèi)的一切數(shù)據(jù),并對(duì)數(shù)據(jù)進(jìn)行整理、分析和總結(jié),從中發(fā)現(xiàn)驅(qū)使人類(lèi)行為的背后因素。也就是說(shuō),我們可以通過(guò)數(shù)據(jù)來(lái)觀察人類(lèi)。
舉一個(gè)例子,就是谷歌流感搜索與預(yù)測(cè)系統(tǒng)。2009年出現(xiàn)了一種新的流感病毒——H1N1,迅速席卷全球。因?yàn)樗Y(jié)合了禽流感與豬流感的特點(diǎn),傳染力很強(qiáng),破壞力極大。更糟糕的是,目前還沒(méi)有對(duì)抗這種病毒的疫苗。美國(guó)政府要求醫(yī)生在發(fā)現(xiàn)新型流感病例時(shí)要及時(shí)告知疾控預(yù)防中心。然而從人們發(fā)現(xiàn)自己患病到醫(yī)院再到疾控中心,時(shí)間會(huì)拉長(zhǎng),然而短短的時(shí)間新型流感可能已經(jīng)爆發(fā)。這對(duì)政府、社會(huì)和國(guó)家來(lái)說(shuō),將會(huì)帶來(lái)巨大的損失。但是,谷歌卻比政府做得更好。谷歌公司把5000萬(wàn)條美國(guó)人最頻繁檢索的詞條和美國(guó)疾控中心在2003年至2008年間季節(jié)性流感傳播時(shí)期的數(shù)據(jù)進(jìn)行了比較,他們希望通過(guò)人們的搜索記錄來(lái)判斷這些人是否患上了流感。他們的預(yù)測(cè)結(jié)果和官方數(shù)據(jù)的相關(guān)性達(dá)到97%。因此,2009年流感爆發(fā)的時(shí)候,谷歌成了一個(gè)很有效、很及時(shí)的指示標(biāo)。
現(xiàn)在,不管是企業(yè)還是公司,手里都有巨量的數(shù)據(jù)。用于企業(yè),海量的數(shù)據(jù)是企業(yè)未來(lái)的寶藏;用于社會(huì),海量的數(shù)據(jù)可以為人們提供更好的生活和公共服務(wù)。以美國(guó)為例,在2014年,美國(guó)國(guó)稅局通過(guò)一個(gè)名為“Get transcript”的工具將納稅人的信息數(shù)據(jù)加以共享,納稅人可以通過(guò)它獲得他們自己最近三年的納稅記錄。個(gè)人納稅者可以借此下載過(guò)去的納稅申報(bào)單,這使得居民進(jìn)行抵押、學(xué)生貸款、商務(wù)貸款等活動(dòng)與填寫(xiě)納稅表變得更加便捷。
如今,大數(shù)據(jù)相比以前的簡(jiǎn)單數(shù)據(jù),有三個(gè)特點(diǎn):數(shù)量大、種類(lèi)多、速度快。數(shù)量上,2011年新生成的和復(fù)制的信息量估計(jì)超過(guò)了1.8ZB(澤字節(jié));而在2013年這一數(shù)字估計(jì)超過(guò)4ZB。要知道,1ZB等于1021 個(gè)字節(jié),相當(dāng)于存儲(chǔ)323兆份列夫·托爾斯泰所著的1250頁(yè)的《戰(zhàn)爭(zhēng)與和平》所需的容量。種類(lèi)上,從農(nóng)業(yè)生產(chǎn)到餐飲再到醫(yī)療保健,任何行業(yè)都會(huì)產(chǎn)生越來(lái)越多的數(shù)據(jù)。速度上,數(shù)據(jù)的產(chǎn)生更是以指數(shù)級(jí)增長(zhǎng),數(shù)據(jù)的產(chǎn)生和更新不斷加速。我們可以推知,數(shù)據(jù)的更迭會(huì)加速,就像人類(lèi)的發(fā)展一樣。假如把幾百萬(wàn)的歷史比作一小時(shí),那么人類(lèi)的輝煌卻產(chǎn)生在最后幾分鐘。不得不驚嘆,信息、技術(shù)和數(shù)據(jù)的變化遠(yuǎn)遠(yuǎn)超出了人類(lèi)。以百度為例,它有一個(gè)全國(guó)遷徙動(dòng)態(tài)地圖,隨時(shí)可從網(wǎng)上看到人們遷入和遷出的省份和城市。通過(guò)人們的手機(jī)搜索記錄,百度可知道人們現(xiàn)在的位置和要去的地方。所有的數(shù)據(jù)經(jīng)過(guò)收集和匯總,就能變成有價(jià)值的東西了。
大數(shù)據(jù)到底會(huì)如何進(jìn)化?這是值得讓人深思的。原始的數(shù)據(jù)就是一些簡(jiǎn)單的數(shù)值、記號(hào)等,通過(guò)大量的收集相關(guān)數(shù)據(jù),并進(jìn)而分類(lèi),原始的數(shù)據(jù)就變成對(duì)人們有用的信息了。再通過(guò)對(duì)信息進(jìn)行整理、賦予內(nèi)涵,發(fā)現(xiàn)其中的規(guī)律性,就變成一種有用的知識(shí)了。有用的知識(shí)能夠?yàn)闉槿藗兲峁┮环N行動(dòng)方案,這樣知識(shí)就成為知性的。由此,我們可見(jiàn)一條清晰的數(shù)據(jù)生存進(jìn)化之路:“數(shù)據(jù)——信息——知識(shí)——知性”。如果說(shuō),以前,世界的原始動(dòng)力是上帝,那么,21世紀(jì),驅(qū)動(dòng)世界運(yùn)轉(zhuǎn)就是數(shù)據(jù)了。
數(shù)據(jù)分析咨詢(xún)請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過(guò)程中,“損失曲線(xiàn)” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類(lèi)核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對(duì)數(shù)據(jù)的需求已從 “存儲(chǔ)” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語(yǔ)言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢(xún)效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開(kāi)的話(huà)題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開(kāi)始提取前,需先判斷 TIF 文件的類(lèi)型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專(zhuān)業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專(zhuān)業(yè)操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開(kāi)發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶(hù)體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷(xiāo)案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見(jiàn)頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷(xiāo)成為企業(yè)突圍的核心方 ...
2025-09-11