
從數(shù)據(jù)到知性 大數(shù)據(jù)的生存進化之路
這幾年,大數(shù)據(jù)突然成了商業(yè)社會上的弄潮兒。似乎,一夜之間,大數(shù)據(jù)就像明星一樣紅遍大江南北。以前,只有在數(shù)學、統(tǒng)計、計算機等專業(yè)領域談到的數(shù)據(jù),現(xiàn)在已經(jīng)“飛入尋常百姓家”。大數(shù)據(jù)的各種應用、研究與實踐紛紛出現(xiàn),名之為大數(shù)據(jù)的公司也是雨后春筍般涌現(xiàn)。不過,對于普通人而言,用具體的例子可以更好地解釋它。
數(shù)據(jù)是信息的表達,它的出現(xiàn)甚至比人更為久遠。在“宇宙大爆炸”的研究過程中,美國物理學家伽莫夫于1946年正式提出大爆炸理論,認為宇宙由大約140億年前發(fā)生的一次大爆炸形成。后來,哈勃通過望遠鏡觀測到“紅移現(xiàn)象”——就是星系正在遠離我們,表明宇宙正在膨脹。通過測量光譜中的特征譜線的位置,可以推算出其以前的位置。由此,我們可以推算出宇宙的大致年齡。宇宙中的每個物體都帶有信息,而信息會通過數(shù)據(jù)來表達。人類的智慧在于可以通過收集數(shù)據(jù)去認識一切。假如數(shù)據(jù)在宇宙誕生時就隨之出現(xiàn),那么毫無疑問它的“年齡”比人類大得多。
《在科技想要什么》里,美國科技哲學家凱文·凱利就提出了“科技也是有生命力的”的觀點。他認為,傳統(tǒng)上,人們只把植物、動物、原生生物、真菌、原細菌、真細菌稱為生命。如果重新審視“生命”,那么科技或者技術可被稱為“第七種生命元素”。原因在于技術是生命的延伸,它的演進與生命的進化及其相似。那么依照這樣的觀點,我們完全可以把數(shù)據(jù)稱為“第八種生命元素”。人每時每刻都會散發(fā)出信息,比如你的身體、你的行為甚至你的思想。通過工具,我們可以記錄下你每時每刻的呼吸、心跳等許多身體數(shù)據(jù),甚至連行為、思想也可以通過一些方法測量出來。在《智慧社會》里,美國的全球大數(shù)據(jù)權威阿萊克斯·彭特蘭通過社會計量標牌來測量人們的行為。這個設備僅有卡片大小,配備了測量佩戴者運動的傳感器、捕捉聲音的麥克風、檢測附近同類設備的藍牙,以及記錄面對面交流的紅外線傳感器。這個東西功能異常強大,比如在打撲克時,這款設備10次有7次可以很準確地判斷某人是否作弊;佩戴設備的人能夠在5分鐘內(nèi)預測談判中的贏家。
以前限于技術和發(fā)展程度的限制,人們對數(shù)據(jù)并不重視,也沒有認識到數(shù)據(jù)的價值。但是現(xiàn)在通過技術手段,我們完全可以收集人類的一切數(shù)據(jù),并對數(shù)據(jù)進行整理、分析和總結,從中發(fā)現(xiàn)驅(qū)使人類行為的背后因素。也就是說,我們可以通過數(shù)據(jù)來觀察人類。
舉一個例子,就是谷歌流感搜索與預測系統(tǒng)。2009年出現(xiàn)了一種新的流感病毒——H1N1,迅速席卷全球。因為它結合了禽流感與豬流感的特點,傳染力很強,破壞力極大。更糟糕的是,目前還沒有對抗這種病毒的疫苗。美國政府要求醫(yī)生在發(fā)現(xiàn)新型流感病例時要及時告知疾控預防中心。然而從人們發(fā)現(xiàn)自己患病到醫(yī)院再到疾控中心,時間會拉長,然而短短的時間新型流感可能已經(jīng)爆發(fā)。這對政府、社會和國家來說,將會帶來巨大的損失。但是,谷歌卻比政府做得更好。谷歌公司把5000萬條美國人最頻繁檢索的詞條和美國疾控中心在2003年至2008年間季節(jié)性流感傳播時期的數(shù)據(jù)進行了比較,他們希望通過人們的搜索記錄來判斷這些人是否患上了流感。他們的預測結果和官方數(shù)據(jù)的相關性達到97%。因此,2009年流感爆發(fā)的時候,谷歌成了一個很有效、很及時的指示標。
Google的流感搜索與預測系統(tǒng)
現(xiàn)在,不管是企業(yè)還是公司,手里都有巨量的數(shù)據(jù)。用于企業(yè),海量的數(shù)據(jù)是企業(yè)未來的寶藏;用于社會,海量的數(shù)據(jù)可以為人們提供更好的生活和公共服務。以美國為例,在2014年,美國國稅局通過一個名為“Get transcript”的工具將納稅人的信息數(shù)據(jù)加以共享,納稅人可以通過它獲得他們自己最近三年的納稅記錄。個人納稅者可以借此下載過去的納稅申報單,這使得居民進行抵押、學生貸款、商務貸款等活動與填寫納稅表變得更加便捷。
如今,大數(shù)據(jù)相比以前的簡單數(shù)據(jù),有三個特點:數(shù)量大、種類多、速度快。數(shù)量上,2011年新生成的和復制的信息量估計超過了1.8ZB(澤字節(jié));而在2013年這一數(shù)字估計超過4ZB。要知道,1ZB等于1021 個字節(jié),相當于存儲323兆份列夫·托爾斯泰所著的1250頁的《戰(zhàn)爭與和平》所需的容量。種類上,從農(nóng)業(yè)生產(chǎn)到餐飲再到醫(yī)療保健,任何行業(yè)都會產(chǎn)生越來越多的數(shù)據(jù)。速度上,數(shù)據(jù)的產(chǎn)生更是以指數(shù)級增長,數(shù)據(jù)的產(chǎn)生和更新不斷加速。我們可以推知,數(shù)據(jù)的更迭會加速,就像人類的發(fā)展一樣。假如把幾百萬的歷史比作一小時,那么人類的輝煌卻產(chǎn)生在最后幾分鐘。不得不驚嘆,信息、技術和數(shù)據(jù)的變化遠遠超出了人類。以百度為例,它有一個全國遷徙動態(tài)地圖,隨時可從網(wǎng)上看到人們遷入和遷出的省份和城市。通過人們的手機搜索記錄,百度可知道人們現(xiàn)在的位置和要去的地方。所有的數(shù)據(jù)經(jīng)過收集和匯總,就能變成有價值的東西了。
百度的全國遷徙圖
北京地區(qū)人們的通勤圖
大數(shù)據(jù)到底會如何進化?這是值得讓人深思的。原始的數(shù)據(jù)就是一些簡單的數(shù)值、記號等,通過大量的收集相關數(shù)據(jù),并進而分類,原始的數(shù)據(jù)就變成對人們有用的信息了。再通過對信息進行整理、賦予內(nèi)涵,發(fā)現(xiàn)其中的規(guī)律性,就變成一種有用的知識了。有用的知識能夠為為人們提供一種行動方案,這樣知識就成為知性的。由此,我們可見一條清晰的數(shù)據(jù)生存進化之路:“數(shù)據(jù)——信息——知識——知性”。如果說,以前,世界的原始動力是上帝,那么,21世紀,驅(qū)動世界運轉(zhuǎn)就是數(shù)據(jù)了。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結構數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結構數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內(nèi)涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結構數(shù)據(jù)特征價值的專業(yè)核心 表結構數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結構化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數(shù)據(jù)分析與統(tǒng)計學領域,假設檢驗是驗證研究假設、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結構數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結構數(shù)據(jù)(以 “行 - 列” 存儲的結構化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結構數(shù)據(jù)價值的核心操盤手 表格結構數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數(shù)據(jù)把關的實戰(zhàn)指南 在業(yè)務系統(tǒng)落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10