
閃迪亞太區(qū)企業(yè)業(yè)務(wù)副總裁張子西:大數(shù)據(jù)悖論
大數(shù)據(jù)將對(duì)科學(xué)研究、制造業(yè)以及影響我們?nèi)粘I畹母鞣N活動(dòng)產(chǎn)生深遠(yuǎn)的影響,但前提是我們要能夠趕上它的發(fā)展。
我將這稱為“大數(shù)據(jù)悖論”。一方面,Hadoop 等新的軟件技術(shù)以及預(yù)測(cè)分析為我們鋪平了道路,幫助我們應(yīng)對(duì)以往被認(rèn)為太復(fù)雜或是難以解決的難題。以吉林省為例,數(shù)據(jù)分析被用來(lái)緩解交通擁堵。如果成功的話,這將幫助緩解亞洲及非洲各國(guó)的擁堵與污染。
另一方面,我們需要借助新的硬件、軟件、網(wǎng)絡(luò)和數(shù)據(jù)中心設(shè)計(jì)來(lái)處理和充分分析所產(chǎn)生的龐大數(shù)據(jù)量。簡(jiǎn)而言之,我們目前產(chǎn)生的數(shù)據(jù)量遠(yuǎn)超過(guò)傳統(tǒng)方法所能處理的范圍。超大規(guī)模數(shù)據(jù)中心、軟件定義網(wǎng)絡(luò)以及全新存儲(chǔ)技術(shù)代表了今后十年驚人創(chuàng)新周期的前期階段。
以旨在通過(guò)繪制人類基因圖譜來(lái)提升衛(wèi)生保健的探索為例。全球最大的基因組學(xué)研究機(jī)構(gòu)深圳華大基因研究院 (BGI) 可以在兩小時(shí)內(nèi)繪制出一個(gè)人的基因圖譜。但是,單個(gè)人的基因圖譜需要大約 200GB 存儲(chǔ)空間。對(duì)一百萬(wàn)個(gè)人類基因圖譜進(jìn)行測(cè)序——這一目標(biāo)由眾多研究機(jī)構(gòu)提出且該數(shù)量可以讓科學(xué)家深入開展對(duì)比分析——?jiǎng)t需要近 200 PB 的數(shù)據(jù)空間,相當(dāng)于 Facebook 一年上傳的數(shù)據(jù)總量。
而這僅僅是原始數(shù)據(jù)。經(jīng)深入分析后產(chǎn)生的數(shù)據(jù)集將需要更加精細(xì)的計(jì)算和存儲(chǔ)系統(tǒng),以便研究人員能夠在數(shù)天或數(shù)月內(nèi)著手對(duì)特定的假說(shuō)的驗(yàn)證,而不必等到若干年之后。
《GigaScience》執(zhí)行編輯 Scott Edmunds 表示:“對(duì)于很多項(xiàng)目而言,他們(研究人員)生成的數(shù)據(jù)遠(yuǎn)遠(yuǎn)超出他們能夠操縱的范圍。”《GigaScience》是 BGI 與出版商 BioMedCentral 近期合作發(fā)行的一本開放式數(shù)據(jù)期刊。
或者以攝像機(jī)為例。在中國(guó),很多城市正在考察在公共空間使用超高清或 4K 技術(shù)的方法,以便更好地了解人們對(duì)建筑和空間的使用,同時(shí)提高安全性。4K 的分辨率遠(yuǎn)遠(yuǎn)高于閉路電視目前捕捉的模糊畫面。
但是,4K 也需要龐大的存儲(chǔ)空間。一分鐘的 4K 視頻需要占用大約 5.3 GB 空間。7,000 臺(tái)閉路電視攝像機(jī)會(huì)生成 52 PB 的數(shù)據(jù)。52 PB 有多大?52 PB 的 MP3 音樂(lè)需要十萬(wàn)年才能播放完。
為了處理如此規(guī)模與速率的數(shù)據(jù)流,我們必須徹底地重新思考服務(wù)器、數(shù)據(jù)中心和存儲(chǔ)系統(tǒng)。如今,在許多數(shù)據(jù)中心,用于生產(chǎn)的電腦計(jì)算資源使用率不到 50%,因?yàn)閿?shù)據(jù)傳輸至處理器的速度跟不上。基于硬盤驅(qū)動(dòng)器的傳統(tǒng)存儲(chǔ)解決方案可以儲(chǔ)存大量的數(shù)據(jù),但在速度方面表現(xiàn)不佳,導(dǎo)致浪費(fèi)與低效。等待時(shí)間,即硬盤驅(qū)動(dòng)系統(tǒng)最終將數(shù)據(jù)傳輸至處理器所花的時(shí)間,可能會(huì)導(dǎo)致公司因?yàn)樘幚砭徛斐蓴?shù)百萬(wàn)甚至數(shù)十億美元的業(yè)務(wù)損失。
硬盤驅(qū)動(dòng)器還會(huì)占用相當(dāng)一部分的電力。每個(gè)硬盤驅(qū)動(dòng)器都帶有一個(gè)內(nèi)部電機(jī)。這些電機(jī)不僅會(huì)消耗電能,還會(huì)產(chǎn)生熱量,而這會(huì)導(dǎo)致對(duì)散熱裝置需求的提高,最終促使耗電量上升。但是我們不能僅僅因?yàn)闆]有足夠的電能就放棄創(chuàng)新。固態(tài)技術(shù)(或稱“閃存”)可使計(jì)算密度提升 5 倍,電力消耗降低 80%,可靠性提升 4 倍,性能提升最多達(dá) 50 倍。通過(guò)提高速度和性能,同時(shí)降低能耗,固態(tài)技術(shù)為今后的進(jìn)一步發(fā)展開辟了路徑。
大數(shù)據(jù)的確是我們這個(gè)時(shí)代的一大神奇概念。它讓我們能夠?qū)χ車氖澜绠a(chǎn)生更深刻的洞悉與理解,從而推動(dòng)我們建設(shè)更加美好的社會(huì)。很多人預(yù)測(cè)中國(guó)到 2025 年將有 221 座城市的人口超過(guò) 100 萬(wàn):做出這一預(yù)測(cè)需要進(jìn)行細(xì)致的規(guī)劃、洞察,同時(shí)還要具備分享信息并詳盡地考察這些信息的能力。
但是,要打造出能夠幫助我們以簡(jiǎn)潔、經(jīng)濟(jì)、可靠及環(huán)保的方式運(yùn)用這些大數(shù)據(jù)的解決方案,研究人員還需要在背后付出巨大的努力。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過(guò)程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對(duì)數(shù)據(jù)的需求已從 “存儲(chǔ)” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語(yǔ)言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11