
大數(shù)據(jù):一個未知的“方程式”_數(shù)據(jù)分析師
互聯(lián)網(wǎng)時代,各種熱詞、概念滿天飛。說到大數(shù)據(jù),許多人搞不太懂,甚至有人直斥“大數(shù)據(jù)=大忽悠”。大數(shù)據(jù)到底是什么,產(chǎn)業(yè)現(xiàn)狀和創(chuàng)業(yè)機(jī)會怎樣?
去年底宣布的一個事情,將對未來有深遠(yuǎn)影響,現(xiàn)在大家還沒意識到。2013年11月19日,國家統(tǒng)計局與11家國內(nèi)企業(yè)簽署戰(zhàn)略合作框架協(xié)議,合作內(nèi)容涉及大數(shù)據(jù)應(yīng)用統(tǒng)計標(biāo)準(zhǔn),以及企業(yè)數(shù)據(jù)補(bǔ)充政府統(tǒng)計數(shù)據(jù)等領(lǐng)域。有分析稱,在大數(shù)據(jù)國家戰(zhàn)略日益強(qiáng)烈的情況下,統(tǒng)計局介入將進(jìn)一步推動大數(shù)據(jù)的應(yīng)用落地。
大數(shù)據(jù)絕對不是忽悠,它是當(dāng)下IT領(lǐng)域最時髦的詞,簡單說就是從各種數(shù)據(jù)中快速獲取價值信息的能力。美國是最早發(fā)現(xiàn)和使用大數(shù)據(jù)科學(xué)價值的國家。2012年3月,奧巴馬政府宣布投資2億美元拉動大數(shù)據(jù)相關(guān)產(chǎn)業(yè)發(fā)展,將“大數(shù)據(jù)戰(zhàn)略”上升為國家戰(zhàn)略,奧巴馬政府甚至將大數(shù)據(jù)定義為“未來的新石油”。當(dāng)時美國政府聲明說通過提高美國從大型復(fù)雜的數(shù)據(jù)集中提取知識和管理的能力,來加強(qiáng)整個國家的競爭力,這被認(rèn)為是跟互聯(lián)網(wǎng)同一個級別的時代。顯然,大數(shù)據(jù)不止是一個詞匯,更是一門技術(shù),是一個產(chǎn)業(yè)時代。
而中國作為世界上人口最多、GDP排名第二的國家,成立大數(shù)據(jù)國家隊(duì)是非常及時的。大數(shù)據(jù)的精髓在于“大”,它不是抽樣而是全樣,它不是盲人摸到的象腿或者是象鼻子,而是整個大象本身,大數(shù)據(jù)的精妙處在于用的人越多越增持,通過這樣一個模糊的宏觀判斷,能夠完成一個精準(zhǔn)的個體推薦,從而會讓整個生產(chǎn)效率得到極大提高。
不開放大數(shù)據(jù),周邊創(chuàng)業(yè)是無米之炊目前我國大數(shù)據(jù)應(yīng)用還存在一些問題。首先,大數(shù)據(jù)不是IT公司的專利。第一批國家統(tǒng)計局引入的戰(zhàn)略合作伙伴,大多數(shù)還是聚焦在IT公司,其實(shí)不是只有IT公司才有大數(shù)據(jù),如線下零售巨頭企業(yè)在實(shí)體經(jīng)濟(jì)中積累了很大的數(shù)據(jù)資源,他們數(shù)據(jù)的深度和廣度不亞于甚至超過互聯(lián)網(wǎng)公司。第一批進(jìn)入的合作伙伴之一上海鋼聯(lián)其實(shí)掌握了煤炭鋼鐵在內(nèi)的大宗商品數(shù)據(jù),這是國家統(tǒng)計局沒有涉及到的。因此,非IT類公司、擁有巨大的業(yè)務(wù)形態(tài)的企業(yè),都可以成為第二批國家統(tǒng)計局大數(shù)據(jù)合作伙伴。我們也看到,國家統(tǒng)計局作為國家法定職能部門把姿態(tài)放平,主動尋求和民營企業(yè)的合作,這是非??上驳倪M(jìn)步。
第二,擁有大數(shù)據(jù)的IT公司和非IT公司應(yīng)該打破數(shù)據(jù)格局。我們看BAT(百度、阿里、騰訊),近期圍繞微信和淘寶發(fā)生新一輪互相屏蔽,在早前百度和淘寶進(jìn)行了屏蔽,這三家掌握搜索、消費(fèi)和社交的數(shù)據(jù),本來是三方的數(shù)據(jù)匯總才能拼湊出比較完整的網(wǎng)上信息圖譜,但是三家公司為了彼此的商業(yè)利益,并沒有體現(xiàn)出數(shù)據(jù)合作的意愿,而是互相封殺,這將給社會數(shù)據(jù)的流動帶來傷害。因此,在保證一定商業(yè)利益的基礎(chǔ)上,巨頭的眼光應(yīng)該放遠(yuǎn)一點(diǎn),打破數(shù)據(jù)割據(jù)。這看起來是一個很難實(shí)現(xiàn)的烏托邦。不過任何美好的事情都需要烏托邦的愿景作為起步的。我們看到許多美好的事情,比如說互聯(lián)網(wǎng),全世界的人通過互聯(lián)網(wǎng)聯(lián)結(jié)在一起,開始大家覺得烏托邦,現(xiàn)在已經(jīng)形成現(xiàn)實(shí)。
第三,應(yīng)該呼吁政府相關(guān)部門進(jìn)一步開放市場。因?yàn)閲@大數(shù)據(jù)不管是應(yīng)用還是創(chuàng)業(yè),最核心的是要有數(shù)據(jù)的源頭,然后才能進(jìn)行采集、編輯,重新編制。據(jù)報道,現(xiàn)在大量的關(guān)于國民經(jīng)濟(jì)或者說民生的數(shù)據(jù)其實(shí)還在封閉狀態(tài),在工商部門、銀行、保險、公安、醫(yī)院、社保,包括電信運(yùn)營商機(jī)構(gòu)的手里。如何讓這些數(shù)據(jù)流動起來,能讓大家更方便,其實(shí)應(yīng)該由政府帶頭實(shí)現(xiàn)等級制數(shù)據(jù)的開放共享。在不違反保密或者是國防的情況下,如果不開放大數(shù)據(jù),那么相關(guān)研究和創(chuàng)業(yè)都是無米之炊。所以還是應(yīng)該抓住這個機(jī)遇,進(jìn)一步開放市場,不斷試點(diǎn),一步一步把數(shù)據(jù)開放轉(zhuǎn)起來,帶來更多的應(yīng)用價值。
隱私保護(hù)與數(shù)據(jù)精準(zhǔn)之間的平衡數(shù)據(jù)應(yīng)該共融共通,還要開放市場。這個開放市場不僅僅是企業(yè)之間開放,企業(yè)對個人也要開放。為什么現(xiàn)在開放變得這么謹(jǐn)慎?因?yàn)殚_放有風(fēng)險,一是安全問題,二是倫理問題。已經(jīng)有專家指出,安全問題是對于國防、軍事以及整個經(jīng)濟(jì)信息的保密顧慮而言;倫理問題是從個體角度而言,即網(wǎng)民的隱私?!洞髷?shù)據(jù)》作者曾經(jīng)說過,在一個有組織的社會里,幾乎每一則信息都在不同的時候,以不同的形式公開過。就公民而言,他的信息一次性在網(wǎng)上公開,和第一種情況有本質(zhì)區(qū)別。
大數(shù)據(jù)平臺在提供服務(wù)的同時,也在時刻收集用戶的各種消費(fèi)習(xí)慣、瀏覽習(xí)慣甚至生活習(xí)慣。如何保護(hù)用戶的隱私成了大數(shù)據(jù)時代發(fā)展過程中不可回避的問題。因此,大數(shù)據(jù)的應(yīng)用價值在于個人隱私保護(hù)與數(shù)據(jù)精準(zhǔn)之間的平衡。要真正做到大數(shù)據(jù)的開放,還需要很長的路走。大數(shù)據(jù)會成為互聯(lián)網(wǎng)之后,人類又一個技術(shù)烏托邦。大數(shù)據(jù)的啟動跟互聯(lián)網(wǎng)有著相同的邏輯,一開始大家談,不知道怎么做,會有一輪甚至幾輪比較明顯的產(chǎn)業(yè)泡沫,但是隨著那些看似烏托邦的愿景,一個技術(shù)、一個嘗試的創(chuàng)業(yè)公司的進(jìn)入,會一步一步變成現(xiàn)實(shí)。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對數(shù)據(jù)的需求已從 “存儲” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11