
大數(shù)據(jù)時代:從預(yù)言走向現(xiàn)實(shí)_數(shù)據(jù)分析師
其實(shí)早在1980年,未來學(xué)家阿爾文·托夫勒就在書中把大數(shù)據(jù)熱情贊頌為“第三次科技浪潮的華彩樂章”。
“預(yù)測”是大數(shù)據(jù)的力量核心
2008年,英國《自然》雜志首先提出了大數(shù)據(jù)概念。然而,什么是大數(shù)據(jù),依然眾說紛紜。目前比較流行的大數(shù)據(jù)特性被歸納為4個V,即Volume,Variety,Value,Velocity,分別對應(yīng):數(shù)據(jù)體量巨大;數(shù)據(jù)類型繁多;數(shù)據(jù)本身有潛在的價值,但價值比較分散;數(shù)據(jù)高速產(chǎn)生,需高速處理。
雖然目前對大數(shù)據(jù)還沒有一個共識性的定義,但它已然在改變我們的生存方式。
“大數(shù)據(jù)的核心就是預(yù)測,不是要教機(jī)器像人一樣思考,而是要把數(shù)學(xué)計算運(yùn)用到海量數(shù)據(jù)上,來預(yù)測事情發(fā)生的可能性”,被稱為“大數(shù)據(jù)時代預(yù)言家”的牛津大學(xué)網(wǎng)絡(luò)學(xué)院互聯(lián)網(wǎng)研究所治理與管理專業(yè)教授維克托·邁爾-舍恩伯格說。
預(yù)測,作為大數(shù)據(jù)的力量核心,早已被多次證明。
微軟公司全球常務(wù)副總裁布拉德·史密斯曾介紹說,微軟生產(chǎn)的一款數(shù)據(jù)驅(qū)動軟件,通過跟蹤取暖器、空調(diào)、風(fēng)扇以及燈光等積累下來的超大量數(shù)據(jù),便可知道如何杜絕能源浪費(fèi),“可以為世界節(jié)約40%的能源。”與之類似的,谷歌公司也通過對搜索關(guān)鍵詞進(jìn)行分析,比政府檢測部門提早兩周預(yù)測到禽流感散布,提供預(yù)警服務(wù)。
美劇《超感警探》中的心理專家只能依靠神奇的特異功能破獲毫無頭緒的案件。而現(xiàn)實(shí)中,洛杉磯警察已經(jīng)可以通過犯罪預(yù)測軟件的使用,計算出某地發(fā)生犯罪的概率、犯罪類型,以及最有可能犯罪的時間段,使洛杉磯山麓地區(qū)的盜竊案減少25%。
“大數(shù)據(jù)的出現(xiàn),使得通過數(shù)據(jù)分析獲得知識、商機(jī)和社會服務(wù)的能力,從以往局限于學(xué)術(shù)精英圈子擴(kuò)大到了普通的機(jī)構(gòu)、企業(yè)和政府部門?!盜T評論人謝文這樣評價大數(shù)據(jù)帶來的變化。
“大數(shù)據(jù)開啟了一個重大的時代轉(zhuǎn)型。就像望遠(yuǎn)鏡讓我們感受宇宙,顯微鏡讓我們能夠觀測到微生物一樣,大數(shù)據(jù)正在改變我們的生活以及理解世界的方式,成為新發(fā)明和新服務(wù)的源泉,而更多的改變正蓄勢待發(fā)”,維克托·邁爾-舍恩伯格預(yù)言,圍繞大數(shù)據(jù)的商業(yè)價值開發(fā)和利用,將成為行業(yè)人士爭相追捧的焦點(diǎn)。
多個領(lǐng)域試水大數(shù)據(jù)
“與國外相比,我國的大數(shù)據(jù)在產(chǎn)業(yè)覺醒、產(chǎn)業(yè)創(chuàng)新和投資等方面大約存在一年半的差距,主要體現(xiàn)在國外的基礎(chǔ)設(shè)施硬技術(shù)創(chuàng)新方面明顯超過我國。國內(nèi)目前多集中在泡沫較多的垂直應(yīng)用領(lǐng)域,但是這個差距并不可怕,基本上可以說還處在同一起跑線上?!薄洞髷?shù)據(jù)時代》譯者、電子科技大學(xué)互聯(lián)網(wǎng)科學(xué)中心主任周濤認(rèn)為。
近年來,國內(nèi)很多基于大數(shù)據(jù)技術(shù)的科技企業(yè)誕生,為互聯(lián)網(wǎng)行業(yè)甚至傳統(tǒng)行業(yè)帶來了新氣息。
2009年,蘇萌和朋友合伙成立了北京百分點(diǎn)信息科技有限公司,成為國內(nèi)最早從事第三方數(shù)據(jù)提供和分析的企業(yè)之一。他們通過分析客戶的消費(fèi)偏好,為企業(yè)提供精準(zhǔn)的營銷服務(wù),“我們實(shí)際是在為網(wǎng)絡(luò)上每個匿名的ID‘畫像’。通過多個維度分析,顧客偏好和特征逐漸清晰?!碧K萌介紹,當(dāng)顧客登錄凡客或者1號店時,機(jī)器會根據(jù)數(shù)據(jù)進(jìn)行分析,就像一位懂得讀心術(shù)的導(dǎo)購,能預(yù)測到顧客最有可能對哪件或者哪類商品感興趣。
除了像“百分點(diǎn)”這樣從事第三方數(shù)據(jù)提供的公司,很多大型互聯(lián)網(wǎng)公司早已通過挖掘自身數(shù)據(jù)資源,為己所用。同時,一些高校也開始試水大數(shù)據(jù)。如華東師范大學(xué)云計算與大數(shù)據(jù)科學(xué)與工程研究院的建立,“通過開展大數(shù)據(jù)相關(guān)的基礎(chǔ)和應(yīng)用研究,集聚和造就一批大數(shù)據(jù)研究創(chuàng)新團(tuán)隊,培養(yǎng)一批具備大數(shù)據(jù)思維方式和分析能力的創(chuàng)新型人才?!比A東師范大學(xué)副校長朱自強(qiáng)說。
近年來,國家也積極布局大數(shù)據(jù)。2011年,工信部發(fā)布物聯(lián)網(wǎng)“十二五”規(guī)劃,把信息處理技術(shù)作為4項(xiàng)關(guān)鍵技術(shù)創(chuàng)新工程之一,其中包括海量數(shù)據(jù)存儲、數(shù)據(jù)挖掘、圖像視頻智能分析,都是大數(shù)據(jù)的重要組成部分。我國還把基于物聯(lián)網(wǎng)、云計算等新一代信息技術(shù)的智慧城市建設(shè)搬上日程。目前,我國智慧城市試點(diǎn)已達(dá)193個,將在智慧交通、醫(yī)療、家居等方面與大數(shù)據(jù)建立聯(lián)系。
“互聯(lián)網(wǎng)大數(shù)據(jù)是和公眾最接近的大數(shù)據(jù)應(yīng)用,但在科學(xué)研究、企業(yè)和政府決策、金融等領(lǐng)域的大數(shù)據(jù)應(yīng)用對我們生活的影響力可能會更大。對有些行業(yè),數(shù)據(jù)的利用可能會顛覆原有的采購、生產(chǎn)、銷售等決策流程?!比A東師范大學(xué)軟件學(xué)院教授錢衛(wèi)寧認(rèn)為。
增加用戶隱私泄露的風(fēng)險
有一個經(jīng)典案例被從事大數(shù)據(jù)的人常常提到。
一位生活在美國的父親怒氣沖沖地跑到一家超市與經(jīng)理大吵,原因是只有15歲的女兒購物后,回家發(fā)現(xiàn)商品中被加入了很多針對嬰兒孕婦商品的廣告。
兩周后,父親向經(jīng)理道歉,這時他才知道自己女兒已經(jīng)懷孕近兩個月,父女都不知道,可是數(shù)據(jù)分析公司已經(jīng)根據(jù)她女兒近期的網(wǎng)絡(luò)數(shù)據(jù)預(yù)測到,接著把數(shù)據(jù)推送給超市,告訴他們可能有一個已經(jīng)懷孕的顧客正在購物。
還有一個離我們比較近的例子。華東師大數(shù)據(jù)中心的預(yù)警系統(tǒng)模塊之一,餐飲預(yù)警系統(tǒng)可以對學(xué)生的餐飲消費(fèi)數(shù)據(jù)進(jìn)行統(tǒng)計分析,發(fā)現(xiàn)低于警戒值就會發(fā)出短信慰問,確定學(xué)生是否有經(jīng)濟(jì)困難。
這就是大數(shù)據(jù)洞察人的方式。在體會到大數(shù)據(jù)神奇力量的同時,也讓很多人對自身數(shù)據(jù)安全而擔(dān)憂。
“大量數(shù)據(jù)的匯集不可避免地加大了用戶隱私泄露的風(fēng)險。一方面,數(shù)據(jù)集中存儲增加了泄露風(fēng)險,也成為人身安全的一部分;另一方面,一些敏感數(shù)據(jù)的所有權(quán)和使用權(quán)并沒有明確界定,很多基于大數(shù)據(jù)的分析都未考慮到其中涉及的個體隱私問題?!惫I(yè)和信息化部賽迪智庫的馮偉在刊載于媒體的署名文章中指出。
對一般用戶的擔(dān)憂,周濤卻認(rèn)為,普通用戶如果要真正融入大數(shù)據(jù)時代,享受個性化專屬信息服務(wù),不得不犧牲一部分個人隱私。
“政府和業(yè)界需要做的,是設(shè)計非??量虈?yán)格的法律條例和行業(yè)規(guī)則,全力打擊那些除了提供非侵入性的或用戶同意的服務(wù)外,以傷害用戶的方式利用用戶隱私牟利的企業(yè)。通過提高對侵害用戶隱私行為的懲罰力度,使得這種行為本身變得得不償失?!敝軡J(rèn)為這才是根本保護(hù)治理數(shù)據(jù)安全的辦法。
“大數(shù)據(jù)對技術(shù)和應(yīng)用所帶來的挑戰(zhàn)是全方位的?!卞X衛(wèi)寧認(rèn)為,“數(shù)據(jù)資產(chǎn)化后,數(shù)據(jù)監(jiān)護(hù)將成為一個新的核心問題,是對數(shù)據(jù)的產(chǎn)生、收集、保存、維護(hù)、處理、利用的整個生命周期的管理。數(shù)據(jù)安全與隱私保護(hù)也是數(shù)據(jù)監(jiān)護(hù)的一個方面。有效的數(shù)據(jù)監(jiān)護(hù)和服務(wù)模型是大數(shù)據(jù)從一系列的問題走向成功應(yīng)用的關(guān)鍵?!?/span>
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
AI 浪潮下的生存與進(jìn)階: CDA數(shù)據(jù)分析師—開啟新時代職業(yè)生涯的鑰匙(深度研究報告、發(fā)展指導(dǎo)白皮書) 發(fā)布機(jī)構(gòu):CDA數(shù)據(jù)科 ...
2025-07-13LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04