
白話大數(shù)據(jù),幾分鐘看懂什么是大數(shù)據(jù)
這個時代,你在外面混,無論是技術(shù)還是產(chǎn)品還是運營還是商務(wù),如果嘴里說不出“大數(shù)據(jù)”“云存儲”“云計算”,真不好意思在同行面前抬頭。但是,到底什么才是大數(shù)據(jù)?是Hadoop那頭玩具小象?是千萬級別的用戶信息還是動輒XXXTB的數(shù)據(jù)量?
其實,大數(shù)據(jù)不是一門技術(shù),而是一種技能,從數(shù)據(jù)中去發(fā)現(xiàn)價值挖掘價值的技能。
一.大數(shù)據(jù)的四大誤區(qū)
01大數(shù)據(jù)就是數(shù)據(jù)大
“光大是不夠的!”當(dāng)我擲地有聲用這句話開場時,正好一個妹子推門而入,聽到這句話,微微一怔,低頭坐下。
如今在很多場合,一提起大數(shù)據(jù),基本都會說“日處理數(shù)據(jù)量XXGB,上傳圖片XXGB,并發(fā)數(shù)XXX”“Hadoop集群擁有XXXX節(jié)點,總存儲XXPB”……諸如此類的技術(shù)語言。但是不是數(shù)據(jù)大了,就可以達(dá)到大數(shù)據(jù)的境界,可以一起達(dá)到人生的大和諧了?
數(shù)據(jù)再大,不去使用,呆在機(jī)房里偏安一隅,那絕不是大數(shù)據(jù),而是敗家子。在這個問題上,傳統(tǒng)的門戶網(wǎng)站基本上就屬于坐擁金山卻無錢上青樓。無論搜狐新浪網(wǎng)易,每天的用戶數(shù)以億計,但是除了簡單的廣告呈現(xiàn),并沒有通過對數(shù)據(jù)的分析產(chǎn)生更多的價值。之所以沒有提企鵝,是因為他們手里有最龐大的QQ用戶,沒推廣但不代表沒有做,例如當(dāng)年推出QQ圈子的那種驚艷感,現(xiàn)在想起來還觸目驚心。
而對于中小網(wǎng)站來說,不用盲目追求先進(jìn)技術(shù)牛逼架構(gòu)。首先需考慮的是商業(yè)運作和推廣,只有用戶量飆升見紅的情況下,再去考慮技術(shù)升級。給君一個雙選題,A.日登陸用戶1000人,架構(gòu)完全參照美國亞馬遜從不宕機(jī),B.日登陸用戶10萬人,每天因為高并發(fā)不得不宕機(jī)三次。你會選什么?
你不覺得“我那個網(wǎng)站因為用戶太多太熱情又宕機(jī)了”這句話又驕傲又裝逼么?
02懂大數(shù)據(jù)就必須要懂技術(shù)
“我不懂技術(shù),我能學(xué)會大數(shù)據(jù)嗎?”
大數(shù)據(jù)更多的是一種能力,而非技能,這種能力能從無盡的數(shù)據(jù)里看出商機(jī)看出價值。諸葛亮懂兵法,他知道該在哪里伏兵該在哪里生火,他不必知道關(guān)羽是如何耍大刀,也不必知道張飛殺人時,蛇矛是扎還是砍。
03所有公司都必須懂大數(shù)據(jù)
我承認(rèn)如果賣煎餅果子的大媽能開發(fā)一個APP,拿到客戶對煎餅里薄脆是否爽口,辣椒醬是否夠味的直接意見,那么很有利于產(chǎn)品的改進(jìn)。但是你會為一個3元錢的煎餅去下載一個8M的APP嗎?
而在移動互聯(lián)網(wǎng)大會上,Evernote的CEO Phil Libin明確說自己產(chǎn)品的商業(yè)模式就是向用戶收費,讓他們甘心為產(chǎn)品體驗付費,而不玩當(dāng)下流行的大數(shù)據(jù)那一套。
知道自己能玩什么很常見,而知道自己不能玩不必玩什么更可貴。
04數(shù)據(jù)越多越好
從陳冠希到李宗瑞,無不透露出濃濃的收藏癖。那些被大家藏在硬盤深處的姑娘們,真的有重見天日的一天嗎?無論東京熱還是加勒比,由來只有新人亞買碟,有誰聽得舊人COME ON?
而搜一搜“存款 貶值”的關(guān)鍵詞,從“五十年前的百萬變13塊”,到“一萬元存一年賠19元”都可以看出,錢必須要用才有價值,數(shù)據(jù)也是一樣。
只有不停的使用數(shù)據(jù),挖掘數(shù)據(jù)背后的關(guān)系和價值,才能如滾雪球一般,使數(shù)據(jù)之間的相互關(guān)系更豐富更完善。
二.大數(shù)據(jù)的核心思想
01有什么不重要,怎么用才重要
在會上,無奈的發(fā)現(xiàn)每當(dāng)舉男女之間的例子,眾人理解能力就飆升,而講偏產(chǎn)品技術(shù)方面時,下面就一臉木然昏昏欲睡。(諸位!??!你們是來聽色情講座呢?)
Netflix公司利用大數(shù)據(jù)來拍《紙牌屋》的勵志故事大家都聽過無數(shù)遍。Netflix是美國最大的DVD與網(wǎng)絡(luò)視頻租賃網(wǎng)站,他們在國內(nèi)有2700萬用戶,全球有3300萬。他們從流媒體視頻用戶處收集到的數(shù)據(jù)是異常驚人的,每一次搜索,每一次暫停,每一次積極或者消極的評價,還有自己的位置數(shù)據(jù)設(shè)備數(shù)據(jù)社交媒體數(shù)據(jù),在分析完這些數(shù)據(jù)之后,發(fā)現(xiàn)自己的這些觀眾都喜歡演員凱文-史派西,還喜歡導(dǎo)演大衛(wèi)-芬奇,并且喜歡1990年的英國同名電視劇。三項綜合在一起,Netflix就下定決心拍攝《紙牌屋》,并將數(shù)據(jù)分析運用得淋漓盡致。在Netflix的觀影頁面上,提供暫停后截圖的功能,他們就依靠這種數(shù)據(jù)來判斷觀眾更喜歡哪種布景和畫面。
當(dāng)然,這三個因素其實都有不穩(wěn)定性,例如凱文-史派西也曾拍過只被評了4.2分的《弗雷德圣誕老人》,大衛(wèi)-芬奇首次執(zhí)導(dǎo)的《異形3》也成系列中口碑最差的一部。但是從概率上來說,這三個成功因素都包括的劇集更靠譜。
另外國政通推出的“同名同姓”應(yīng)用,雖然看起來比較偏娛樂化實用性不強(qiáng),但是這背后的那些身份數(shù)據(jù)是可以進(jìn)行各種二次利用。每次看到類似應(yīng)用,我總會把前同事“操瑞士”的奇葩名字輸進(jìn)去,現(xiàn)在只有這款應(yīng)用準(zhǔn)確的找到了全國只有1個操瑞士,并且是安徽人。呼叫瑞士大使館迅速鎖定他的位置吧!
所以大數(shù)據(jù)的核心并不是擁有數(shù)據(jù),而是拿數(shù)據(jù)去做了什么。也就是說你不能僅僅占有人家的身子,也要占據(jù)人家的心靈。
02對數(shù)據(jù)的容錯性更強(qiáng),來源更加多樣化
一個500M的用戶數(shù)據(jù)excel表算不算大數(shù)據(jù)?曾經(jīng)在做某款產(chǎn)品的用戶篩選時,這么一個excel成功拖死我電腦三次,我當(dāng)時憤怒的說:“KAO,這SB大數(shù)據(jù)!”現(xiàn)在想起來,我冤枉了大數(shù)據(jù)君,您受苦了。
真正的大數(shù)據(jù),應(yīng)該是從不同維度,不同途徑過來的各種格式數(shù)據(jù)碎片,并不限于文字/視頻/聲音/位置/圖片等。只有將不同維度的數(shù)據(jù)放在一起判斷,得出來的趨勢才有可能更真實。雷同的數(shù)據(jù)積累的再多,超過某一個限度之后,我們再從新樣本上獲得的有用信息就越來越少,就如同經(jīng)濟(jì)學(xué)上的邊際效應(yīng)遞減一樣。而用簡單點兒的話解釋就是如果你已經(jīng)交往過五個IT碼農(nóng),那么第六個其實也不會新鮮到哪里去,倒不如重新調(diào)整方向,換個高富帥找點兒不同的刺激。
多樣化的來源同樣可以避免陷在一個死胡同里出不來。例如以前經(jīng)常說的“三年自然災(zāi)害”,如果僅僅去查詢這三年的天氣狀況和死亡人數(shù)的關(guān)系。那么可能最后得出結(jié)論是“晴朗天氣比陰天更容易致人死亡”。但實際上如果去結(jié)合《人民日報》畝產(chǎn)十萬斤的相關(guān)翔實公正報道再加上那些年中國糧食對外進(jìn)出口情況,那么就會得出更有建設(shè)性的結(jié)論。在一90后妹子的追問下,只說了四個數(shù)字。1958年,中國出口糧食288.34萬噸,進(jìn)口22.35萬噸。困難時期第一年,1959年,中國出口415.75萬噸,進(jìn)口0.20萬噸,那年,聽說大家都好餓。別不多說,免得喝茶。
再舉個例子,這兩天淘寶首頁給我推送的個性化廣告除了情趣用品就是“花花公子”服飾大優(yōu)惠,我不就是為了找素材和配圖搜了一下“情趣用品”么?你們沒完沒了的給我推送這個,節(jié)操何在?如果你們能拿到我小學(xué)老師的評語,初中老師的評語和操行評定,高中老師的評語和操行評定,通過對多個來源不同的數(shù)據(jù)源分析,那么你們給我推送的一定會是《鋼鐵是怎么煉成的》《雷鋒日記》等好書。(大學(xué)老師的評語就算了,那廝打CS被我蹂躪了太久容易懷恨在心。)
03擁有大數(shù)據(jù)的身,也要有大數(shù)據(jù)的心
以往的數(shù)據(jù)分析,更多的是精確的樣本/深度的數(shù)據(jù)挖掘,“精確”就是其代名詞。不符合規(guī)格的樣本過濾掉,然后再深度挖掘數(shù)據(jù)字段間的關(guān)系,得出幾個精確無比數(shù)字去做PPT,或者從一系列數(shù)據(jù)里精準(zhǔn)的找到某個正一臉猥瑣偷拍姑娘的人。
但是大數(shù)據(jù)更多的是通過對各種數(shù)據(jù)分析得出某種趨勢,這種趨勢不必過于精確,但是能讓相關(guān)決策人有底氣去做某項決定。大數(shù)據(jù)不重要,重要的是使用大數(shù)據(jù)的人。
因為哪怕面向完全相同的數(shù)據(jù)源,不同的人得出的結(jié)論或者決定也可能是截然不同的。三國赤壁大戰(zhàn),當(dāng)龐統(tǒng)獻(xiàn)計“若以大船小船各皆配搭,或三十為一排,或五十為一排,首尾用鐵環(huán)連鎖,上鋪闊板,休言人可渡,馬亦可走矣”時,同時聽到這話的兩個人,曹操下席而謝,“非先生良謀,安能破東吳耶!”,而徐庶卻私下里扯住龐統(tǒng)“你好大膽,只恐燒不盡絕。”由此可見,“以人為本”是多么精辟的一句廢話啊!
無論你NB還是SB,數(shù)據(jù)總在那里,不離不棄。
04強(qiáng)調(diào)趨勢和未來
大數(shù)據(jù),更多的應(yīng)該是分析過去,提醒現(xiàn)在,展望未來。無法用到實踐中去的大數(shù)據(jù)都是耍流氓,無論這個結(jié)果是造福了全人類,還是幫助網(wǎng)站提高1%轉(zhuǎn)化率,這都是有用的。
上圖這充滿著暴力氣息的玩意是當(dāng)年冷戰(zhàn)期間美國和蘇聯(lián)研發(fā)的高速列車,他們將轟炸機(jī)上的渦輪直接裝在了火車頂上。其中美國的M-497號在1966年俄亥俄州的鐵軌上跑出了295.54公里/小時。雖然幾十年后,才有了現(xiàn)代高速鐵路,但是如果沒有最初的這種野蠻實驗,恐怕現(xiàn)在自主研發(fā)的高鐵也沒有那么充足的底氣。
談趨勢談大數(shù)據(jù),怎么能不提谷歌的流感趨勢呢?谷歌分析自己上億次的搜索查詢,近乎實時的提供全球許多國家和地區(qū)的流感疫情評估,從截圖可以看出,谷歌的趨勢曲線跟美國官方公布的數(shù)據(jù)重合度非常高,但是后者在時間和效率上完全無法比擬谷歌趨勢。
如果你在準(zhǔn)備出差的時候,發(fā)現(xiàn)你要去的地方正爆發(fā)鼠疫,我想大部分人肯定就哭著喊著辭職不去了。
再例如2012年美國某著名避孕套品牌發(fā)布校園性健康報告,報告表明在美國大學(xué)生中,25%得了性病,其中排名第一的是尖銳濕疣,得病率最高的學(xué)校是位于科羅拉多州的美國空軍學(xué)院(U.S. AIR FORCE ACADEMY)。然后緊接著,無聊的我又從學(xué)院官網(wǎng)中看到學(xué)校男生占比78.1%,女生占比21.9%。
從這些數(shù)據(jù)至少我們可以分析出一個結(jié)果:跟海歸一夜情之前,請查一下學(xué)位證。
三.大數(shù)據(jù)應(yīng)用瞎想
01醫(yī)療服務(wù)
通過一系列的病歷等數(shù)據(jù),得出某一類人的健康趨勢,例如“做IT8年”“每天加班6小時”“病中還堅持工作”“每天吃盒飯”“每天一包煙提神”“每天一杯咖啡提神”將這些標(biāo)簽具體到某一群人,然后個性化的推送一條如上圖的信息。
還有人要加班嗎?
02罪案預(yù)警
通過對全市的歷史罪案以及出警紀(jì)錄得出城市各種罪案高發(fā)區(qū)域,例如剁手區(qū)/掏包區(qū)/性侵區(qū)……等等,每天發(fā)布提醒,推送到市民的手機(jī)/平板等所有終端。我相信性侵區(qū)的流氓早晚會不堪重負(fù)而投案自首的。
03大齡青年相親
此想法如果搭配上類似Google Glass的可穿戴設(shè)備就更棒了,在上百人的男女相親大會上,你帶著功能齊全的眼鏡四處看妞,系統(tǒng)自動分析各種數(shù)據(jù),幫你找到最搭配的另一半,按照匹配度自動走在一起。當(dāng)然,如果那時紅外線透視功能很發(fā)達(dá),能加入匹配度最高可以付費看裸體的VIP功能就更棒了。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03