大數(shù)據(jù)是怎么產(chǎn)生的 它的商業(yè)機(jī)會在哪

近些年，大數(shù)據(jù)已經(jīng)和云計算一樣，成為時代的話題。大數(shù)據(jù)是怎么產(chǎn)生的，商業(yè)機(jī)會在哪？研究機(jī)會在哪？這個概念孕育著一個怎樣的未來？

昨天在車庫咖啡參加了一個小型的研討活動，就這些問題進(jìn)行了一些討論，我結(jié)合自己的一些理解做一個總結(jié)。

首先，大數(shù)據(jù)是怎么產(chǎn)生的？

1）物理世界的信息大量數(shù)字化產(chǎn)生的

例如劉江老師指出的好大夫網(wǎng)，將醫(yī)生的信息，門診的信息等數(shù)字化。其實(shí)還有很多，比如新浪微博將茶館聊天的行為（弱關(guān)系產(chǎn)生信息數(shù)字化），朋友聊天的行為數(shù)字化（強(qiáng)關(guān)系產(chǎn)生信息數(shù)字化）。視頻監(jiān)控探頭將圖像數(shù)字化。

2）社交網(wǎng)絡(luò)產(chǎn)生的

在雅虎時代，大量的都是讀操作，只有雅虎的編輯做一些寫操作的工作。進(jìn)入web2.0時代，用戶數(shù)大量增加，用戶主動提交了自己的行為。進(jìn)入了社交時代，移動時代。大量移動終端設(shè)備的出現(xiàn)，用戶不僅主動提交自己的行為，還和自己的社交圈進(jìn)行了實(shí)時的互動，因此數(shù)據(jù)大量的產(chǎn)生出來，并且具有了極其強(qiáng)烈的傳播性。

3）數(shù)據(jù)都要保存所產(chǎn)生的

一位嘉賓指出，舊金山大橋保留了百年的歷史數(shù)據(jù)，在時間跨度上產(chǎn)生了價值，很多網(wǎng)站在早期對數(shù)據(jù)的重視程度不夠，保存數(shù)據(jù)的代價很大，存儲設(shè)備的價格昂貴，但是時代變了，存儲設(shè)備便宜了，用戶自己產(chǎn)生的數(shù)據(jù)得到了重視，數(shù)據(jù)的價值被重視了。因此越來越多的數(shù)據(jù)被持續(xù)保存

其次，大數(shù)據(jù)和大規(guī)模數(shù)據(jù)的區(qū)別？

big data之前學(xué)術(shù)界叫very large data，大數(shù)據(jù)和大規(guī)模數(shù)據(jù)的差距是什么？我認(rèn)為在英文中l(wèi)arge的含義只是體積上的，而big的含義還包含重量上的，價值量上的。因此我認(rèn)為

1）大數(shù)據(jù)首先不是數(shù)量上的堆砌，而是具有很強(qiáng)的關(guān)聯(lián)性結(jié)構(gòu)性

比如有一種數(shù)據(jù)，記錄了世界上每一顆大樹每年長高的程度，這樣的數(shù)據(jù)不具有價值，因?yàn)橹皇呛唵味哑觥?/span>

如果數(shù)據(jù)變成，每一個大樹記錄它的，地點(diǎn)，氣候條件，樹種，樹齡，周邊動植物生態(tài)，每年長高的高度，那么這個數(shù)據(jù)就具有了結(jié)構(gòu)性。具有結(jié)構(gòu)性的數(shù)據(jù)首先具有極強(qiáng)的研究價值，其次極強(qiáng)的商業(yè)價值。

在比如，淘寶的數(shù)據(jù)，如果只記錄一個交易的買家，賣家，成交物品，價格等信息，那么這個商業(yè)價值就很有限。淘寶包含了，買家間的社交關(guān)系，購物前后的其他行為，那么這個數(shù)據(jù)將非常有價值。

因此，只有立體的，結(jié)構(gòu)性強(qiáng)的數(shù)據(jù)，才能叫大數(shù)據(jù)，才有價值，否則只能叫大規(guī)模數(shù)據(jù)。

2）大數(shù)據(jù)的規(guī)模一定要大，而且比大規(guī)模數(shù)據(jù)的規(guī)模還要大

要做一些預(yù)測模型需要很多數(shù)據(jù)，訓(xùn)練語料，如果數(shù)據(jù)不夠大，很多挖掘工作很難做，比如點(diǎn)擊率預(yù)測。最直白的例子，如果你能知道一個用戶的長期行蹤數(shù)據(jù)，上網(wǎng)的行為，讀操作和寫操作。那么幾乎可以對這個人進(jìn)行非常精準(zhǔn)的預(yù)測，各種推薦的工作都能做到很精準(zhǔn)。

最后，大數(shù)據(jù)的機(jī)會在哪里？對小公司的機(jī)會在哪？

圍繞數(shù)據(jù)的整個產(chǎn)業(yè)鏈上，我認(rèn)為具有以下機(jī)會

1）數(shù)據(jù)的獲得

大量數(shù)據(jù)的獲得，這個機(jī)會基本屬于新浪微博等這類大企業(yè)，大量交易數(shù)據(jù)的獲得，也基本屬于京東，淘寶這類企業(yè)。小企業(yè)基本沒機(jī)會獨(dú)立得到這些用戶數(shù)據(jù)。

2）數(shù)據(jù)的匯集

例如如果你要能把各大廠商，各大微博，政府各個部門的數(shù)據(jù)匯集全，這個機(jī)會將是極大的。

但，這個工作，做大了需要政府行為，做中檔了，要企業(yè)間合作，做小了，也許就是一個聯(lián)盟或者一個民間組織，比如中國爬盟。

3）數(shù)據(jù)的存儲

匯集了數(shù)據(jù)后，立即遇到的問題就是存儲，這個代價極大，原始數(shù)據(jù)不能刪除，需要保留。因此提供存儲設(shè)備的公司，執(zhí)行存儲這個角色的公司，都具有巨大的市場機(jī)會，但是這也不屬于小公司，或者早期創(chuàng)業(yè)者。

4）數(shù)據(jù)的運(yùn)算

在存儲了數(shù)據(jù)以后，怎么把數(shù)據(jù)分發(fā)是個大問題，各種API，各種開放平臺，都是將這些數(shù)據(jù)發(fā)射出去，提供后續(xù)的挖掘和分析工作，這個也需要有大資本投入，也不適合小公司。

5）數(shù)據(jù)的挖掘和分析

數(shù)據(jù)需要做增值服務(wù)，否則數(shù)據(jù)就沒有價值，big也big不到哪里去，是沒有價值的big。因此這種數(shù)據(jù)分析和挖掘工作具有巨大的價值，這個機(jī)會屬于小公司，小團(tuán)體。

6）數(shù)據(jù)的使用和消費(fèi)

在數(shù)據(jù)做到了很好的挖掘和分析后，需要把這些結(jié)果應(yīng)用在一個具體的場合上，來獲得回報，做數(shù)據(jù)挖掘和分析的公司，必須得找到這些金主才行，而這些金主肯定也不是小公司。

大數(shù)據(jù)未來的形態(tài)，或者產(chǎn)業(yè)鏈結(jié)構(gòu)一定是分層的，巨大的，價值的體現(xiàn)發(fā)生在各個層次，每個層次都是生態(tài)鏈的重要一環(huán)，都孕育著巨大的機(jī)遇和挑戰(zhàn)，我們能做的唯有努力，做適合自己的工作。