光“大”是不行的，開(kāi)放才能實(shí)現(xiàn)大數(shù)據(jù)的深發(fā)展_數(shù)據(jù)分析師

圍墻里的大數(shù)據(jù)注定成為死數(shù)據(jù)。大數(shù)據(jù)需要開(kāi)放式創(chuàng)新，從數(shù)據(jù)的開(kāi)放、共享和交易，到價(jià)值提取能力的開(kāi)放，再到基礎(chǔ)處理和分析平臺(tái)的開(kāi)放，讓數(shù)據(jù)如同血液在數(shù)據(jù)社會(huì)的軀體中長(zhǎng)流，滋潤(rùn)數(shù)據(jù)經(jīng)濟(jì)，讓更多的長(zhǎng)尾企業(yè)和數(shù)據(jù)思維創(chuàng)新者產(chǎn)生多姿多彩的化學(xué)作用，才能創(chuàng)造大數(shù)據(jù)的黃金時(shí)代。

　　我的大數(shù)據(jù)研究軌跡

　　我做了4-5年的移動(dòng)架構(gòu)和Java虛擬機(jī)，4-5年的眾核架構(gòu)和并行編程系統(tǒng)，最近4-5年也在追時(shí)髦，先是投入物聯(lián)網(wǎng)，最近幾年一直在做大數(shù)據(jù)。我們團(tuán)隊(duì)的大數(shù)據(jù)研究軌跡如下圖所示：

　　2010-2012年，主要關(guān)注數(shù)據(jù)和機(jī)器的關(guān)系：水平擴(kuò)展、容錯(cuò)、一致性、軟硬件協(xié)同設(shè)計(jì)，同時(shí)厘清各種計(jì)算模式，從批處理(MapReduce)到流處理、Big SQL/ad hoc query、圖計(jì)算、機(jī)器學(xué)習(xí)等等。事實(shí)上，我們的團(tuán)隊(duì)只是英特爾大數(shù)據(jù)研發(fā)力量的一部分，上海的團(tuán)隊(duì)是英特爾Hadoop發(fā)行版的主力軍，現(xiàn)在英特爾成了Cloudera的最大股東，自己不做發(fā)行版了，但是平臺(tái)優(yōu)化、開(kāi)源支持和垂直領(lǐng)域的解決方案仍然是英特爾大數(shù)據(jù)研發(fā)的重心。

　　從2013年開(kāi)始關(guān)注數(shù)據(jù)與人的關(guān)系：對(duì)于數(shù)據(jù)科學(xué)家怎么做好分布式機(jī)器學(xué)習(xí)、特征工程與非監(jiān)督學(xué)習(xí)，對(duì)于領(lǐng)域?qū)＜襾?lái)說(shuō)怎么做好交互式分析工具，對(duì)于終端用戶怎么做好交互式可視化工具。英特爾研究院在美國(guó)卡內(nèi)基梅隆大學(xué)支持的科研中心做了GraphLab、Stale Synchronous Parallelism，在MIT的科研中心做了交互式可視化和SciDB上的大數(shù)據(jù)分析，而中國(guó)主要做了Spark SQL和MLlib(機(jī)器學(xué)習(xí)庫(kù))，現(xiàn)在也涉及到深度學(xué)習(xí)算法和基礎(chǔ)設(shè)施。

　　2014年重點(diǎn)分析數(shù)據(jù)和數(shù)據(jù)的關(guān)系：我們?cè)瓉?lái)的工作重心是開(kāi)源，后來(lái)發(fā)現(xiàn)開(kāi)源只是開(kāi)放式創(chuàng)新的一個(gè)部分，做大數(shù)據(jù)的開(kāi)放式創(chuàng)新還要做數(shù)據(jù)的開(kāi)放、大數(shù)據(jù)基礎(chǔ)設(shè)施的開(kāi)放以及價(jià)值提取能力的開(kāi)放。

　　數(shù)據(jù)的暗黑之海與外部效應(yīng)

　　下面是一張非常有意思的圖，黃色部分是化石級(jí)的，即沒(méi)有聯(lián)網(wǎng)、沒(méi)有數(shù)字化的數(shù)據(jù)，而絕大多數(shù)的數(shù)據(jù)是在這片海里面。只有海平面的這些數(shù)據(jù)(有人把它稱作Surface Web)才是真正大家能訪問(wèn)到的數(shù)據(jù)，爬蟲(chóng)能爬到、搜索引擎能檢索到的數(shù)據(jù)，而絕大多數(shù)的數(shù)據(jù)是在暗黑之海里面(相應(yīng)地叫做Dark Web)，據(jù)說(shuō)這一部分占數(shù)據(jù)總量的85%以上，它們?cè)谝恍┕聧u里面，在一些企業(yè)、政府里面躺在地板上睡大覺(jué)。

　　數(shù)據(jù)之于數(shù)據(jù)社會(huì)，就如同水之于城市或者血液之于身體一樣。城市因?yàn)楹恿鞫Q生也受其滋養(yǎng)，血液一旦停滯身體也就危在旦夕。所以，對(duì)于號(hào)稱數(shù)據(jù)化生存的社會(huì)來(lái)說(shuō)，我們一定要讓數(shù)據(jù)流動(dòng)起來(lái)，不然這個(gè)社會(huì)將會(huì)喪失諸多重要功能。

　　所以，我們希望數(shù)據(jù)能夠像“金風(fēng)玉露一相逢”那樣產(chǎn)生化學(xué)作用。馬化騰先生提出了一個(gè)internet+的概念，英特爾也有一個(gè)大數(shù)據(jù)X，相當(dāng)于大數(shù)據(jù)乘以各行各業(yè)。如下圖所示，乘法效應(yīng)之外，數(shù)據(jù)有個(gè)非常奇妙的效應(yīng)叫做外部效應(yīng)(externality)，比如這個(gè)數(shù)據(jù)對(duì)我沒(méi)用但對(duì)TA很有用，所謂我之毒藥彼之蜜糖。

　　比如，金融數(shù)據(jù)和電商數(shù)據(jù)碰撞在一起，就產(chǎn)生了像小微貸款那樣的互聯(lián)網(wǎng)金融;電信數(shù)據(jù)和政府?dāng)?shù)據(jù)相遇，可以產(chǎn)生人口統(tǒng)計(jì)學(xué)方面的價(jià)值，幫助城市規(guī)劃人們居住、工作、娛樂(lè)的場(chǎng)所;金融數(shù)據(jù)和醫(yī)學(xué)數(shù)據(jù)在一起，麥肯錫列舉了很多應(yīng)用，比如可以發(fā)現(xiàn)騙保;物流數(shù)據(jù)和電商數(shù)據(jù)湊在一塊，可以了解各個(gè)經(jīng)濟(jì)子領(lǐng)域的運(yùn)行情況;物流數(shù)據(jù)和金融數(shù)據(jù)產(chǎn)生供應(yīng)鏈金融，而金融數(shù)據(jù)和農(nóng)業(yè)數(shù)據(jù)也能發(fā)生一些化學(xué)作用。比如Google analytics出來(lái)的幾個(gè)人，利用美國(guó)開(kāi)放氣象數(shù)據(jù)，在每一塊農(nóng)田上建立微氣象模型，可以預(yù)測(cè)災(zāi)害，幫助農(nóng)民保險(xiǎn)和理賠。

　　所以，要走數(shù)據(jù)開(kāi)放之路，讓不同領(lǐng)域的數(shù)據(jù)真正流動(dòng)起來(lái)、融合起來(lái)，才能釋放大數(shù)據(jù)的價(jià)值。