大數據面臨的挑戰(zhàn)復雜艱巨

“未來的信息世界是"三分技術，七分數據"，得數據者得天下?！痹诮沼诒本┱匍_的大數據與數據科學進展主題論壇上，中國工程院院士陳鯨表示，繼實驗科學、理論科學、計算機科學之后，以大數據為代表的數據密集型科學將成為人類科學研究的第四大范式。

“大數據中蘊藏著關乎社會動向、市場變化、科技發(fā)展、國家安全的重要戰(zhàn)略資源。”陳鯨認為，大數據會為國內處理器芯片自主研發(fā)行業(yè)提供重大機遇，也會有更多應用數據技術的新興公司和經營模式出現。

不過，雖然大數據的前景燦爛，但在陳鯨看來，其面臨的挑戰(zhàn)也非常復雜和艱巨。

首先便是數據的異構性和不完備性。陳鯨解釋說，大數據來源多樣，且越來越多地分散在不同的管理系統(tǒng)中。據不完全統(tǒng)計，目前采集的數據85%以上是非結構化和半結構化數據，因此不能用已有的簡單數據結構來描述。而傳統(tǒng)關系數據庫又無法高效處理這些復雜數據結構表示的數據。數據的不完備性主要是指所獲取的大數據常常包含一些不完整信息和錯誤數據。因此，在進行大數據分析處理之前，必須對這種數據的不完備性進行有效處理。

另一個嚴峻挑戰(zhàn)便是大數據處理的時效性。隨著時間的流逝，大數據中所蘊涵的知識價值也隨之衰減，其價值與時效性密切相關。陳鯨表示，一般數據樣本量越大，分析處理時間會越長，但在許多情況下，大數據用戶要求立即獲得數據分析結果。這就要求為復雜結構的數據建立合適的索引結構，并要求索引結構的設計簡單、高效，且在數據模式發(fā)生變化時能很快進行適應性調整。

陳鯨也提到了大數據應用中的安全與隱私保護問題?！皳斍八莆盏馁Y料分析：人們在互聯(lián)網上的一言一行，基本上都掌握在互聯(lián)網商家手中。例如，淘寶知道用戶的購物偏好，騰訊知道用戶的好友聯(lián)絡情況，百度知道用戶的檢索習慣等。而目前，中國還沒有專門的法律法規(guī)來界定用戶隱私。”另外，“如何在大數據環(huán)境下確保信息共享的安全性？如何為用戶提供更為精細的數據共享安全控制策略？這些問題都值得深入研究”。

高能耗則是陳鯨關注的制約大數據快速發(fā)展的另一個瓶頸。據2012年的資料顯示：谷歌數據中心的年電功率約為3億瓦，Facebook為6000萬瓦左右。最令人驚訝的是，在這些巨大能耗中，實際只有6%～12%的能量是真正用于響應用戶查詢請求的，絕大部分電能則是被用來確保系統(tǒng)服務器處于正常待機狀態(tài)，以應對突如其來的用戶查詢網絡流量高峰。

對此，陳鯨建議，可以考慮采用新型低功耗硬件以及建立計算核心與二級緩存的直通通道，從應用、編譯器、體系結構等多方面協(xié)同優(yōu)化，另外就是引入可再生新能源。

陳鯨還談到了大數據管理易用性方面的挑戰(zhàn)，“復雜的分析過程和難以理解的分析結果會制約各行各業(yè)從大數據中獲取知識的能力”。他認為，大數據分析結果的可視化呈現，將是大數據管理易用性方面要解決的重要問題。

陳鯨同時強調，我國亟待提出適合國情的大數據發(fā)展戰(zhàn)略和技術路線。“大數據研發(fā)計劃是搶占信息技術發(fā)展制高點的重大舉措，將解決數據爆炸性增長帶來的管控和利用難題，同時改進對大數據的獲取、管理、挖掘和利用能力，實現數據到知識、知識到決策、決策到行動的快速轉化，推動人類社會進一步向智能化邁進?！?/span>